在後金軍逐漸撤出關外的同時，明軍兩支軍團也在尾隨而來。

一支是即盧象升秦良玉吳開先東征兵團，由督師盧象升帶領下，三軍在遷安會師後就根據吳開先的建議一路北上從桃林口出關，在燕山中的崇山峻嶺中穿行準備堵截後金兵和擄眾。

另一支是關寧兵團，以閣老督師孫承宗為首，麾下有山海關的官維賢李維翰部，馬世龍部，尤世祿部，前屯的孫元化孔有德兵團和錦州的祖大壽兵團，人數約五萬人。但這支兵團基本是黃臺及所說的坐兵，畏戰心理嚴重，山頭多又互不信任，一路又以金兵窺探缺糧少餉故意拖延時間，故逡巡半個月未抵遵化城下。

天啟十年二月十八日，關寧軍團在拿下遷西空城後終抵遵化城下，隨行的還有十門重達兩千斤的紅夷大炮，這是徐光啟弟子孫元化親手監製，按寧遠城頭紅夷大炮原樣打造的攻城重器，操炮則由孫元化手下的孔有德部擔任。火炮威力巨大，孫承宗對其寄予厚望。

關寧軍來到遵化城下，祖大壽提議說建虜強悍，前番覆沒之劉之綸部可以佐證，為避免過大損失，建議將東南西三面圍住，只留北面以使守軍思逃而無戰心，日久金兵必逃。孫承宗和眾將合議後覺得此法可行。於是安排馬世龍攻東門，尤世祿攻西門，祖大壽部在北門外圍埋伏。孔有德部主攻南面，該部以紅衣炮擊打城垛，城垛無不立碎，守軍無可憑依，於是用麻袋盛溼土充當城垛，屢毀屢建，而阿敏、納暮肽、圖爾格、湯古代四人領軍拼死抵抗，關寧軍一時不能攻入。

攻城戰因此陷入膠著狀態。

......

遵化城裡，隨著明軍的到來，守軍的緊張情緒也繃緊到了極限。阿敏也不尋歡作樂了，晝夜緊縮眉頭在城中巡視，兵士稍有懈怠恐慌便施以嚴懲，是以人人不敢放鬆。阿敏隨後又調整了部署，以兩個金兵帶一個降金漢人在城上巡邏防衛。城中降兵降官也被打亂建制散入金營中。為打消降人的疑慮，阿敏說這是為了他們更好的融入。

十九日，在明軍轟城的第二天三更時分，在人睡得最熟的時候，隨著連續急促的敲鐘聲，軍營中，假寐的後金兵紛紛取出暗藏的利刃，隔著被子就把熟睡中的漢人降兵亂刀攮死；城頭上，眾多漢人降兵遭受突如其來的刀刺、錘擊、勒頸、斧斫而死；個別警醒的逃過首輪突襲，也隨即被有備而來的金兵用長刀硬弓殺死；在屠盡降金漢人後，後金兵又衝進其家中，將其妻兒老小蹂躪屠戮殆盡，盡取其金銀財帛而走。遵化城中，一大批屈膝投降後金的變節者，包括都御史馬思恭、兵備賈維鑰、知府張養初、知州楊耀、都督李繼春、內應朱應泰、柴通、卜文磺等和一千多降金漢丁死前做夢也想不到，將他們亂刀殺死的居然是他們頂禮膜拜又並肩戍守作戰了四個月之久的後金主子。

這次屠殺後被稱為“遵化長刀之夜”，究其原因，大概是少許留守降兵猜出黃臺及的意圖，又見遵化成為孤島，大明大軍壓境，內心開始動搖，被阿敏佈置的暗哨監聽到。阿敏本來就很鄙視降官降兵，也知道堡壘最容易從內部攻破的道理，他生怕遼陽瀋陽開關延敵的例子發生在自己身上，於是一不做二不休，將降金漢人盡數殺死，隨後棄遵化而北逃。

次日關寧兵團照例轟擊一天，見守軍毫無動靜，於是以重金賞格派出敢死隊攀城而上檢視，終於發覺了金兵棄城而走的事實，城中降金漢人屍橫遍野的慘狀也嚇壞了關寧軍，他們真沒想到後金軍是這樣殘忍無情，連早已投降的友軍都下得了狠手。屠殺降兵鐵一般的事實也教育了那些意志不堅定的官兵，在後來的大淩河圍城戰中起到了反面教材應有的作用。