如歸順，可授他為安國軍節度使。郭無謂見到詔書後，心中活動，便把寫給劉繼元的詔書呈上，卻把寫給自己的隱瞞下來，並竭力勸劉繼無歸順宋朝，劉繼元卻不肯聽從。

使者回來以後，匡胤得知劉繼元不肯歸降，便決定御駕親征北漢。

十一月冬至節，匡胤祭把大廟，下旨將乾德六年改為開寶元年。並令樞密院調集兵馬，準備北征。

又過三個月，已是開寶二年二月了。一切準備就緒，匡胤讓宣徽南院使曹彬和步軍都指揮使党進為前部先鋒，自己則親統大軍於二月十六日由汴京出發北征。御弟趙光義留守汴京。

大軍到了晉陽城下，把個晉陽團團圍住。由李繼勳攻南城，趙贊攻西城，曹彬攻北城，党進攻東城。一聲鼓聲盈天，殺聲震地。城中一片驚慌。北漢宰相郭無謂想趁機說服劉繼元降宋，趁劉繼元召叢集臣聚會時，拔劍在手，走到庭中大哭，說道：“像西蜀那樣幅員千里，雄兵二三十萬的大國，還亡於宋之手，何況我們這兵不滿萬的孤城，如何能抵抗宋兵百萬雄師，不如一死了之。”

說畢，裝模作樣，要用劍自殺。

劉繼元見了，慌忙下殿，攜住郭無謂的手，把他拉上殿來好言安慰；勸他不必性急。都無謂不來就不是真正想百殺，不過是表演一番，想動搖北漢眾臣之心罷了。如今見目的已達，劉繼元來勸，也便趁好收蓬。

誰知北漢的將領楊業、馮進河等，卻沒有被郭無謂所嚇倒，堅持主張抵抗，並且建議劉繼元，速派人去向契丹求救。劉繼元採納了他們的建議。當即使了可靠種將，趁夜色掩護，吊下城去，潛過來兵營寨，飛奔契丹求救去了。

北漢將領楊業不但武藝出眾，而且謀略超群，能功善守，負責保衛晉陽，親自登城指揮眾軍防守。他見城外宋兵不下十萬人，而城內北漢兵不滿一萬，便不採取硬拼的打法，堅守城池。看見宋兵疏於防守時，便親自帶一批騎兵突出城去，擾亂一陣，待宋兵聞訊集，前來拒抗時，他便迅速收兵回城。弄得來兵毫無辦法。

匡胤見了大怒，指揮眾將士齊力攻城，可是楊業在城頭防守十分嚴密，宋軍終久無法突到城頭。這時有個偏將陳承詔進言說：“陛下尚有數千萬兵在左右，為什麼不投入使用呢？”

匡胤一時沒領會過來。只見陳承詔用鞭稍一指汾水，說道：“此即是兵。”

匡胤恍然大悟，說道：“楊業呀楊業，當年圍晉陽時，曾被你用水淹辦法來守城，今日朕要以其人之道治其人之身，用水淹來攻破你們的晉陽。”

便派了將士，去堵塞汾水下流，引水來灌城。

忽有探馬來報，遼兵分兩路來援北漢，匡胤便命大將何繼筠和韓重，分頭去迎擊。不數日，捷報傳來，遼兵已被擊退。匡胤便叫竭力攻城。

這時，汾水已漲得接近城頭，匡胤便令將士乘小船駛向城邊猛攻，步軍都軍頭王廷義立於船頭，親自擂鼓督促士兵前進，楊業在城上看得親切，一箭射去，正中正廷義面門，箭鏃直透腦部而死。殿前指揮使都虞候石漢卿也中流矢落水溺死。匡胤見死傷過多，只好傳令收兵。一時也想不出破城辦法。

又停了幾日，南城牆終於被水衝潰了一個缺口，水直往城內灌去，城中大驚。北漢兵慌忙來堵口，卻被宋兵用箭射住，北漢兵無法接近缺口，這時楊業立即命令士兵，捆紮一捆捆的柴草投入水中，草堆浮至缺口處，因水淺而擱住，宋兵放箭不能穿透草堆，北漢兵便又趁機把缺口堵塞住了。

那北漢宰相郭無謂在城內不斷勸劉繼元投降，引起劉繼無反感，正巧有人告密說，郭無謂與宋軍有勾結。劉繼元便派兵突然搜查郭無謂住所，查出了宋朝發給他的詔書。劉繼元便將郭無謂斬首。自此，北漢無人敢再勸說劉繼元投降的了。

這樣堅持了三個月，晉陽仍未攻下，天氣漸漸到了盛夏，宋兵因為常在水邊，氣候潮溼，很多人患了痢疾。

楚昭輔向匡胤道：“北漢有楊業這樣深通兵法的良將，晉陽一時攻打不下，再者我軍士兵因暑熱而患病者多，望陛下能多體恤士卒，不如暫時班師，以待時機。現在天下僭號稱王稱帝的，大都已歸順，這晉陽彈丸之地，成不了什麼氣候。暫時不取，也無傷大局。”

匡胤因問趙普，趙普也以為然。於是匡胤便下旨班師回京。

楊業見宋兵退走，哈哈大笑，說道：“宋兵以水淹城，只知其一而不知其二，如果先漲水淹城，再退水，則晉陽不復為北漢所有了。”

便引兵出城決堤放水，水落之後，那些城牆由於經水浸泡