時而突襲，時而撤退，讓敵軍防不勝防。在唐軍的不斷騷擾下，宋金剛的糧草供應逐漸出現問題，士兵們計程車氣也受到了極大的影響。

為了進一步削弱敵軍的補給線，李世民採取了分兵騷擾的策略。他分兵隰、汾，直搗敵軍的要害，對劉武周漫長的補給線進行持續不斷的騷擾。劉武周漫長的補給線上，最薄弱的地方是雀鼠谷，李世民就從隰、汾側擊這個狹窄的通道，破壞敵軍的補給。而劉武周要保護自己的補給線困難得多，呂梁山為唐軍所控制，在出呂梁山以前，唐軍幾乎沒有危險。經過一番激烈的較量，唐軍逐漸佔據了上風，宋金剛軍糧草匱乏，難以支撐。

在這段相持的日子裡，李世民並沒有閒著。他深知情報的重要性，於是派出大量的探子，深入敵軍內部，收集情報。透過這些探子的努力，李世民對敵軍的部署、兵力分佈以及行動規律有了深入的瞭解。

與此同時，李世民還注重安撫當地百姓。他深知百姓是戰爭勝利的基礎，只有得到百姓的支援，才能贏得這場戰爭。於是，他釋出王教曉諭百姓，承諾會保護他們的安全，讓他們過上安定的生活。百姓們聽說李世民率軍前來，無不前來歸順，由近及遠，前來的人日益增加。在百姓的支援下，唐軍逐漸徵收糧食，軍糧問題得到了緩解。

武德二年（619 年）十二月，唐高祖遣永安王李孝基攻打夏縣的呂崇茂。呂崇茂不敵，急忙向宋金剛求援。宋金剛不敢怠慢，立即派尉遲恭、尋相前往救援。結果，唐軍在尉遲恭和尋相的猛烈攻擊下，全軍潰敗。

尉遲敬德、尋相擊敗唐軍後，準備回澮州。秦王李世民得知這個訊息後，決定抓住這個機會，打擊敵軍計程車氣。他派兵部尚書殷開山、總管秦叔寶等人在美良川設下埋伏。當尉遲恭、尋相的軍隊進入埋伏圈後，唐軍突然殺出。一時間，喊殺聲四起，火光沖天。尉遲恭雖然勇猛，但在唐軍的突然襲擊下，也陷入了困境。經過一場激烈的戰鬥，唐軍大敗尉遲敬德，殺了二千多人。

不久，尉遲敬德、尋相又秘密帶精騎往蒲反援救王行本。李世民得知後，親自率領三千步兵騎兵，從小路連夜趕到安邑。當尉遲敬德、尋相的軍隊到達安邑時，李世民的軍隊如神兵天降，對他們發起了突然襲擊。尉遲敬德、尋相二人隻身逃脫，部下全部被俘。李世民又回到柏壁，繼續堅守。

武德三年（620 年）正月，唐將軍秦武通擊降王行本。二、三月，唐將王行敏、李仲文分別在潞州、浩州擊退劉武周軍的進攻。唐將張德政襲斬護運糧餉的劉武周部將黃子英，佔領張難堡，成功切斷了汾水東側的宋金剛軍糧道。

經過半年左右的相持，宋金剛所部糧草消耗殆盡，士氣大不如從前。看著日益疲憊、士氣低落計程車兵，宋金剛知道，繼續這樣下去，只有死路一條。於是，他決定向北撤退。

李世民一直密切關注著敵軍的動向，當他得知宋金剛開始撤退時，心中大喜。他知道，期待已久的戰機終於到來了。李世民當機立斷，當即率全軍追擊。

唐軍如猛虎下山一般，沿著敵軍撤退的路線，窮追不捨。在呂州，唐軍追上了宋金剛所部的後衛部隊。這是一場激烈的戰鬥，唐軍士氣高昂，而敵軍則無心戀戰。在唐軍的猛烈攻擊下，宋金剛的後衛部隊全軍覆沒。

隨後，李世民馬不停蹄，一晝夜急行軍 200 餘里，在鼠雀谷追上了宋金剛。此時的宋金剛軍隊，已經疲憊不堪，士氣低落。而唐軍則士氣高昂，如同餓狼一般。李世民一聲令下，唐軍向宋金剛的軍隊發起了猛烈的攻擊。

一天之內，唐軍與宋金剛的軍隊交鋒八次，每一次交鋒，唐軍都取得了勝利。戰場上，喊殺聲、兵器碰撞聲交織在一起，鮮血染紅了大地。唐軍如秋風掃落葉一般，將宋金剛的軍隊打得落花流水。這一天，唐軍殺死、俘虜了數萬人，取得了輝煌的勝利。

當夜，唐軍在雀鼠谷西原宿營。經過一天的激戰，士兵們都疲憊不堪。李世民也已經兩天沒有吃東西，三天沒有脫下盔甲了。全軍只有一隻羊，李世民與將士們分吃了這一隻羊。在艱苦的環境中，李世民與士兵們同甘共苦，進一步凝聚了軍心。

四月二十三日，李世民帶兵赴介休。此時的宋金剛還有二萬人，他在介休西門列陣，將軍佇列成了 7 里長的陣勢。戰場正面狹窄，不利迂迴，且敵軍背城列陣，不易潰散。

李世民深知這場戰鬥的艱難，但他並沒有退縮。他冷靜地分析著敵軍的陣勢，制定了詳細的作戰計劃。李世民派出秦叔寶、程知節等為北路，翟長孫等在南，攻擊宋金