，僅以第三十六師團兩個聯隊各一部守備已修好的白圭至沁縣段。劉伯承與鄧小平決心乘隙發起破擊戰役。

5月2日，劉伯承、鄧小平向各參戰部隊下達了戰役計劃。

計劃規定的戰役綱領是：

一、協同民眾連續破毀鐵路，搬完鐵軌，燒完枕木，炸燬橋樑涵洞，打斷敵人修通白晉鐵路的企圖；二、堅決消滅大隊以下由據點出擊之敵；三、奪取與燒燬敵人軍用品，救出和爭取修路工人。

各部隊的任務是，師特務團結合地方游擊隊，破擊東觀至來遠段；第三八五旅、平漢縱隊主力與邊區縱隊第一、三團，破擊來遠至權店段，並奪取來遠、南關敵人的軍用物資；第三八六旅及決死第一縱隊破擊權店至柳村段。

各部隊並動員廣大群眾協助破路。

與此同時，冀南、冀西部隊和新編第一旅、青年縱隊、決死第三縱隊、總部特務團、冀中警備旅、晉察冀挺進支隊等部，紛紛向有關交通線和據點之敵積極破襲，配合白晉戰役。

5月5日，劉伯承、鄧小平率師指揮部西移榆社以西的周莊。當天，白晉戰役發起。各破擊部隊在2萬餘群眾協助下，在南北200餘里的鐵路線上，展開了聲勢浩大的破擊作戰，猛烈地襲擊了白晉沿線沁縣、固亦、漳源、權店、南關及來遠各據點的敵人。

當晚，第七六九團攻入白晉線上的重要據點南關。這是一次見智見勇的出色戰鬥。戰前，第三八五旅旅長陳錫聯帶領團、營幹部化裝偵察了南關的敵情，勘察了地形，果斷決定把攻擊的重點由來遠轉到南關。南關位於白圭至沁縣的中間，地處武鄉、祁縣、平遙3縣交界的峽谷裡。四周山巒環抱，鐵路從該鎮南北曲折延伸而去，是白晉線北段的一個重要補給站，存有大量炸藥等軍用物資，關押著日軍從河北、山東抓來的1000餘名修路民工。日軍為了守住南關據點，駐有一個200餘人的加強中隊，另有偽軍200餘人。鎮口築有兩座堅固的碉堡，鎮內沿街房屋經過改造，設有密集的火力點。

陳錫聯認為，南關雖然易守難攻，但如果突破這一點，將把己修建的白晉鐵路北段攔腰切斷，有利於整個肢擊戰的進行；而且南關這個險要地段經過徹底破壞，將會大大增加敵人修復的困難。於是，他調整了原先的部署，把攻打南關的任務交給了第七六九團。

第七六九團團長鄭國仲、政委鮑先志，發動營裡的幹部動腦筋想辦法，制定了“腹地開花”和裡外結合的作戰計劃。戰鬥發起前，派第三營在內線人員的接應下潛入鎮內，令第二營鉗制外圍碉堡裡的敵人，以第一營為預備隊。第三營在夜色掩護下一直摸到鎮內的大街上才被敵人發覺，第三營先敵開火，戰鬥就此展開。戰士們勇猛地向日偽軍發起衝擊，沿大街逐屋爭奪，漸漸把敵人壓縮到司令部的一所房子裡。第二營在第一營的掩護下從碉堡夾道中衝入鎮內，然後會合第三營攻克了日軍司令部。團指揮員令工兵利用繳獲的炸藥炸燬了鎮口那兩座碉堡。

第二天早晨，戰鬥勝利結束。除少數日軍從地道逃走外，其餘敵人全部被殲，日軍中隊長峰正榮也被擊斃，繳獲黃色炸藥近2000箱和大批軍用物資。此外，還解救了被關押的民工。

南關戰鬥打得正激烈的時候，權店敵人出動增援，平漢縱隊和第三八五旅獨立第二團堅決扼守分水嶺、來沙堰，擊退了敵人。

南關戰鬥結束前，劉伯承、鄧小平年師指揮所又前出到南關以東10餘公里處的前莊，指揮參戰軍民展開全面的破路運動。人們扒的扒、挖的挖、搬的搬、抬的抬、燒的燒？？敵人苦心經營1年多的白晉鐵路，很快被嚴重破毀了。

南段破擊隊中的決死第一縱隊第四十二團，乘敵人的注意力被吸引到白晉線上的機會，奔襲同蒲路趙城車站東北的劉家莊，一舉殲滅日軍40餘人，繳獲槍支彈藥一批。

白晉戰役，經一日兩夜作戰，破壞鐵路100餘里，毀大小橋樑50多座，火車1列，斃傷敵350餘人。這是沉重打擊日寇“囚籠政策”的一次重要戰役，取得了破擊作戰的寶貴經驗，鼓舞了廣大軍民開展交通鬥爭的勝利信心。

白晉戰役結束後，劉伯承、鄧小平率部東返。5月20日，第一二九師在榆社以南的譚村召開營以上幹部會議。會上，劉伯承作了白晉戰役戰術總結。

他按慣例講了敵情和戰役一般收穫，然後進行了戰術講評、作戰部署檢查和講述了破擊戰的幾個技術問題。

戰術講評，對參戰部隊分別指出了戰術運用的優缺點，著重強調了各自最突出的特