二兩集團軍在曹、豐間確取連絡，實行戰略展開。2月16日轉抵開封，召集馮玉祥及第二集團軍總參謀長劉驥、山西閻錫山代表邵某，第一集團軍總參議何成浚，總司令部參謀處長葛敬恩等，商討北伐大計。與會人士均主早日大舉，尤以第三集團軍方面主張尤為激切。當晚，蔣、馮兩總司令，復密商大舉北伐日期，及軍隊調動，戰線調整，軍費籌措，軍實給養諸大端，決定總攻步驟。

北京方面張作霖在17年2月初旬召開幹部會議，圖謀反攻，作全面之進犯，到了2月中旬，第二次召集幹部會議，決議對京漢及山西方面取攻勢，對津浦路方面取守勢。最後則改為對京漢及津浦路均取守勢，惟對山西則取急劇之攻勢。以張學良的三、四方面軍主力及張作相軍攻晉，以三、四方面軍的一部配置於京、漢路對豫北取守勢，其他褚玉璞、孫傳芳、張宗昌三部，則配置於大名、濟寧、臨沂一帶，對南取攻勢防禦。打算先下山西，然後向南進展。

民國17年4月1日，蔣中正在徐州行轅除通令第二、第三集團軍期以4月7日開始總攻擊外，並於4月3日召集所屬參謀長至徐面授作戰命令。蔣中正並於4月7日誓師。

蔣所親自指揮之第一集團軍戰略目標，集中優勢兵力，以兩翼包圍擊破魯南及濟寧地區北洋軍進佔濟南為主，全軍在徐海、碭山、隴海路以北地區集中，其所屬各軍團按以下位置部署：

第一軍團在徐州東方八義集、大許家、賈旺、利國驛及徐州附近集中。

第二軍團在海州、新安鎮、運河北站附近集中。

第三軍團在豐縣、沛縣各附近集中。

第四軍團在單縣、城武各附近集中。

第二集團軍第一方面軍（孫良誠部）在曹縣、菏澤各附近。（霸氣　書庫　｜。。）

4月10日張靜愚的航空隊偵察發現北洋軍之鐵甲車扼守韓莊、運河鐵橋北端，韓莊東運河北岸工事堅固。革命軍乃展開攻擊，經激戰後，攻克禹王山、勝陽山、王母山、車輻山，當晚攻克臺兒莊，北洋軍向嶧縣退卻。革命軍第一軍之第一師進佔紅廟、閻莊等處，第三師佔領單莊、溝上之線；第二師進至利國驛，第十軍進佔莊家場、吳閘子、三叉河。11日佔領王莊及郯城。13日佔領韓莊、沙溝。

4月14日北洋軍作殊死鬥，孫傳芳在蘇、魯邊界豐沛一帶反攻，為張宗昌聲援。而張宗昌亦親臨前線督部猛攻，革命軍奮不顧身，反覆衝殺，擊潰敵軍攻勢，佔領臨城。18日攻入滕縣。19日佔領鄒縣及曲阜。20日攻入兗州，圍殲北洋軍於嶧縣。

張宗昌所部軍隊，在安國軍七個方面軍團中為數最多，但流品複雜，漫無系統，其番號連張的幕僚亦欠明瞭。迄大戰前始將軍隊裁併改編，除人槍較多者仍保留師番號外，其餘編為中將、少將、上校三種支隊，名目番號始稍整齊，但實際各軍改編者仍不過四分之一，裁撤者僅張敬堯之第二軍，餘無變動。而各軍之編制亦終未劃一，每軍人數眾寡不等，有二三師者，有一師者，甚至所部上兵手無寸鐵，亦號稱軍長者。至各軍軍長兼任師長，幾成慣例。其下屬編制亦極紊亂，每連或七八十名，或一二十名，因之戰鬥力亦殊脆弱。至於孫傳芳所部，則仍按北洋軍制（按即前陸軍部頒訂之軍制）的成規編配，官兵亦較有歷史，較有訓練，戰鬥力頗強；惟自南潯路戰敗後，士氣不振，軍實復缺，已成強弩之末。

孫傳芳和張宗昌的部隊自被革命軍於兗州、濟寧擊潰後，即退集泰安、肥城、濟南，而濟南的爭奪更是中外所最關心的一幕。

孫傳芳、張宗昌兩部，自慘敗退至高吳橋、馬坡、泗河、官莊、大廠各附近，又退向博山、泰安，張宗昌打算以泰安天險為恃，企圖死守，孫傳芳則以五師之眾退據肥城，以三個師配備於城外刀山谷、鳳凰莊一帶，構築堅固工事和張宗昌軍聯絡，其餘兩師則歸馬寶珩指揮，置主力於萬德、界首。

蔣中正於民國17年4月23日，在兗州行營綜合各方狀況，判知張作霖擬借直、魯聯軍之掩護，企圖向東三省總退卻，乃決心使第一集團軍乘勝猛追，攻佔濟南，並期在黃河以南將其殲滅。

4月23日革命軍各部隊開始行動。25日賀耀祖指揮之第三軍團於大舍、大石橋線向店臺、長城、大萬德、小萬德等地攻擊前進。方振武指揮之第四軍團則向肥城猛攻。其他各軍亦向北洋軍進擊。

5月1日張宗昌、孫傳芳以濟南陷於孤立，勢難久守，乃向德州撤退，革命軍遂攻佔濟南，劉峙進駐山東舊督署。

蔣中正於5月2