他並不跟北方軍閥走，16年初他便和南方革命軍暗通聲氣。

早在16年6月3日，山西即改懸青天白日滿地紅國旗，閻錫山同時把所屬12萬晉軍改編為北方國民革命軍，由大同、娘子關兩路移動，不過閻對張作霖仍維持良好的關係，他有代表常駐北京，張作霖也有代表駐太原。5日閻錫山電張作霖宣告，晉軍出動系因奉軍北退，擔心臨時不易佈防。僅駐東天門，現已停駐井陘，不再前進。當天太原開國民大會，擁閻擔任國民革命軍北方總司令。第二天閻就任總司令職，通電服從三民主義。6月28日張作霖派邢士廉赴太原與閻商議解決時局的辦法，奉軍在京綏路增加兵力兩旅，防阻商震。邢士廉勸閻和奉張合作的任務未完成，閻駐北京之代表李慶芳則向張提取消大元帥府的主張，張、閻之間藕斷而絲未連。

7月17日晉軍佔領石家莊，奉軍退走正定，晉軍向南推展至順德。19日晉軍徐永昌部進駐石家莊，奉軍在正定、定州、保定佈置三道防線。22日張作霖向山西代表提出晉軍撤出石家莊的強硬要求，在保定、德州之奉軍準備進攻河南馮玉祥軍隊。25日張作霖和張宗昌分別派遣代表赴太原向閻錫山提議，請撤走石家莊駐軍以便奉魯軍南下進攻馮玉祥軍，閻置之不理。

張作霖始終不願對閻採取強硬態度，也不打算把閻逼上梁山，直到9月初才決定對晉用兵。

奉、晉戰爭的爆發，是由奉軍檢閱使於珍被晉軍商震部隊扣留而引起的，這是16年9月27日的事。這天由張家口開往包頭的第一次客車過永嘉堡車站，鐵軌忽被晉軍拆毀，在這列客車中，掛有奉方大員於珍和趙倜等專車，他們是前往綏遠檢閱軍隊的，在陽高車站被晉車截留，解送大同。

張家口是奉軍防區，當第一次客車失去訊息後，張家口車站即不斷向大同車站查詢第一次客車到達何處，及由包頭開往張家口的第四次客車何時到達？大同車站均無答覆。奉軍第九軍司令部聞訊亦向陽高車站電詢一切，亦無音信。奉軍於是感覺到出了麻煩，當天下午晉軍發動攻奉的訊息遂傳遍張家口。

奉軍第九軍長高維嶽獲知晉軍對奉軍攻擊，以事出倉卒，乃急調軍隊開往前方阻御，而晉軍已將柴溝堡實行佔領。

閻錫山致電南京國民政府，宣佈誓師討奉。同時把晉軍編為三個軍團，共轄12個軍，17個師，12個騎兵師，7個獨立旅，共擁眾20餘萬人。其編制如下：

北方革命軍總司令閻錫山

第一軍團總指揮商震

第二軍團總指揮徐永昌

第三軍團總指揮楊愛源

第一軍軍長商震（兼）

第二軍軍長楊愛源（兼）

第三軍軍長楊效歐（代）

第四軍軍長傅存懷（後升編為第四軍團總指揮）

第五軍軍長李生達（代）

第六軍軍長豐玉璽

第七軍軍長張蔭梧

第八軍軍長譚慶林（即騎兵軍）

第九軍亦為騎兵軍在編制中

第十軍軍長李維新

第十一軍軍長王懋公

第十二軍軍長徐永昌（兼）

直轄炮兵集團長周岱

直轄騎兵集團在編制中

直轄第四師師長傅作義

晉北鎮守使趙戴文

晉南鎮守使張培梅

晉軍的編制微近奉軍，其軍隊組織和調動都非常秘密，閻錫山的統御術自有一套，保密防諜工作都做得很好，所以他能保持山西一省的完整。

晉軍攻佔柴溝堡時，張學良、張作相正在京漢線檢閱軍隊，接到報告即於9月29日先後返北京。張作霖亦立即電召楊宇霆、韓麟春、張宗昌等入京會商。奉方在9月中旬本擬派與閻較接近之葛光庭赴晉接洽，晉軍發動後，葛不果行，遂在京與尹扶一等聯名電閻，促請避免奉、晉戰爭，閻復豔電，尚存模糊之語氣雲：

“尹仲雅（即扶一）兄鑑：接儉電後，即復豔一電：計已達到，關於誤阻奉方官兵前進一事，已嚴責大同駐軍切查。頃據複稱，此次誤會非出我方之自動，除另令阻止外，特聞。山。豔二。”

尹等接電後隨即擬覆電雲：

“豔一電未收到，豔二電敬悉一是。頃謁張雨帥喬梓，亦稱奉晉歷共患難，萬不能因一時之誤會致生破綻。愛國愛民之忱，溢於言表，殊為可感。於司令此次檢閱軍隊，實系預定計劃，並有冊籍可查。北方大局安危，繫於奉晉兩方，無端破壞，我帥諒不忍為。尚