不給日本完成吉會路諸權利，則張作霖將來出關時即不準經過南滿路。張作霖迫於形勢，乃任命交通部航政司長趙鎮兼次長再兼代部務，令趙與日方交涉。5月13日趙鎮偕同滿鐵代表深夜到部，將敦圖、長大兩路包辦合同蓋用部印。可是趙鎮兼代部務是從5月15日生效，而合同蓋印是13日，又逢星期天，日方認為無效，迫令將合同日期改為15日。這個合同內容雙方均守秘密，其後張作霖出關遇炸，全部檔案均在專車中同歸於盡，據日方宣稱所籤的合同包括敦圖、長大、延海、洮索四路，只餘“吉五”一路留待張作霖返奉後再議。

日方不僅逼籤路約，同時還計劃收繳關內奉軍槍械，逼令奉軍回奉。5月18日日本政府發出“通告中國南北政府及歐美列強覺書”一件，略謂如果動亂波及滿蒙，日本即將在該地採取維持治安的有效措施。

5月20日日本參謀本部下令秘密動員，命令內容為：

（一）駐屯滿州各部隊，主力向奉天移動。（二）由濟南撤至大連的外山旅團改赴奉天。（三）駐滿洲日軍主力集中奉天。（四）派出勁旅向錦州、義州、山海關、朝陽鎮擔任奉軍警戒。（五）維持新民屯之治安。

日本駐東北的關東軍認為這是佔領東北的開始，極為興奮，可是這個命令到了5月23日又發生變化，由於美國國務院表示“東三省行政主權屬於中國”的嚴正立場，遂使日本政府為之猶豫，並派田代皖一郎由東京遄赴東北，口頭傳達日本政府命令，仍保留張作霖地位和力量，相機待變。這一來讓關東軍激進分子大為失望，也因此斷送了張作霖的生命。

日本“覺書”發出後，美國表示反對，中國作戰雙方的立場也是一致。

5月25日張作霖答覆日本覺書，謂斷難承認日本覺書所稱“適當有效措置”。宣告東三省及京、津為中國領土，主權所在，不容漠視。並負保護外僑責任。盼日本鑑於濟南慘案，勿再有不合國際慣例措置。同時發表宣言，指日本此舉違背華盛頓會議的立場。

5月29日國民政府答覆日本覺書，由上海外交交涉員面交日本駐上海總領事，表示對於東三省的治安問題，以及中外人士的安全問題，均為國民政府自有的責任，對於日方所稱“採取適當而有效之措置”，宣告萬難承認。

同日，日本駐華海軍宣佈禁止中國南、北海軍在青島、煙臺、龍口、大沽、秦皇島領海各20浬內交戰。列國海軍武官對於日本海軍片面的宣佈，且未在“列國海軍武官會議”上透過，表示反對。

5月30日晨1時張學良、楊宇霆、孫傳芳離保定北上，7時抵北京，孫軍放棄保定退往琉璃河，張作霖在大元帥府召集軍事會議後即下令前線總退卻。

5月31日張作霖準備退出北京，與北洋元老王士珍商量臨時維持北京的治安辦法。北京政權每次有改變時，這位北洋三傑的“龍”王士珍總是被推選出面維持。北京各國公使團會議應變，日使主張由外兵接管北京城門，美使反對，會議無結果而散。

晉軍商震把以前扣留的奉軍要員於珍釋放，派他赴北京謁張作霖商量和平移交北京的辦法。

6月1日張作霖以茶會招待外交團話別。據說日本公使芳澤曾秘訪張作霖，勸他接受日本的條件，否則對他不利，如能接受則日方保護張氏經大連返瀋陽。這次會議時間很長，站在客廳外面的侍從人員曾聽到張氏大聲說：“我姓張的不會賣國，也不怕死。”

6月2日張作霖以安國軍大元帥名義發出通電，宣告退出北京後，政務交國務院，軍事歸軍團長負責。此後國事聽國民公決。王士珍等組成北京治安維持會，使館區晚間宣佈特別戒嚴。

6月3日晨1時，張作霖離北京順承王府私邸，1時10分抵前門車站，1時15分專車啟行，同行有潘復、莫德惠、劉哲、於國翰等外，尚有日籍顧問町野武馬與嵯峨誠也。專車過天津，潘復、町野下車，常蔭槐加入，專車共18輛，張作霖座車本在第三輛，車過山海關時加入吳俊升專車，因此張的座車排在第四輛。

在這北方局勢天翻地覆，張作霖出關的這一天，卸任總統黎元洪在天津病逝。他的去世不為人所注意，因為北方大局正在大變。

17年6月4日晨5時30分張作霖專車進入瀋陽皇姑屯，南滿路與京奉路交叉路橋下，轟然一聲巨響，吊橋橋板塌下，剛好壓在第三、四、五輛車廂上。吊橋橋板分為三節，支以石柱，柱外包以鋼骨水泥厚六尺，所以如果不是特殊的爆炸物，不可能發揮如此巨大的破壞力，同時火車透過橋下，若