朝臣和百姓不知兵事，並不清楚明軍究竟遭到了多大損失，光看李如松退兵的舉動，就以為仗已經打不下去了，於是議和之聲此起彼伏。明朝兵部尚書石星就站在議和派的最前沿。

於是在石星的授意下，經略宋應昌於三月十五日派沈惟敬到京城去和小西行長等人商談和平退兵事宜。最後雙方達成四點協議：一，明軍撤出朝鮮；二，日軍從京城後退；三，日方釋放俘虜的朝鮮二王子和官吏；四，明朝派使節去名護屋會見豐臣秀吉，開始正式和談。

在小西行長的大力遊說下，日方絕大多數將領，包括曾經堅決主戰的小早川隆景和加藤清正也被迫認清了現實。四月八日，以參將謝用梓、遊擊徐一貫和沈為敬等人組成的講和使團進入京城，催促日軍撤離，加藤清正、立花宗茂等將領態度突然大變，又跳起來怒罵，小西行長好不容易才把他們壓制下去了。

豐臣秀吉的親信將領主要分為三個集團，即跟他從尾張出來的子弟、受封長濱後招收的近江人，以及征伐中國地區時招收的東中國豪族們，這三個集團互相爭功，早有矛盾。其中加藤清正是尾張系的代表人物，他本是秀吉正妻北政所的親戚，從小如同養子一般被撫育長大。小西行長則是堺的豪商小西隆佐之子，後來出仕備前大名宇喜多直家，轉從豐臣秀吉，是東中國系的代表人物，和近江系的石田三成等人也一貫交好。在朝鮮戰場，清正和行長兩人各自統兵前進的時候，就摩擦不斷，矛盾很深，此刻行長既然一立主和，清正當然要跳出來堅決主戰，以表明與對方的不同。然而事實上，清正早就透過沈惟敬和宋應昌有所聯絡，主動表示願意退出京城。

四月十八日，在豐臣秀吉的命令下，日軍全部撤出京城，次日李如松率中朝聯軍進城。五月十五日，李如松渡過漢江進至慶尚道東南部的慶州，在這裡對朝鮮軍做了一番防禦部署後就又退回京城。此時，除全羅、慶尚兩道的南部地區外，中朝聯軍已經收復了全部失地。當年七月，李如松如約撤出朝鮮，明朝只留下四川參將劉綎和遊擊吳惟忠率七千六百人分駐要隘，防備日軍背信進攻。

五月八日，明朝使團在增田長盛、石田三成、大谷吉隆三奉行和小西行長的陪同下，從釜山出海，十五日到達九州名護屋。雖然中方的正式講和使乃是謝用梓和徐一貫，但因為語言不通，直接商談相關事宜的還是沈惟敬和小西行長。豐臣秀吉狂妄地提出了“大明、日本和平條件”七條，命令列長傳達給明使——

一，迎明朝公主為日本皇后；二，繼續發展勘合貿易；三，明日兩國武官永誓盟好（因為日本是武人掌權的）；四，京城及四道歸還朝鮮，另外四道割讓給日本；五，朝鮮送一王子到日本作人質；六、日軍交還俘獲的朝鮮二王子及其他朝鮮官吏；七，朝鮮大臣發誓永不背叛日本。

如此苛刻的條件，讓小西行長也很難嚮明使開口。在明朝使節想來，蕞爾小國的日本，所以發兵打一下朝鮮，不過為了引起明朝的注意，想要發展雙邊貿易，多得點錢財，天朝上國，有誰不傾慕的嗎？因此明使談判的前提就是“封貢”，即日本承認明朝名義上的宗主國地位，明朝給予賞賜和允許通商，讓他們大發一筆橫財，僅此而已。小西行長本人也是希望封貢的，封不關他事，貢則可以給他這個九州大名帶來很大利益，何樂而不為呢？

反正明朝講和使聽不懂日本話，急於停戰的小西行長和急於立功的沈惟敬就串通起來，開始欺上瞞下，大耍陰謀手段。行長對秀吉說，明使已經同意了他提出的條件，但必須回去北京交皇帝最後批准，明朝人最愛面子，皇帝可能會提出要日本稱臣，咱們掛個空名卻得實利，沒什麼不好。沈惟敬則對謝用梓和徐一貫說，日本人已經答應了嚮明朝稱臣，請求封貢。

豐臣秀吉不愧老奸巨猾，他怕事情還有反覆，就命令在朝日本軍隊部分撤兵，留下九州大名們在朝鮮沿海築城固守，以等待談判協議的正式簽署。不僅如此，他還下達了進攻晉州的命令，這才發生了六月二十九日的晉州大屠殺。小西行長陪同明朝講和使回到朝鮮以後，以自己必須留下來勒束部下為名，派家臣內藤如安為使者，隨同明使前往北京。內藤如安，中國史書上記載為小西飛，他本是丹波內藤家的家督，也就是繼承內藤苗字的松永長賴的兒子。

●冊封鬧劇

在朝鮮戰場上，中日雙方停戰一年多，到了萬曆二十二年，也即日本文祿三年（1554年）十二月，內藤如安等人經過反覆交涉，終於進了北京城，膽大包天的沈惟敬竟然偽造了日本稱臣的表章呈遞上去。石星另外派人和內藤如安談