孫權率大軍攻到合肥城下時，正好遇到下連陰雨，一口氣下了好多天，這可苦了守城的兄弟們，因為那時的城牆都是夯土結構，最怕雨水泡（時天連雨，城欲崩）。正在此危難關頭，劉馥留下的成千上萬的草苫發揮了作用，守城軍兵把它們蓋到城上，保護城牆。

大家這時才明白劉刺史有先見之明。不僅如此，儲備的大量魚油和木石也派上了用場，一到晚上城上就燃起魚油火把，把城上城下照得一清二楚，讓下面的人無法乘夜偷襲。木石肯定是給攻城的敵人準備的，招呼爬牆的敵人，沒有什麼比大木頭和石塊更過癮的了。

因為劉馥有先見之明，生前做了大量精心準備，合肥城得以不失。孫權圍住合肥前後多達一百多天也沒有什麼進展。

另外，合肥城能夠保住，還與一個人的貢獻息息相關，這個人是蔣濟。蔣濟字子通，當過郡吏，此時是揚州刺史的主要助手（別駕），類似於副州長和州秘書長之間的角色。劉馥死後，曹操任命原丞相府辦公室主任（主簿）溫恢為新刺史。溫刺史到任時，孫權圍城正急，援軍雖然已在路上，但人數很少，不足以救急。

為了穩定城裡的局勢，蔣濟悄悄建議溫刺史，對外詐說接到了張喜的書信，說有四萬人馬正往這裡趕來，目前已經到了雩婁。蔣濟還假裝派人迎接援軍，回來時分成三個小分隊，一隊進城，告諭城內軍民，讓大家增添信心；另外兩個小分隊故意讓敵人捉去，並有意讓孫權“繳獲”偽造的張喜的書信。

孫權正因久攻合肥不下而鬱悶，張昭那邊進攻也受挫，沒有攻下當塗，弄得進退維谷。張昭獨立帶兵似乎只有這一次，看來學者從戎要格外小心，不是讀過兵書的就都是諸葛亮。

據《三國志張傳》記載，孫權急了，想親自衝鋒陷陣（權率輕騎欲身往突敵），孫權的秘書長（長史）張趕緊死死相勸，孫權才打消念頭。

現在，孫權看到俘獲的書信，上面有四萬人馬正往這裡馳援的訊息，管它是真是假，反正有情報顯示曹操本人已動身離開了江陵，此次戰役的基本目標也實現了，現在剛好是個臺階，撤吧。

孫權下令燒掉攻城的器具和營寨，從合肥城撤退。

立下大功的蔣濟此時還是一個二十六七歲的年輕人，以後他成為曹魏的重臣，身仕魏文帝、魏明帝以及齊王曹芳等幾代，官至太尉。魏正史十年（249年）司馬懿發動高平陵事變，誅殺了曹爽，控制了朝政。蔣濟作為忠心於曹魏的老臣，處境十分尷尬，他於那一年去世。

孫權的情報沒錯，曹操確實在建安十三年（208年）底到十四年（209年）初之間從江陵撤退，與半年前南下時順風順水、一路所向披靡相比，曹操的返程顯得很壓抑。他甚至沒有在襄陽作停留，直接由南陽郡境撤到了許縣。

曹操也沒有在許縣停留，此時合肥城外仍處於膠著狀態，曹操決定親自去解圍，會一會孫權。建安十四年（209年）三月，曹操率主力向揚州刺史部轉進，這時接到合肥前線的戰報，孫權已經撤軍了。

既然戰事不那麼著急，曹操決定在老家譙縣一帶對部隊進行了休整。

官渡之戰結束時，曹操也曾重返故鄉，在此練兵。然而，今非昔比，那一次是打了大勝仗，這一次打了大敗仗。

不過，這對曹操沒有太大的影響，有人喜歡衣錦還鄉，而在遭遇失敗和挫折時不敢面對故鄉和親友。曹操不那麼看，十多年的戎馬生涯，早已讓他把勝敗看得很淡，輸得起的人，才能贏得起。

曹操很認真地在譙縣一帶練起了兵。

譙縣位於渦河邊上，這條河通船運，而且可以直通淮河。曹操這次練兵，重點操練了水軍，他在此設立了臨時造船基地，加緊打造戰船。當然渦河比不得淮河，更比不得長江，曹操這時候造出來的，也只能是排水量較輕的戰船（軍至譙，作輕舟，治水軍）。

曹操認為，水軍是自己的一個弱項，是赤壁之戰導致全敗的主因，要戰勝孫權，重新奪回荊州，必須建設一支強大的水軍。

這一年秋天，曹操在譙縣練兵也有三四個月了，從四面徵調以及新打造的各式戰船也有了相當數量，曹操決定率領包括水軍在內的主力前往合肥前線，讓水軍在實戰環境下接受考驗。

他們走的路線是：由渦水進入淮水，再由淮水進入淝水，直達合肥城外。曹操釋出軍令：“近來大軍多次出征，遇到疾病蔓延，讓許多官兵死在了外面，造成夫妻不能團聚，百姓流離失所，有仁愛之心的人難道願意這樣嗎（而仁者豈樂之哉）？這實在