令各部退守韓莊、萬年閘、臺兒莊一線。何基灃秘令第77軍37師111團將地下黨員王世江任營長的第3營留在運河以北，以便與解放軍聯絡。11月6日，解放軍第10縱隊逼近韓莊，王世江即率部起義。而此時59軍的上層軍官對起義還沒有統一認識，軍長劉振三以看病為名放棄指揮去了上海，師團長有的猶豫不決，有的要求推遲起義。而77軍軍長王長海也稱病告假，把部隊交給何基灃。何基灃、楊斯德認為形勢緊迫，決定於11月8日起義，凡不同意起義者一律就地解決。就在這時，解放軍已佔領萬年閘，並有三個團渡過運河。在解放軍步步逼近的壓力下，59軍終於一致同意起義。而張克俠由於策反時有所暴露，被馮治安軟禁在徐州，為了趕上起義，他幾經周折，才擺脫監控於8日上午到達賈汪。

11月8日，何基灃、張克俠率領第3綏靖區第59軍38師、180師，第77軍之132師和37師111團，共2。3萬人在賈汪、臺兒莊起義。

11月28日，何基灃、張克俠、孟紹濂（77軍副軍長）、過家芳（77軍132師師長，地下黨員）、楊幹三（59軍38師師長）、崔振倫（59軍180師師長）發表聯名通電，宣佈脫離南京政府，加入解放軍。

何、張的起義，使得徐州北面的國軍運河防線出現了大缺口，為解放軍的三個縱隊迅速渡過運河，切斷黃煥然兵團與徐州的聯絡，贏得了寶貴的時間，創造了極為有利的條件。根據後來的推算，只要在這裡，解放軍停留時間超過四個小時，黃煥然兵團將順利地退入徐州。

11月7日，粟Y查明瞭黃煥然兵團的西撤行動，又獲悉何、張即將起義，立即下令各部分頭追擊，要求各部不怕建制混亂，誰先到達，誰就先切斷敵向徐州退路。華野擔任突擊任務的第1、4、6、8、9縱隊分路南下，向運河東岸挺進；第7、10、13縱隊穿過第3綏靖區起義部隊防區，直取曹八集、大許家；第2、12縱隊南越隴海路，向徐州東南攻擊前進，迂迴堵截西撤之敵；第11縱隊及江淮軍區兩個旅，經皂河向大許家前進，與突擊集團協同堵截西撤之敵。

11月8日黃昏，第4縱隊在運河車站以北與黃煥然兵團後衛第100軍44師遭遇，激戰一夜後，4縱未與敵糾纏，向西強渡運河，繼續追擊黃煥然兵團主力。當天午夜，第9縱隊在沂河邊的埝頭集追上了黃煥然兵團擔任側翼掩護的第63軍後衛兩個團，在戰鬥中為了迅速渡過沂河迂迴包圍敵人，9縱27師79團1營2連的十個戰士跳下冰冷的河中，用肩膀托起木板架起浮橋，保障部隊完成了任務。這個事蹟被稱為“十人橋”，後來寫進了新中國的小學教科書。激戰至次日拂曉，全殲63軍後衛兩個團。

11月9日，華野《關於全殲黃煥然兵團的政治動員令》，號召全軍不怕疲勞，不怕困難，不怕飢寒，不怕傷亡，不怕打亂建制，不為小股之敵迷惑，不為河流所阻，堅決追擊，奮勇作戰。特別要求各級指揮員在總作戰意圖下，機斷專行，靈活指揮，不失戰機組織作戰。

華野主力的多路推進，以及何、張的起義，南京震驚，徐州惶恐。蔣總統、劉經扶都判斷解放軍勢在攻取徐州，為確保徐州，徐州剿總於11月9日緊急調整部署。李文卿兵團向徐州東北的大湖、荊山鋪、茅村車站地區集結；黃煥然兵團向徐州東南的

徐山村、潘塘地區集結；邱雨庵兵團位於徐州以西的黃口地區，對付從魯西南向徐州推進的解放軍六個縱隊（實際為兩個縱隊）；孫元良兵團主力務必於11月10日到達宿縣、符離集，另以一個軍守蚌埠；劉汝明第4綏靖區在懷遠、定遠、鳳陽佈防；剿總直屬之第72軍守徐州，第96軍守臨淮關。

黃煥然兵團由於後衛部隊已與解放軍接火，沒渡過運河的部隊非常驚慌，後衛第100軍44師才過了一個團，橋邊一輛彈藥車突然起火爆炸，負責炸橋的工兵以為解放軍趕到，慌忙將運河大橋炸燬。44師兩個多團還未過河，就這樣被扔在了河東。黃昏後解放軍第8縱隊先頭部隊趕到，立即對留在河東的國民黨軍餘部進行攻擊，由於解放軍只有一個營的兵力，無力消滅兩個多團的國軍，雙方混戰了一夜，解放軍8縱主力趕到，於10日天明後，全殲了滯留在河東的國軍共2700餘人，並佔領運河大橋。儘管大橋已被破壞，但損壞並不嚴重，解放軍立即在橋面鋪上木板，恢復了通行，僅半天就透過兩個師。

當晚，黃煥然兵團四個軍大部渡過運河，宿營於碾莊。黃煥然召集各軍軍長商討下一步行動，他本想繼續前進，退