日軍向怒江進攻時,中國駐印軍新38師第112團也正向緬北的日軍據點進攻,以掩護修築中印公路和搶佔反攻前進據點。10月29日,駐印軍攻佔寧邊、新平洋(欣貝延)、拉家蘇各要點,開啟了胡康河谷的北大門。日軍第15軍命令第18師團在胡康河谷組織防禦性進攻,儘量爭取時間,以掩護主力進攻因帕爾。
為適應作戰需要,1944年1月緬甸日軍對指揮系統進行了一次調整:新建第28軍,下轄第54、第55師團及新來增援的第2師團;第15軍轄第15、第31、第33師團;第56師團及獨立混成第24旅團歸方面軍直轄。
1944年3月,日軍發動因帕爾作戰。此時中國駐印軍反攻緬北已取得重大進展,日軍混成第24旅團奉命增援緬北。4月間為應付當前的戰局,日軍再次調整序列:增編第33軍,其下轄第18、第53、第56師團,專任緬北及雲南方面的作戰。至此,日“緬甸方面軍”共有3個軍,計9個陸軍師團、1個混成旅團,另有1個第5飛行師團配合作戰。其具體部署為:第15軍(附印度國民軍約7000人,主要有被俘的印度俘虜組成的印度偽軍)位於曼德勒西北地區,專任進攻因帕爾的任務;第28軍位於緬西南及沿海地區,負責進攻實兌(阿恰布)的任務;第33軍位於緬北,專負阻擊中國駐印軍和遠征軍的任務。
4月中旬初,中國駐印軍突破堅布山隘正向孟拱及密支那進攻中,此時日軍第15軍亦已完成了包圍因帕爾的態勢,並佔領了科希馬。中國軍事委員會根據羅斯福第163號備忘錄的要求,為策應駐印軍的緬北作戰、儘快打通中印路及應英軍之請,配合因帕爾作戰牽制日軍,決定先以遠征軍一部(第20集團軍)攻擊騰衝,爾後依情況再以遠征軍主力投入,協力圍殲緬北日軍。4月13日電令遠征軍,命其以第53軍為第一線,第54軍和新20軍為第二線,4月底以前做好渡怒江進攻固東街、江苴街及騰衝的準備,命令第8軍於6月5日集結於祥雲附近,歸遠征軍序列,並命令遠征軍制訂詳細的渡江進攻計劃。
第20集團軍轄53軍、54軍和新20軍共3個軍,由霍總司令負責指揮,擔任攻擊,而以53軍為第一線攻擊部隊,54軍與新20軍為第二線攻擊部隊。
第11集團軍轄第2軍、6軍、71軍三個軍,由宋總司令負責指揮,擔任怒江第一線防務。
第8軍開滇西后,歸遠征軍直轄,控置於祥雲附近地區,作為遠征軍的總預備隊。
遠征軍渡河進攻計劃的構想,是以第20集團軍在北翼為攻擊軍,第11集團軍在南翼為防守軍。攻擊軍開始進攻時,防守軍以3個加強團、1個加強營同時渡江攻擊,以策應攻擊軍的作戰。攻擊軍強渡怒江成功、攻擊高黎貢山各據點時,擔任防守軍的第11集團軍乘勢西渡,協同第20集團軍攻擊騰衝、龍陵等地日軍。4月29日,遠征軍令第20集團軍於5月5日前展開完畢,同時與美軍第14航空隊(戰鬥機3箇中隊,中型轟炸機2箇中隊)進行了協同。
第20集團軍根據遠征軍的計劃,於5月6日製訂出攻擊計劃。在兵力使用上改以第54軍(附第83軍第116師的第346團)為第一線兵團,第53軍和新20軍為第二線兵團。或總司令將進攻過程區分為渡江、進攻高黎貢山各據點和進攻騰衝三個時期。其作戰指導是:第一時期,第54軍以主力在雙虹橋附近渡江,攻佔大塘子、南齋公房,第54軍一部在慄柴壩附近渡江,攻佔北齋公房、馬面關等地後扼守片馬、明光,掩護右側安全。第53軍在第54軍後在雙虹橋附近渡江。第二時期,第53軍超越第54軍攻佔江苴街,第54軍主力再超越第53軍攻佔瓦甸,第54軍一部則在第36師一部協力下攻佔固東街。第三時期,集團軍攻佔固東、江苴後,由新20軍,由惠人橋渡江,協力攻擊騰衝。攻擊騰衝時,以第54軍為右翼兵團,第53軍為左翼兵團,新20軍為中路兵團,對騰衝實施三面合圍攻擊。
5月9日,遠征軍下令命攻擊軍及防守軍各加強團於5月11日渡河攻擊,開始時間或拂曉,或白晝,或夜晚,由各單位依當面情況自行決定。
防守滇西的日軍第56師團自1942年5月進至怒江西岸後,經營該地區的防禦設施又達2年之久,在高黎貢山和騰衝、龍陵等地的據點內都築有抗力強、隱蔽好、射界廣的坑道式火力點。遠征軍反攻前該師團在滇西的兵力配置大致為:第148聯隊駐屯騰衝,第113聯隊防守滇緬公路沿線的臘勐、龍陵、芒市,第1