9　月初，汽笛一聲長鳴，一列從廣州開往北京的火車緩緩起動了。譚政在他的機要秘書秦興漢的陪同下（暫未帶家屬），匆匆離開庶田、椰林的南國之鄉，馳往四季分明、六代古都的北京。

譚政到京後，經組織分配，立即出任中國人民解放軍總政治部第一副主任，協助總政治部主任羅榮桓同志，主持總政治部的常務工作。同時出席了第一屆全國人民代表大會。

其實，早在譚政調京前，他就已參與了總政治部的工作，參與了修改、審定和印發《中國人民解放軍政治工作條例》的工作。

1952年12月中旬，由中國人民解放軍軍委秘書長、代總參謀長聶榮臻主持的各大軍區、各特種兵參謀長和政治部主任的聯席會議上，就提出了從1953年6　月起，人民解放軍開始學習蘇聯，實行正規化、現代化的軍事訓練，實行義務兵役制、軍官薪金制和軍銜制（簡稱“三大制度”）。在準備實行“三大制度”的過程中，有的幹部認為搞正規化建設，蘇軍有現成的條令、條例，我們照搬過來，一切按條令、規章辦事就可以了，不必再強調黨對軍隊的絕對領導。他們主張，可以按蘇軍的做法，取消政治委員制，實行單一首長制。例如，在1953年5　月頒佈的以蘇軍條令為藍本制定的《中國人民解放軍內務條令》中，就只規定營長、連長是營、連的首長，而忽略了教導員、指導員在營、連中的地位與作用。還有人主張把政治委員改為副職，或各級政治委員都兼任政治部（處）主任，只管具體業務工作。

在總政治部主任羅榮桓的積極建議下，主持中央軍委日常工作的軍委副主席彭德懷（1952年7　月開始主持軍委日常工作）等，一致否認了上述右的傾向，並於1953年12月7　日至1954年1　月26日，由彭德懷主持，召開了軍事系統高幹會議，會議基本否定了上述右的傾向。會後，中央決定，由國務院副總理、軍委副主席、國防委員副主席陳毅與總政治部主任羅榮桓一道主持《中國人民解放軍政治工作條例（草案）》的修改。在此期間，恰值黨的七屆四中全會於1954年2　月6　日至10日在京召開。作為七屆中央候補委員的譚政，赴京參加了七屆四中全會，參加了反對高崗的鬥爭。會後，經陳毅、羅榮桓的建議與請求，參與了《中國人民解放軍政治工作條例（草案）》的修改、審定和印發。譚政根據自己多年部隊政治工作的豐富經驗，強調了部隊政治工作的極端重要性，強調了部隊各級政工人員的地位、職責與作用。在譚政的積極參加、參與下，修改後的《條例》總結了我軍所特有的豐富建軍經驗，簡明而系統地闡述了毛澤東提出的我軍一整套政治工作的方針和方法，對我軍政治工作的性質、任務、職責、組織形式、工作作風以及與各方面的關係，都作了明確的規定。為了實現黨對軍隊的絕對領導，《條例》規定：“中國共產黨在中國人民解放軍中設立黨的各級委員會，作為部隊統一領導的核心；並確定黨委統一的集體的領導下的首長分工負責制，為黨對軍隊的領導制度。”《條例》明確規定：“中國共產黨在中國人民解放軍中的政治工作是我軍的生命線。政治工作就是黨的工作。”在《條例》中，關於“政治工作是我軍的生命線”一語，原先草案中有，因幹部認識不統一而被刪去。經譚政的堅持與建議，毛澤東在審閱《條例》時，又親筆將其加上。《中國人民解放軍政治工作條例》的修改與制定，是我軍歷史上的一件大事。它將毛澤東提出和總結的我軍一整套政治工作的方針、方法、經驗，制定為我軍的重要法規。它的出臺，標誌著我軍現代化、正規化建設邁出了學習外來經驗與我軍實踐相結合的新的一步。它不僅保證了我們“三大制度”的順利貫徹，而且還保證了我軍現代化、正規化建設有了一個正確的道路和方向。主持起草和修改《條例》的陳毅、羅榮桓在這方面起了主導作用，參與、參加修改、審定、印發的譚政，在這方面起了重要作用。1954年4　月15日，《中國人民解放軍政治工作條例》，經黨中央和中央軍委批准，正式在全軍頒佈實行。

1956年3　月中旬。北京某地。中央軍委擴大會議。春節剛過，積雪己逝，古城北京的街頭巷尾、城郊山湖，便已顯現春意盎然的自然景觀。在中央軍委擴大會議的會議室裡，繼彭德懷、葉劍英、黃克誠報告之後，譚政以《關於軍隊肅反工作的總結報告》為題，作了生動的報告。他在對軍隊內的肅反工作，做深入、系統的經驗總結。

自譚政來京，　1954　年9　月5　日參加了一屆全國人大（9　月27日一屆一次會議