國燾卻產生另外一種想法，就是趁國民黨右派反對國共合作之際，宣佈共產黨員退出國民黨。當他把自己的這個想法在中央會議上提出後，遭到了維經斯基的堅決反對。

張國燾到達廣州後，首先見到鮑羅廷。鮑羅廷對中共中央所採取的政策十分不滿，他質問張國燾：　“為什麼廣東方面將那些陰謀破壞革命的國民黨分子驅逐出去了，現在卻又要將他們請回來？”

在中共廣東區委會議上，張國燾要求執行對國民黨右派的退讓政策。他不顧陳延年等人的反對，強調中共中央與孫科等所達成的協議是合理的、必要的。他說：　“中共還在幼齡時代，沒有人參加國民政府，也還沒有執掌政權的經驗，更沒有掌握軍事實力。在這種情形下，即使我們在國民黨中央委員中，多佔了一些席位，除了引起國民黨人士的反感以外，我不信真能增強中共在國民革命中的領導地位。”他還說：　“不要將中共的政策視為退讓的政策。應該認識到這是中共自謀獨立發展和鞏固國民革命陣線所必要的措施。不應要求修改，而應切實執行。”張國燾：　《我的回憶》（第2冊），現代史料編刊社1980年版，第78—79頁。

為了不折不扣地執行退讓政策，張國燾竟做了一件讓人怎麼也不相信會是一個共產黨領導人