依據不同環境，確定自己該用多大力氣。他在新四軍老四團做過兩任臨時參謀長，打了幾次仗，當然是盡了大力的，便和團長陶勇成了朋友。陶勇這個人平時有些稀拉，便有人給他取個不雅的諢名，陶大甩子，他也不以為侮，還拉上天保作伴，叫天保為關二甩子。陶勇要留天保長期在老四團工作，說兩個甩子帶兵，百戰百勝。天保當然還得走，冷欣部他呆過，忠義救國軍他呆過，新認識不少人，也的確有才幹，蘇南老鄉都親切地稱他為：“我暱小關”。

蘇浙皖邊諸部隊中新四軍與群眾關係最好，忠義救國軍聲名最壞，老鄉都叫他“偷雞摸狗軍”。其實一般老百姓對黨派與主義之類不那麼關心，新四軍受擁護主要是能和群眾打成一片，忠義救國軍名譽壞也主要是他“偷雞摸狗”，紀律太壞。到1939年初，忠義救國軍已有萬餘人，也並非不抗日，因為受軍統局控制，成員混雜，常常利用幫會關係掩護軍統分子到敵佔區活動，社會上只看到他們與偽軍拉拉扯扯，加以軍紀不好，成了人人討厭的一支亂軍。然而，他們總指揮俞作柏卻是個老中將，曾做過廣西的省軍總司令，也曾反過蔣，現職據說是現任浙省主席黃紹紘保舉的。俞作柏眼看他的隊伍如此不景氣，便又請關少校去幫他整頓部隊，天保又去了，向俞作柏進言：

“這個隊伍無法整頓，不如抽些進步官兵，臨時編一個團，打個好仗為俞老將軍爭點面子。”

俞作柏同意，人由天保選調，編建一個團，天保做團長。訓練一陣，在太湖西北角打一仗，拔掉日、偽一個踞點，打死日軍25名，殲俘偽軍300人。這本是好事，卻惹出一場亂子，當地老百姓造了反，說：“我暱小關怎能幫爛汙泥軍打仗？叫爛汙泥軍滾蛋，我暱自己組織隊伍，小關當司令。”忠義救國軍做一回好事，反而被老鄉轟走了，群眾自發組建一支千餘人的武裝，天保被強迫當了司令。後為經過說服，這支隊伍改稱獨立團，新四軍派進大批幹部，隊伍直屬一支隊，那塊地方也變了新四軍根據地。

陳毅是江南蘇皖邊總負責人，一支隊日常工作由副司令羅炳輝主持，天保找他提意見：

“別讓我搞統戰了，我還是到主力部隊去吧。”

胖老羅答覆說：“陳毅同志講了，江南並不缺少指揮員，你�