採納李密的建議，但仍猶豫不決。

有賈雄者，曉陰陽占候，為讓軍師，言無不用。密深結於雄，使之託術數以說讓；雄許諾，懷之未發。會讓召雄，告以密所言，問其可否，對曰：“吉不可言。”又曰：“公自立恐未必成，若立斯人，事無不濟。”讓曰：“如卿言，蒲山公當自立，何來從我？”對曰：“事有相因。所以來者，將軍姓翟，翟者，澤也，蒲非澤不生，故須將軍也。”讓然之，與密情好日篤。

有個叫賈雄的人，通曉陰陽占卜，他是翟讓的軍師，翟讓對他是言聽計從。李密與賈雄結為深交。他讓賈雄假借占卜之術去勸說翟讓，賈雄答應了，想好了主意但還沒說出來，正好翟讓召見賈雄，把李密的建議告訴賈雄，問他是否可以採納，賈雄回答：“吉不可言。”又說：“您自立為王恐怕未必能成功，要是擁立此人，事情就沒有辦不成的。”翟讓說：“象你說的那樣，蒲山公應當自立，為什麼他又來投奔我呢？”賈雄回答：“有些事是有相互聯絡的，李密所以來投奔你，是因為將軍您姓翟，翟是澤的意思。蒲草非澤則不生，所以崐他需要將軍您。”翟讓認為賈雄的話很對，他與李密的交情日益密切。

密因說讓曰：“今四海糜沸，不得耕耘，公士眾雖多，食無倉廩，唯資野掠，常苦不給。若曠日持久，加以大敵臨之，必渙然離散。未若先取滎陽，伏兵館穀，待士馬肥充，然後與人爭利。”讓從之，於是破金堤關，攻滎陽諸縣，多下之。

李密就勸翟讓說：“如今國內沸騰，百姓不得耕耘，您兵馬雖多，但吃糧沒有倉儲，只靠外出搶掠，常常苦於供給不足，若是曠日持久，加之大敵臨頭，部眾必然會離散，不如先攻取滎陽，休兵取食倉儲之糧，待兵強馬壯，然後再與他人爭奪利益。”翟讓聽從了他的意見，率軍攻破了金堤關，進而攻打滎陽郡各縣，大多數縣城都被攻破。

滎陽太守郇王慶，弘之子也，不能討，帝徙張須為滎陽通守以討之。庚戌，須引兵擊讓，讓向數為須所敗，聞其來，大懼，將避之。密曰：“須勇而無謀，兵又驟勝，既驕且狠，可一戰擒也。公但列陳以待，密保為公破之。”讓不得已，勒兵將戰，密分兵千餘人伏於大海寺北林間。須素輕讓，方陳而前，讓與戰，不利，須乘之，逐北十餘里；密發伏掩之，須兵敗。密與讓及徐世、王伯當合軍圍之，須潰圍出；左右不能盡出，須躍馬復入救之，來往數四，遂戰死。所部兵晝夜號哭，數日不止，河南郡縣為之喪氣。鷹揚郎將河東賈務本為須之副，亦被傷，帥餘眾五千餘人奔梁郡，務本尋卒。詔以光祿大夫裴仁基為河南討捕大使，代領其眾，徙鎮虎牢。

滎陽太守郇王楊慶是楊弘的兒子，不能率軍討伐翟讓，煬帝調張須陀為滎陽通守去討伐翟讓。庚戌（二十七日），張須陀率兵進擊翟讓，翟讓從前幾次都被張須陀所擊敗，他聽到張須陀來，大為恐懼，打算避開張須陀。李密說：“張須陀有勇無謀，他的軍隊又屢次取勝，既驕傲又兇狠，可以一仗就把張須陀擒住。您只要擺好陣勢等待官軍，我保證為您打敗官軍。”翟讓不得已，率兵準備交戰，李密分出一千餘士兵埋伏在大海寺北面的樹林裡。張須陀素來輕視翟讓，他將軍佇列成方陣前進。翟讓與張須陀交戰，戰敗，張須陀追擊敗兵十餘里，李密發動伏兵掩殺官軍，張須陀兵敗。李密與翟讓以及徐世、王伯當等合兵一處將張須陀包圍。張須陀突破重圍，但他的部將沒能全衝出包圍，張須陀又躍馬衝入包圍圈去救援，這樣來回幾次，張須陀戰死。他所部士兵晝夜號哭，幾天不止，黃河以南的郡縣都為之沮喪。鷹揚郎將河東人賈務本是張須陀的副將，也受了傷，他率領剩下的五千多人逃到梁郡，賈務本不久也去世了。煬帝詔命光祿大夫裴仁基為河南討捕大使，替代張須陀統領他的部下，遷到虎牢鎮守。

讓乃令密建牙，別統所部，號蒲山公營。密部分嚴整，凡號令士卒，雖盛夏，皆如揹負霜雪。躬服儉素，所得金寶，悉頒賜麾下，由是人為之用。麾下士卒多為讓士卒所陵辱，以威約有素，不敢報也。讓謂密曰：“今資糧粗足，意欲還向瓦崗，公若不往，唯公所適，讓從此別矣。”讓帥輜重東引，密亦西行至康城，說下數城，大獲資儲。讓尋悔，復引兵從密。

翟讓於是命李密建立自己的營署，單獨統帥自己的部眾，號稱蒲山公營。李密管理部眾紀律嚴明，凡是號令士卒，雖然是在盛夏，士卒們似背上負有霜雪般的寒意。李密衣著節儉樸素，獲得的金寶，全都頒賜給了部下，因此人們都願為他效力。他部下計程車卒很多人被翟讓的部眾欺辱，但因為李密管束嚴格，無人敢