醫詢問楊素病情，在得知楊素的病還不至於死的時候，大為發怒。

楊素在得知這個情況後，便不肯再服藥了，沒過多久後便病死了。

楊廣得知楊素病死的訊息後，對近臣道：“如素不死，終當夷九族。”

楊玄感對這件事一直耿耿於懷，再加上他知道自己累世貴顯，在朝文武多是他父親的故吏，以楊廣多猜忌的性格，只怕遲早會拿他開刀，於是時常內不自安。

大業五年，楊廣御駕親征吐谷渾，屢次大敗，傷亡慘重，楊玄感那時便想要襲擊楊廣的行宮，但他叔叔楊慎那時勸他道：“今心士尚一，國未有亂，不可圖也。”楊玄感聽後，這才停止了瘋狂的舉動。

在去年冬天那場御宴上，楊廣竟然讓他堂堂貴胄，坐在職位不高的李家庶子下首，這件讓楊玄感倍覺羞辱之事，更加堅定了楊玄感的反叛之心，一直耐心的等候著最佳的時機。

終於，楊廣二徵遼東後，隋朝境內各地反叛更加的激烈了，百姓流離失所，民心離失，楊玄感覺得是時候舉起反旗了，不然自己遲早身首異處。

雖然他本事沒多少兵力，但是王侯將相，寧有種乎？楊玄感相信，只要自己扯旗造反，定是從者如雲，從而推翻楊廣，成為九五之尊！

大業九年六月初三，楊玄感派家奴偽裝成東方來的使者，詐稱來護兒謀反（來護兒正率領水軍從東萊將要入海進兵平壤），率眾進入黎陽城，關閉城門，大肆索要壯丁。

然後，楊玄感叫人用帆布製成頭盔鎧甲，任命官員僚佐，廢除楊廣繼位以來的所有改制，恢復隋文帝開皇年間的舊制，並向附近各郡傳送文書，以討伐來護兒為名，命令各郡發兵在黎陽倉集結。

隨後，楊玄感以運糧的名義將郡縣官吏中有才幹的人召集在一起。他任命汲郡贊治趙懷義為衛州刺史，東光縣尉