杨玄感起兵的原因众说纷纭，但据可考主要有两个，首先是杨广与他有杀父之仇不可不报，其次才是隋炀帝的统治使得整个国家动荡不安，民不聊生。杨玄感的父亲杨素，和杨广的父亲杨坚是老乡，同属于关陇贵族体系，杨广当上皇帝，杨素也出力不少。可杨广当政后，几个老臣总给杨广提意见，杨广很不开心，动了杀心。贺若弼、史万岁被杀，杨素没被杀，却被吓病。杨广每天派人送药，杨素哪敢吃，唯恐有毒，惊吓之下，不久一命呜呼。
杨玄感看在眼里，这老爹是硬给逼死的，心里仇恨杨广。据《资治通鉴》卷182记载，杨广第一次征讨高句丽时，负责督运粮草的杨玄感就曾故意拖后腿，使得隋军惨败。杨广第二次东征高句丽，仍然命杨玄感督运粮草，杨玄感故意"逗留漕运"，拖延向隋军供给粮草，蓄意破坏辽东战役部署，并打着讨伐来护儿的名义起兵聚事。
杨玄感誓师时称"主上无道，不以百姓为念"，列举杨广种种失政之处，公开宣称杨广为昏君，要"废昏立明"，这种"为民请命"的号召，在当时是深得人心，"众皆踊跃称万岁"。杨广好大喜功，兵役、徭役极重，百姓们早就民怨沸腾，杨玄感这一把星星之火，迅速成了燎原之势，引燃了隋末乱世。
隋朝的江淮到岭南地区，原来都是南朝的统治地区，有众多支持南朝的豪强地主，隋朝建立之后，在南方地区爆发了大规模武装反抗隋朝的叛乱。隋文帝虽然平定了这次大暴动，但是采取的是镇压和妥协结合的方式，很多叛乱头领后来成为了州郡的刺史、县令，所以这股强大的势力并没有被根除，一旦天下有变，这些潜在的力量立即起兵反隋。
