后来隋末天下大乱，当时镇守山西的唐高祖在李建成和李世民，以及幕僚的怂恿和支持下，决定发动反隋起义，他秘密联络了身在长安的柴绍和平阳公主夫妇，要两人在长安准备好一切，当他攻打长安时就可以里应外合。结果，柴绍认为自己太过暴露，就分平阳公主分头行事，他直奔山西跟唐高祖会合，平阳公主就在负责打点在长安的一切。
平阳公主此时展示了无与伦比的军事和领导才能，她短短一个月时间，就拉拢了很多反隋义军在自己手下。平阳公主身先士卒，亲上战场，在长安一带攻城略地，那些前来镇压的隋朝军队，根本抵抗不了她的军队，那些隋朝将领一个接一个被她斩于马下，她的名声威震天下。
平阳公主亲自组建了一支由女子组成的军队，由于这支女子军队很有战斗力，而且攻城略地从不伤害百姓，所以很得民心，当时大家都称呼这支由平阳公主带领的军队为"娘子军"。
另一方面，李渊、李建成、李世民等人从山西晋阳开始起兵，一路直取长安，当李渊等人已经打到长安城外，他惊奇地发现，他的爱女平阳公主已经为他打下了关中一大片地区，为他入主长安铺平了道路。公元617年，李渊、李建成、李世民、平阳公主等人对长安发动决战，成功占领长安，作为李家的核心根据地。
