杨坚知道后，行事更加小心谨言，在北周统一北方的战争中杨坚立下大功，北齐被灭后晋封为柱国任定州总管和亳州总管。
宇文赟继位后，杨坚的女儿杨丽华成了皇后。杨坚也升任柱国大将军，大司马，大后丞等职，可谓一人之下万人之上，这也引起了宇文赟的猜忌，宇文赟不止一次地说过要杀了杨坚全家，并且还展开行动。一次杨坚进宫议事时差点被宇文赟的侍卫杀掉，幸亏杨坚进宫后神情自若，脸色平静才躲过一劫。心思深沉的杨坚知道自己处境十分凶险，于是主动示弱，要求离开京城到外地做官，宇文赟顺水推舟让他到亳州任总管。
到亳州后，杨坚韬光养晦，没想到21岁的宇文赟荒淫无道，为了享乐只当了一年的皇帝就把皇位传给6岁的长子宇文阐，自己专心吃喝玩乐当"太上皇"去了，不久之后就突发疾病死了，杨坚重新回到朝廷成为辅政大臣。
再次掌权后，杨坚的篡权谋国的野心开始暴露，杨坚担心宇文泰的五个儿子割据一方，对自己构成威胁，于是在公元580年杨坚把宇文泰的五个儿子：赵王宇文招、越王宇文盛、陈王宇文纯、代王宇文达、滕王宇文逌等五个藩王统统召回京城，将其软禁。宇文泰的外甥尉迟迥知道杨坚图谋篡位后，立刻起兵讨伐，并得到郧州总管司马消难、益州总管王谦协助，很快尉迟迥便积聚起几十万大军勤王。
