加上北周遗老确实认为他不行,心中还存有复辟幻想,于是尉迟迥王谦纷纷联合起来起兵造反,杨坚立即派兵征讨。他久经沙场,根本不是这些人能比得了的,很快就将所有人拿下,并且按照以往的习惯斩草除根,这些人全部被满门抄斩。这时候的杨坚虽然生气,但还是正常的,不过那种毫无归属感的状态攫取了他的心神。
根据唐代魏征主编的二十四史之一《隋书》所记,杨坚以各种莫须有的原因滥杀了朝中的"七大功臣"。以"性怀险薄,巫觋盈门,鬼言怪语,称神道圣"之由,杀五公主杨阿五驸马之父、郧国公王谊于公元585年;当"想要重用刘昉却发现其根本无法处理繁重政事",所以排除其于决策圈外又杀之于公元586年;觉"虞庆则再三推辞不愿出兵必定存心造反",于是不查不验不由分说杀之于公元597年……
不过更随意更昏聩的是公元600年,史万岁几次击退突厥,又有平定江南之功,回到京城之后,被宰相杨素暗暗嫉恨,于是经常在杨坚面前说他的坏话,并且将功劳占为己有,史万岁几次为自己辩解,但杨坚俨然听不进去,同时太子杨勇失宠,杨坚害怕结党营私,就问史万岁在哪里,杨素就故意说他去拜访东宫了,杨坚当即大怒,叫人喊来史万岁之后,直接活活打死在了朝堂之上。