弘农杨氏"世任高官，是汉、魏、北朝至隋唐时期最著名的门阀世族之一。杨坚就出生在这个家庭里。杨坚的父亲杨忠久经沙场，屡建奇功，为北周的建立做出过卓越贡献。因此，杨忠被赐姓普六茹氏，位至柱国、大司空，封隋国公。杨坚的青少年时期并无过人之处，在学校里念书时也是个不用功的学生。但这个不用功的学生很早就开始了自己的做官生涯，而且深得统治者的赏识，虽无杨忠突出的功绩，地位却扶摇直上，因而引起一些朝臣和贵族的嫉恨。
北周初年，专权的宇文护就曾多次想除掉杨坚，都因别人的阻拦而没有得逞。周武帝亲政后，宇文宪曾劝他尽早把杨坚除掉，内史王轨也认为杨坚有反相，但都没引起周武帝的重视，且又以杨坚的长女作为皇太子王妃，进一步巩固了杨坚的地位。这时，深知自己处境也有不臣之心的杨坚，也积极利用已有的社会影响，广泛拉拢，以扩大自己的势力。
公元578年，北周武帝死，宣帝即位，杨坚作为皇后的父亲，又进一步升官，成为太后丞、右司武，旋升大前疑(相当于丞相)。在宣帝外出时，由杨坚主持日常政务。周宣帝虽年少，但昏庸荒淫，又修建洛阳宫，致使上下怨愤。杨坚便开始做取代周室的准备工作，引起了周宣帝的警觉，甚至曾想杀掉杨坚，但杨坚始终不动声色，周宣帝既找不到借口，也不愿随便杀死自己的岳父。
