隋文帝杨坚和独孤皇后生下了五个儿子，分别是废太子杨勇、隋炀帝杨广、秦孝王杨俊、蜀王杨秀、汉王杨谅。其中杨勇、杨秀、杨谅先后被杨广迫害而遭到幽禁或杀害，唯一没有被杨广迫害的杨俊，也并非幸运，他仅仅因为奢侈过度而被杨坚责罚，又遭妻子下毒，在忧惧中病亡。
当初，杨坚登基称帝，立第三子杨俊为秦王。第二年春天，任命杨俊为上柱国、河南道行台尚书令、洛州刺史，当时杨俊年仅十二岁。不久，杨坚又令他兼任右武卫大将军，统领关东兵。第三年，杨坚升他为秦州总管。
杨俊宽仁慈爱，推崇尊敬佛法，请求皈依佛门，被杨坚拒绝。当时，中国并未实现统一，隋朝与南方的陈国并立，杨坚想统一天下，升任杨俊为山南道行台尚书令以及山南道行军元帅，监督指挥三十位总管，率领陆军、水军共计十多万，讨伐陈国。需要说明的是，古代皇帝让不懂军事的皇族宗室担任联军统帅，常常是挂名而已。
隋军驻扎在汉口，陈国将领以精兵数万在鹦鹉洲防守。隋军兵力占据优势，总管崔弘度请求发起进攻，杨俊担心会多造杀业没有答应，而陈国将领相继投降。事后杨俊派使者向朝廷报捷，哭着对使者说："我错误地当上三军统帅，很忏愧没有立功。"杨坚听说后，很赞赏杨俊。
