此后，又恰好由于南朝梁国的军队攻打到了泰山一带，于是，杨忠便被俘虏到了江南地区。从此，在江南一住就是五年。
之后，也许是命运的缘故，由于当时北魏的宗室北海王元颢想要在梁国的支持下谋求复国，便组织了起了一支军队，而杨忠就也就主动参军并成为了这支军队里面的一名士兵，接着，便成为了这支军队的一名将军。
然而，由于元颢并不是一个做皇帝的材料，所以，在他刚刚占领洛阳后不久，便由于一心贪图享乐，醉生梦死，很快就兵败自杀了。
于是，杨忠就带兵投降，不但成为了北魏的一名官员。还成为了北魏权臣独孤信的得力下属。并且，在很长的一段时间里，由于杨忠表现的特别优秀，所以，深得北魏皇帝和独孤信对他的信任。接着，经过杨忠得不懈努力，最终成为了西魏的十二将军之一，一时间是显赫一方。
显然 杨坚根本不是白手起家，白手起家的应该是他的父亲杨忠。当然，虽然杨坚并不是白手起家，但也绝对不是一个败家子。在他接任了其父亲的权势之后，便在其父亲的基础上开始积极跟进，随后，便创立了大隋王朝，也开创了历史上知名的"开皇之治"。直到此时，杨坚才从真正意义上走向了成功，但无论如何，不能否认的却是，杨坚是一个地地道道的官二代，根本就不是一个白手起家的英雄！
