俗话说得好，"比你聪明的人比你还努力"，有着不俗背景的梁睿长大后没有依靠他的背景，而是选择了投身军队基层，从一个小兵做起。通过努力先袭爵继承了广平郡公，不久升任大中正，后又担任开府、渭州、中州刺史等职位。北周元年时，被拜为御伯，出任中州刺史，镇守新安，防御北齐，又因成功的抵挡了北齐，升任为大将军。北周天和五年时打败敌军将领斛律光有功，升任为小冢宰。
北周大象二年，曾是北周丞相的杨坚在梁睿等人的推举拥护下，从年幼的北周静帝手中接过龙椅，登基称帝，建立隋朝。而梁睿也从北周的得力臣子变成了隋朝初期的一名肱股之臣。当时边境北部的突厥十分猖獗，时不时就攻进边城洗劫一空，搞得民怨载道。作为一名改朝登基的新帝杨坚，为了给百姓制造一个好印象，起到表率作用，就派出梁睿去镇守边境，梁睿接到之后觉得这是新帝信任他的表现，非但没有推辞，而且还很认真的提出了多条镇守边关的方针，新帝听后非常开心，对梁睿赞不绝口。
等到梁睿到达镇守边境对付突厥的时候，他采用了之前向隋帝提出的战略。在攻守方面实施的十分周全，使得在击退突厥的时候战无不胜。打得突厥军节节败退，逃回了自己老巢，再不敢来骚扰隋朝的边境。突厥军很快就被镇压了下来，而梁睿怕突厥假意退兵去而复返，又在边境驻扎了几年，本是以观望心态驻留。不曾想有次无意中听到了手下在议论着什么朝臣说梁睿手握重兵联合突厥想要造反，引得龙颜大怒。
梁睿瞬间就意识到这是皇上对自己起疑心了，立刻就向朝廷上书恳请班师回朝。不久，梁睿就率大部队回到了京都洛阳。隋文帝听闻梁睿归京，下城楼亲自迎接。在见到了梁睿之后，就紧握住了他的手，大有不放地意思。那力道有种想生吞了他的感觉，吓得梁睿当场冷汗津津，赶忙在地跪拜告罪，并称自己打仗多年身体有恙，请求隋文帝准许自己告老还乡。隋文帝一听，正中下怀假意挽留了一番就答应了他。事实证明梁睿提前请辞是明治的。因为隋文帝本就是一个猜忌之人，功高盖主更易引起他的猜忌，所以他在位期间杀害了不少功臣，令人心寒。所以说，识时务者为俊杰，一旦达到了一个高度，就该急流勇退，否则将难保周全。
