曹操听闻亲族后辈的身世经历非常感动，盛赞其为曹家的"千里马"，并对其寄予厚望。便让曹休跟次子曹丕住在一起，将其视为亲子，曹休也跟随魏武帝南征北战，担任宿卫，成为虎豹骑统领之一，保护曹操安全。
汉中保卫战的时候，曹休以骑都尉的身份跟随曹操出征，被曹操任命为曹洪部队的参军。但出发前，曹操却对曹休说，你才是这支兵马的主帅。曹操知道曹洪临战指挥调度兵马的能力薄弱，而曹洪也非常知趣的把他的那支部队的指挥权交给侄儿曹休。而此时曹军的当面之敌，是张飞、马超和吴兰。曹休在下辨之战击败了吴兰，吴兰被斩。张飞、马超等人不敌曹军败走，最后刘备军在定军山决定性的一战击杀夏侯渊，曹军撤出汉中地区，曹休回到长安后被封为中领军。
曹丕即位后，大将军夏侯惇去世。曹休被任命为镇南将军，接替夏侯惇，到汝南郡负责抵御孙权的防务工作。，222年，曹丕亲征，曹魏兵分三路讨伐孙吴，结果在濡须口遭遇惨败，三路大军只有曹休一路未遭败绩。由于曹休的努力，才使得曹魏军在撤退时，没遭到东吴军马的追击。魏明帝曹睿即位后，此时的曹休被加官进爵，不仅当上了曹魏的最高军事统帅--大司马，还被封为长平侯，荣耀无比。
