曹休从亲缘关系上来说,他和曹洪是同一个祖父,和曹操是同一个曾祖,因此也算是曹操的族子。曹休十多岁的时候丧父,在曹操起兵的时候,曹休就辗转千里来投奔曹操,曹操因此大喜,还称赞道:此吾家千里驹也。并让他和曹丕同吃同住,待之如亲子,从此曹休随同曹操南征北战,成为曹操的八虎骑之一。在汉中之战的前哨战中曹休一战成名,此战面对的刘备一方,有张飞马超和吴兰等人。
但刘备的主力在阳平关和夏侯渊对峙,马超张飞这一路只是偏军,目的是在于阻止曹洪和夏侯渊两军汇合。曹休很好地判断出张飞的虚张声势,率精锐的虎豹骑直袭下辨击溃吴兰部队,吴兰全军覆没,本来兵力不足的张飞和马超只能退兵。下辨之战的胜利,主要功劳在于曹休,曹操也因此对曹休另眼相看,战后曹休升为中领军。在夏侯惇曹仁等曹魏第一代宗室大将先后去世后,曹休曹真就逐渐成为了曹魏宗室第二代的领军人物。
而三人之中以曹休的地位居首,曹丕临终前,曹休和陈群、曹真以及司马懿是四大托孤重臣。228年鄱阳太守周鲂向曹休诈降,请求派兵接应,曹休大喜之下亲率十万大军向皖城进发,其实曹魏上下对此次军事行动存在不少分歧,比如蒋济和满宠,都提出过不同的意见,但因为曹休是军事上的最高统帅,他一意孤行而且是孤军深入,一头扎进了东吴早已设好的圈套。