朝廷举办三年一度的武状元选拔时，十二岁的汤怀跟随岳飞等几位兄弟，一路过关斩将，以精湛的技艺从县、州的海选中脱颖而出，被相州节度使保举参加京师的最终选拔。岳氏一家回归故里时，汤怀也随同岳飞等人迁往汤阴县，并在途中的野猫村击杀强贼洪先。汤怀前往京师考试期间，跟随众兄弟参加了牟驼冈之战。此战中，汤怀挥舞烂银枪勇闯贼营，左突右杀，犹如毒龙出海，杀得贼寇们人仰马翻，鬼哭神嚎，最终与岳飞等人合力救出宗留守，大败数万贼兵。
此后，汤怀在太行山当了几年草寇，直到岳飞入朝为将时弃暗投明，重新投到军中效力。岳家军四处征战期间，但凡岳飞亲临险境刺探敌情时，都由汤怀执掌帅印坐镇中军大帐，是岳飞最信任和器重的心腹战将。征剿太湖匪寇时，汤怀率部大破贼寇的弩楼船队，数个回合击败贼寇猛将花普方，立下大功。岳家军前往汝南剿匪时，汤怀奉命率领本部人马护送粮草前往茶陵关，并在此期间与梁山好汉混世魔王樊瑞结下了不解之缘。
