年少的时候,曹操犯罪,夏侯渊替其坐牢,后来曹操也设法营救,才得以免祸。在中平六年(189年),曹操陈留起兵,夏侯渊以及家族兄弟率先投靠,成为曹操的左膀右臂。
夏侯渊,在曹操南征北战之中,屡次独自领兵平叛或者出征,先后平定昌豨、徐和、雷绪、商曜等叛乱。尤其是在关中陇右,马超和韩遂兴兵反曹操的时候,夏侯渊是出征主帅之一。在夏侯渊的统帅之下,千里奔袭,多次转战各地,分别击败马超,大破韩遂,连为乱三十余年的陇西人宋建,也被消灭,横扫羌、氐,深入小湟中,河西诸羌部全部投降,自此,长期为祸的陇右被平定。
夏侯渊一举剿灭为乱三十余年的宋建,如同老虎那样横行关右,所向无敌,被曹操褒奖,并且引用孔子之言"吾与尔不如也"而自叹不如。《三国志》记载:"宋建造为乱逆三十馀年,渊一举灭之,虎步关右,所向无前。仲尼有言:'吾与尔不如也。"