杨义臣谨慎忠厚，且善于骑马射箭，有将领之才，因此很受杨坚器重。而杨义臣也知恩图报，为大隋立下汗马功劳。
他曾多次大败突厥，平定汉王杨谅叛乱，因功劳官至礼部尚书，威名不亚于张须佗，屈突通和薛世雄他们，成为大隋末年所剩不多的猛人之一。
这里只说他灭猛将张金称、高士达。朝廷就派了杨义臣。抵达河北后，杨义臣就在临清以西安营扎寨。由于此地距离张金称大营还有四十里地，于是张金称误以为杨义臣害怕自己才远远地扎营，不敢迎战。
于是，张金称二话没说就带着不多的士兵出击，跑了几十里才到杨军大营。可是，杨义臣口头答应开打，却天天紧闭营门。在一个月里，张金称天天叫阵，等到不叫那天，杨义臣反而出来溜达了。
