从此以后，吴起放弃了儒学，开始转攻兵法，三年学而有成。时值齐国进攻鲁国，鲁君想用吴起为将，但是又有所疑虑（因为吴起的妻子是齐国人，担心吴起不会真心侍奉鲁国）。吴起听到消息以后，二话没说就回家把妻子给砍了，然后提着他妻子的头颅对鲁君说："我很想报效鲁国，但是您对我产生了怀疑，现在我已经把妻子杀了，就是为了向您证明我一定会为鲁国而战的！"鲁君听后哑口无言，只得同意任命吴起为将，结果吴起果然将齐军杀得大败。鲁国是春秋礼义思想最重的一个国家，吴起虽然打了胜仗，但是他的所做作为难免遭人诟病，鲁君也对他产生了怀疑，于是吴起就离开了鲁国来到了魏国。
到魏国后，吴起得到了魏文侯的重用，被任命为河西郡守，专门负责对秦国的作战。有一次，秦国派五十万大军进攻魏国的阴晋，妄图收回河西失地，吴起率领他新练出来（从未上过战场）的五万魏武卒迎战，结果在这场著名的"阴晋之战"中，吴起以五万新军完胜秦军五十万军队，创造了战争史上以少胜多的奇迹。正当对秦国的战争中取得了节节胜利之时，魏相国公叔痤因为忌惮吴起的功劳而在魏武侯面前处处排挤他，担心个人安危的吴起最终选择了逃奔楚国。
