吴起之所以在魏国取得如此大的成就，除了自己军事谋略高深之外，还有一个重要的原因就是他大胆地推行了军事改革，建立了一支强大的新式军队-魏武卒。在旧有的体制下，对军队的训练很不够，往往是战事征召一下，战争结束就解散，根本无法保证军队的战斗力。吴起认为，兵贵精不贵多，首先要保证士兵的质量与素质。他规定能够入选魏武卒的士兵必须达到以下要求:能够身着全副恺甲，执十二石之弩"十二石"指弩的拉力)，背负五十支箭，带着戈和剑，携带三日口粮，在半日内跑完百里，士兵一旦入选为魏武卒之后，就可以免除全家的徭赋和田宅租税，可以安心训练打仗。
除了对魏武卒进行严格训练之外。吴起还根据士兵的不同特点，将他们编在不同的队伍里面，比如把身强力壮的士兵们编在一起，用以近身肉搏;把机动灵活的士兵们编在一起，用以爬山过河;把吃苦耐劳的士兵编在一起，用以长途奔袭。由于士兵们各有所长，在战争中互相灵活配合，使魏国军队的战斗力大增。此外，吴起治军赏罚分明，有一次一个士兵在没有接到命令的情况下就擅自出战，结果被吴起当众处死。吴起认为，如果军队法令不明，赏罚不信，即使再多也没有用。只有做到令行禁止，才能保证军队的战斗力。
魏文侯死后，其子魏武侯即位。有一次，魏武侯与吴起一起乘船顺河而下。看着河两岸山川，魏武侯得意地大发感慨:"依山傍河，有这样险峻的地势，这真是我们魏国最宝贵的东西啊!"周围的人一听，都纷纷附和魏武侯，只有吴起表情严肃地说:"君侯，史书有记载:夏代的暴君桀待的地方，左边有黄河和济水，右边有泰华山(今陕西华阴南)，伊阙(又名龙门山，在今河南洛阳南)在南，羊肠(在今山西晋阳西北)在北，结果被商汤灭掉了;殷商的暴君纣王待的地方，东面有孟门(古隘道名，在今河南辉县西)，西面有太行山，北边有常山(即恒山，在今河北曲阳西北)，南边有黄河，地势也无比险要，结果武王伐纣，商朝灭亡。所以说，治理国家最重要的在于君主的德行，而不在于地形的险要。
