明朝的开国勋臣中读过书的将领非常少，但是从徐达、常遇春到汤和、胡大海，这些将领却都表现得温文尔雅。既有武将的勇猛无畏，又有文臣的风度翩翩，称之为儒将一点都不为过。这也是明初的一个非常有意思的现象。而这种现象的出现应该与朱元璋对于儒学的提倡和重视有莫大关系。所谓上有所好，下必甚之。朱元璋的团队深深地打上了朱元璋的烙印。以武入文，融文入武，这其实也是朱元璋能够从一介布衣成为开国皇帝的重要原因。在这些儒将中，胡大海是其中比较突出的一位。
胡大海常常跟人念叨一句话："我是武将，没有读过多少书，行军打仗只知道必须坚持三个原则：不杀人，不掳掠妇女，不毁坏百姓的房屋。"这三点用儒家的话说就是仁义。所谓仁义，其实就是以人为本。仁者，人也。做任何事，首先考虑别人的感受，从别人的立场来思考问题，以别人利益作为主要出发点行事。放到治理国家上来说，仁义表现为仁政。仁政的出发点就是个人的集合体，百姓、民。仁政者，以民为本。用到行军打仗上来说就指仁义之师，仁义之兵。用到一军统将上来说，就是指儒将。
胡大海行军始终坚持这三点。他所到之处，不管是百姓，还是将领，望风归附者非常多。攻占诸暨，万户沈胜降；下严州，蒋英、刘振、李福自桐庐来归顺。将领只要有可取之处，胡大海一般都会留在身边，给予重用和充分的信任。
张士诚大将吕珍攻打诸全，胡大海当时正镇守宁越之地，率兵前往救援。吕珍筑堤坝引水灌城，胡大海反过来将堤坝占领，引水灌吕珍军营。双方都有些苦不堪言，于是吕珍与胡大海谈判，协议撤军，互不侵犯。随军郎中王恺建议道："吕珍乃是狡猾之徒，不可信任，不如趁其撤兵时偷袭他，一举将其歼灭。"胡大海则坚持按照双方约定行事："言出而背之，不信；既纵而击之，不武。"不信不武，不仁不义之事，胡大海坚持不做。这件事让胡大海赢得了莫大的威名，他在浙江一带的威信也越来越大。
