其实，朱元璋从凤阳起兵，攻打滁州之后，麾下已经有徐达、汤和等24位猛将，但唯独缺乏水军将领，因为从滁州再往南，要想渡江，就必须有水军和战船。而正在此时，长期盘踞在巢湖之上的俞廷玉，带着他三个儿子（俞通海、俞通源、俞通渊）和几千名水军来投奔朱元璋，这种雪中送炭的行径，让朱元璋非常感动。
后来，俞廷玉战死，俞通海和他的两位弟弟一直为朱元璋效力，俞家三兄弟和廖永安、廖永忠兄弟并称为朱元璋麾下的两大水军。在鄱阳湖水战时，陈友谅的大船碾压朱元璋所乘的小船，俞通海下令，船上的士兵用头顶住大船，盔甲都快顶碎了，朱元璋才逃脱。《明太祖实录》对这一段记载较为详细：
陈氏以巨舰压舟，势危急，通海所统军士皆奋勇力，以首抵舰，铁帽尽坏，而后得脱。
可以说，若没有俞通海兄弟几个人的血战，朱元璋不可能灭掉陈友谅。此战之后，俞通海被朱元璋任命为中书省平章（相当于宰相），但不幸的是，在朱元璋称帝的前一年，俞通海在平定张士诚的时候，战死在江面上。朱元璋非常伤心，命俞通海的二弟俞通源接替俞通海。
俞家和蓝玉关系一直不错，在蓝玉北伐时，俞通源是蓝玉麾下的猛将，后来战死。也就是说，俞家当时父子四人投奔朱元璋，战死了三个。蓝玉案爆发后，俞通海的三弟俞通源（被封为越巂侯）作为俞家的当家人，战战兢兢，甚至有主动自尽的打算。后来朱元璋召见俞通源。史载：
