宋濂到南京后被委以江南等处儒学提举，但最主要的是担任朱元璋长子朱标的老师，宋濂知道朱元璋脾气暴躁，如果当老师的惩罚了学生朱标，朱元璋又会怎样呢？况且宋濂也想知道朱元璋请他当老师，究竟能不能听任老师的教育呢？于是宋濂便问朱元璋，史料记载是这样说："小儿顽劣，能训手？"。如果朱元璋疼爱儿子不让老师打小孩，那么宋濂就正好推掉这份差事，结果却让宋濂很意料。
朱元璋只回答了4个字"不死即可"，可见朱元璋对宋濂的为人还是很满意的，不像现在有些家长虽然为孩子聘请好老师，却不永许老师拍打他的孩子。公元1368年朱元璋在南京称帝，朱标被立为太子。虽然朱元璋对宋濂相当敬重，由于朱元璋疑心重，经常派锦衣卫暗中观察宋濂，还会有意无意地询问宋濂都做了些什么。宋濂知道朱元璋的疑心重，每次都据实以告，有一次朱元璋居然和宋濂讨论朝中大臣好坏。
宋濂不知朱元璋对大臣到底是什么态度，也不敢随意猜测，宋濂只好说出那些好大臣，据《明史.卷一百二十八.列传第十六》记载："善者与臣友，臣知之；其不善者，不能知也"。可见宋濂不仅学问高，而且为人也是一个儒家大师该有的风范，朱标在他教导下也成为一个儒雅的完美太子。遗憾的是朱元璋精心培养出来的接班人，却在洪武二十五年（1392年）因病去世。
朱标的死对朱元璋来说是一种毁灭，倘若朱标不死明朝或许又是另一种结局了。
