李善长"粗持文墨"（明朝王世贞《弇山堂别集》），不如刘伯温才华横溢，明朝朱国祯认为李善长 "有心计而无远识"（《皇明开国功臣录》），清朝张廷玉主修的《明史》认为李善长表面上宽厚谦和，实际上气量狭窄，为人刻薄，"善长外宽和，内多忮刻"。
朱元璋曾因某事责怪李善长，杨宪趁机联合凌说、高见贤、夏煜攻击李善长，在朱元璋面前说他没有宰相之才。
朱元璋问刘伯温的看法，刘伯温回答：李公是有功勋的旧臣，而且调和诸将。朱元璋说：他曾数次想害你，你还为他说话，以你的忠心和功绩，足以担当丞相之职。"是数欲害汝，汝乃为之地耶，汝之忠勋，足以任此"（刘基《诚意伯文集》）。
刘伯温连忙叩头谢绝，说：更换丞相犹如换房子的顶梁柱，必须有大才之人方可；如果用小木头换顶梁柱，房子将会倒塌；天下之大，宜寻有大才之人胜任丞相之位，像臣这样资质平庸的之人，万万不可。
