朱元璋即帝位后很多事情无论大小都由李善长来主持。李善长确定六部官制，兼任太子少师，还奉命监修元史，编写太祖训录、大明集礼等书。朱元璋巡幸汴梁，李善长留守，一切事情他都可以不经请示灵活处理。
洪武三年朱元璋大封功臣，朱元璋说：李善长虽无汗马功劳。但跟随我多年，供给军粮，功劳很大。于是封他为韩国公，年禄四千石，子孙世袭。并授予免死铁券，李善长免死两次，其子免死一次。当时被封公者有六人，李善长位居首位。诏书中将他比作萧何，对他褒奖备至。
但李善长外表宽厚温和，内心却爱嫉妒。他待人苛刻。参议李饮冰、杨希圣只是稍微冒犯了他的权威，李善长马上将其罪上奏朱元璋，黜免了他们两人。李善长与中丞刘基争论法令，他竟然辱骂刘基，刘基内心不安便请求告老还乡。朱元璋所任用的张昶、杨宪、汪广洋、胡惟庸都获罪，只有李善长还像原来一样在朝廷做官。李善长权势地位到了顶点，心里慢慢变得傲慢起来，朱元璋开始对他有所反感。
洪武四年李善长因病辞官归居，朱元璋赐他田地若干顷，佃户一千五百家。一年后李善长病愈，朱元璋让他负责修建临濠宫殿，将江南富民十四万迁徙濠州耕种，让李善长管理他们。李善长留在濠州数年。
洪武七年朱元璋提升李善长之弟李存义为太仆丞，李存义之子李伸李佑都为群牧所官。
