然而，权力集中的同时，工作量也随之增加，即使是朱元璋这样的工作狂，他也根本没有办法做到事必躬亲，因而在洪武十三年（1380年）九月设立了四辅官辅佐自己，以儒士王本、杜佑、龚敩为春官，杜教、赵民望、吴源为夏官，秋、冬官由春、夏官兼任。之后又在洪武十五年（1382年）撤销了四辅官，改设华盖殿、武英殿、文渊阁、东阁诸大学士，用来辅佐自己处理政务，这实际上已经是内阁的雏形。
明成祖朱棣即位之后，特派解缙、胡广、杨荣等入午门值文渊阁，参预机务，称为内阁，内阁制度至此建立。此前，丞相拥有决策权、议政权和行政权，因而权势极大，而这时的内阁只有议政权，而决策权则牢牢抓在皇帝手中，行政权则被交给了六部，地方上的三司也是直接对六部负责。可见，正如"阁臣之预务自此始，然其时，入内阁者皆编、检、讲读之官，不置官属，不得专制诸司。诸司奏事，亦不得相关白"所言，此时的内阁只是作为皇帝的秘书部门存在的，并不同于此前的丞相。
内阁的设立也形成了明朝特殊的权力运行机制，那边是"票拟制度"。凡是朝廷的重要文书，先由内阁负责拟定几条意见，以笔墨写于票签上，然后与奏折一起呈送皇帝批准，这个过程便被称为票拟。皇帝再根据内阁拟定的意见进行最终拍板，以红字进行批示，这被称为"批红"或"朱批"。
