他与太监冯保战队，，还假装自己和高拱是一个队。高拱不明就里的就被挤下去，直到失败后才恍然大悟。到死都没有原谅张居正，还专门写了一本《病塌遗言》来数落张居正的人品。
除掉高拱之后，自己再无拦路虎。这时的他已经是当时的最高长官，入主内阁。
进入内阁之后，张居正进行了轰轰烈烈的改革，这就是教科书上常常提到的"张居正改革"。在这期间，对内他整顿吏治，实施考成法，军事上整顿国防，打击蒙古，任用戚继光抗击倭寇。财政上实行一条鞭法，赋役合一。
公元1577年，父亲去世了，按照当时的规矩，家中的父母病逝后，要在家守孝三年，三年结束后才能重新做官。可这时正是改革的关键时期，如果离开，自己首辅的地位也就没了。为改革的顺利推进，万历皇帝就破例将其"夺情"。明朝奉行的是"以孝治天下"，虽然张居正不用去"丁忧"，但是这一做法得到了激烈的反对，得罪了读书人。
在张居正的指挥下，改革有条不紊的进行。在他的指挥下，出现了万历中兴，国家的政治，边防等有了很大的改善，原本亏空的国家政府在他的指挥下富裕了起来。
