工作难也就算了，更可恨的是，当时的东林党已成气候，所以李延机在处理繁忙的工作之余，还要处理错综复杂的党争关系，再加上东林党人想让其他人做内阁首辅，处处挤兑李延机，这让他的工作根本无法开展。而李延机又是一个十分正直，想干事的人，可他的辛苦工作却没换来一点好处，因此越干越气，在苦撑几个月后，李延机终于撑不下去了，向万历皇帝提交了辞职信。
李延机知道万历皇帝懒，估计得交三五封辞职信才能批下来，并且为了早点办完手续，让皇帝看到自己辞职的决心，他把房子捐给了穷人，把家人送回了老家，自己在一个破庙里住了下来，等待皇帝的批准。然而，五封辞职信呈上去了，没动静，又五封信呈上去，还是没动静，李延机毫不气馁，继续给万历皇帝递交辞职信，每隔几天就上奏辞职，就这样坚持了五年，总共递交了123封辞职信，可是，依旧没有得到万历皇帝的批准，反而是得到了"庙祝阁老"的绰号。
这让李延机十分无奈，一气之下，索性也不管皇帝批不批准了，直接冒着杀头的危险，自己把自己"开除"，回到了福建老家，然而，万历皇帝依旧没有追究，仿佛不知道他这个人一样。四年后，李延机病逝，万历皇帝终于勤快了一次，赐赠他"少保"的头衔，还赐予了他"文节"的谥号。不得不说，李延机作为一个忠诚的臣子，遇到万历这样一个皇帝，真的是太悲催了！
