1909年，清廷打算杀袁世凯。张之洞已经病入膏肓，在摄政王载沣看望他的时候，再三表示不能杀袁世凯，认为"主少国疑，不可轻于诛戮大臣"，可以说是救了袁世凯一命。8月21日，张之洞在哀叹"国运尽矣"声中去世。清廷谥以"文襄"。
张之洞死后，他的家人把他安葬在老家河北南皮，四时祭拜。1966年，南皮县的中学生以除四旧的名义扒开了张之洞的墓，取走了里面的贵重物品，并把张之洞及三位夫人的尸体遗弃荒野。在那个特殊的年代，张家后人没有办法阻止，事后也不敢重新掩埋安葬，于是张之洞的墓也渐渐成了荒草堆。张之洞及三位夫人的尸体被几个村民发现，他们知道张之洞是清官，偷偷的把尸体埋在了原墓附近，连张家后人都不知道。
