李玉堂也深知蒋介石的为人，知道自己是难逃一劫，于是在狱中写了一封遗书，大体意思就是：“这件事与我没有关系，但总统已经下了命令，我也不会去申诉，我只希望我死后大家心里能有个公道，我到底有没有做对不起国家的事情，你们清楚，而国家却这么对不起我，又能给国家带来什么利益？我一生战功累累，不甘心这样死去，如果战事结束后，请把我葬在徐州的云龙山下面。”
最后，李玉堂写道：“一生为国，如此下场，心有不甘耳！”
李玉堂死后，蒋介石还没有放过他，竟批示了一个大大的“耻”字，用来警示他人。
但是，蒋介石也越来越感觉事情不是像他想的那么简单，于是就派自己的心腹去彻查此事，这才了解到了事情的原委，知道自己冤枉了李玉堂，不禁痛悔不已。
后来，蒋介石还经常念叨李玉堂的名字，有一天，蒋介石在巡查的时候，因为触景生情，想起了李玉堂，竟失声痛哭。
