为了平息心中的怒火，伊藤博文坚持处死小山丰太郎，但是根据日本法律，小山丰太郎罪不至死。最后，小山丰太郎被判了无期徒刑，关押在北海道的网走郡。可是在12年之后，也就是1907年，日本天皇却特赦小山丰太郎出狱，他将小山丰太郎摆在了一个"英雄"的位置，号召全体国民向他学习。
1938年，在日本发动全面侵华的前夕，小山丰太郎还在《日本与日本人》杂志上开了个专栏，以连载的方式撰写回忆录《旧梦谭》，详细描写了自己刺杀李鸿章的前因后果，其中有这样一段描述："比起照片上的形象，（李鸿章）眼光更是炯炯射人……真不愧是睥睨东洋的眼睛！"日本杂志选择这个时间点刊登他的回忆录，显然是有深意的，明眼人都能看出来。最终，小山丰太郎在1947年去世，终年78岁。他在去世前，日本已经投降了，就是不知他的心里，是否后悔之前的所作所为。
