关东军在遭到苏联军队的进攻后很快就溃不成军，大量的日本人都被苏联俘虏，不过有一支人数超过两万人的队伍却在接到命令后拒不投降，还全军躲进了长白山区，想要重整兵力然后再出山作战。然而这支日本部队的妄想根本就得不到实现，他们在遭重后完全没有机会再与中国军队对抗，只能躲在山中艰难度日。后来国民政府听说后还曾出动空中侦察队前去寻找，但长白山区的植被过于茂盛，所以始终找不到这些日军的踪迹。
随着时间的流逝，这些日军的去向最终都没有结论，只流传出人们猜测的很多个版本。有人认为这些日本兵早已饿死在了山中，毕竟两万人所需要的粮食是一笔不小的消耗，尽管长白山物资丰富，但毕竟养活不了那么多人。还有人认为日本兵其实早已被国军发现，不过他们都被改编整合成为了国民党军队，在解放战争时期还被当做先锋队派向战场沦为了炮灰。对于日军下落的众说纷纭，显然只能当作闲谈的谈资，至于他们的真实情况，已然成为了一个未解之谜。
