12月12日深夜，南京沦陷。拉贝高举着印有安全区标志的旗帜，带着他的秘书史密斯进城找日军交涉。14日早晨，拉贝将翻译成日文的交涉的公函交给了日本军官，但是在场的5个日本军官无一人接受。第二天，拉贝又找到了日军特务机关长原田少将，要求日军保证放下武器的士兵和普通百姓的生命安全。日军原田少将表示，日军将保证中国士兵和平民的安全。
事实证明，日本军官的承诺没有丝毫作用。日军在城中的暴行一天比一天多，拉贝和他的助手在城中如救火员一般到处奔走，一处处驱赶日本兵，阻止日军暴行，并将日军每天的暴行记录下来。拉贝写成了《暴行报告》428件，公函69件，向日本大使馆提出抗议，要求制止暴行。在拉贝的努力下，日军的暴行有所减少，但日军灭绝人性的残暴程度，却从未降低。
在不过两里的安全区内，拉贝保护了25万人，其中10万以上的人身无分文，每天靠接济度日。在安全区内，拉贝多次阻止了日军进来骚扰的事件，安全区内没有暴行、没有火警，虽然日本兵多次前来骚扰，但每次都被拉贝和他的助手及时驱赶。
