1895年孙中山先生揭起了反清大旗，在此后长达20多年的反对帝国主义和封建势力的斗争当中，始终没有建立真正的革命军队，因此在斗争中多次失败，俄国十月革命的胜利，给中国送来了斗争的曙光。经过反复对比之后，孙中山先生认为俄国之所以可以成功，是因为他们有革命军队做保障，而中国恰恰就缺少这么一支军队。孙中山先生想要借鉴苏联红军的模式，改变国民党军队，1921年他接见了共产国际代表，对其提出的创立军官学校的提议颇为赞许，甚至还提出希望苏俄能够帮助中国该组军队。
黄埔军校的筹划与国民党改组军队的筹备工作是在同一时间进行的。国共合作后，在共产党人的参与下，孙中山先生于1922年着手谋划，1923孙中山派廖仲恺等人在苏俄代表的参与下，拟定了一系列有关军官学校的计划之后，又派人前往苏俄考察组织制度。1924年1月24日，在国共两党成员共同参加的国民党第一次全国代表大会上正式提出创办陆军军官学校，1924年5月5日军校正式开学。