神策军的前身是西北戍边军队。创建人是唐朝名将哥舒翰。哥舒翰这个名字，一听就不是汉族人。事实也是如此。他是西突厥人，被河西节度使王忠嗣挖掘，活跃在抗击吐蕃的前线阵地，多次击败吐蕃军队。754年，哥舒翰经朝廷批准，成立了神策军，洮阳太守成如璆担任首任神策军使。
神策军第一次在历史舞台上大显身手，并非戍边，而是平息内乱。
755年12月16日，身兼范阳、平卢、河东三节度使的安禄山起兵15万反唐。史称"安史之乱"。由于唐玄宗昏庸无能，在战略和战术上都屡屡出错。再加上太平日子过久了，唐朝军队很久没有打过仗了，以至于在战争初期被叛军打得措手不及。
在唐玄宗的号令下，神策军1000余人进入中原平息内乱，参与了围攻安庆绪的相州之战。
