事情是这样的。之前，高仙芝靠用计偷袭的方式攻占石国，俘虏石国国王。石国王子逃跑后，就挑拨各族都怨恨高仙芝，并与大食国（阿拉伯帝国）联合准备进攻安西四镇。高仙芝得知后，决定先发制人，遂率领胡汉3万大军进攻大食国，深入其国境七百余里。
唐军到怛罗斯城（今哈萨克斯坦共和国东南）时，与大食军队遭遇。双方激战五日，未见胜负。在双方相持的重要时刻，唐军中的葛罗禄部众突然叛变，与大食夹击唐军，高仙芝大败，唐军死伤殆尽。当时情况非常紧急，眼看要全军覆没。此时李嗣业对高仙芝献策说："我军深入敌境，后无援兵，难以取胜，不如退守白石岭考虑退兵。"
可高仙芝坚持说："我正召集被打散的军队，明天再和他们交战。"李嗣业说："大势已去，不能坐等杀头！"高仙芝还在犹豫要不要撤退时，李嗣业果断地赶去扼守白石岭，前去为高仙芝撤退开路。但由于道路非常狭窄，所以只能步兵、骑兵一个跟着一个前进。但此时又遇到拔汗那部异族军退兵挡住去路，李嗣业于是手拿大棒一顿猛打，士兵和马匹被打倒一大片，把对方兵马吓跑，高仙芝才得以生还，避免了全军覆没，为唐军保留了千余部众和数位大将。
三、李嗣业赤膊上阵，为郭子仪收复长安立下奇功
天宝十二年（753年），朝廷加任李嗣业为骠骑大将军。755年，安禄山造反，安史之乱爆发，唐玄宗逃往蜀地避难，长安、洛阳两京沦陷。皇太子李亨在灵武称帝，是为唐肃宗。次年唐肃宗李亨征调李嗣业回来，协同郭子仪征讨叛军。
