不过，这位一代名将也出现过一次重大失误，终于令汉末王朝陷入万劫不复的境地。据《三国志》及《后汉书》等相关史料记载，献帝永汉元年（公元189年），董卓进入京城洛阳，控制了朝政。以袁绍、袁术为首的关东诸侯组建联军，向董卓控制的洛阳发动进攻。此时，不仅洛阳城陷入关东联军的三面包围之中，就连董卓退往老巢所必经的关中地区也处于皇甫嵩的控制之下。只要皇甫嵩统率手下的三万大军配合关东联军的行动，董卓将插翅难飞。
据《后汉书?皇甫嵩传》载，长史梁衍就曾经这样劝说皇甫嵩："汉室微弱，阉竖乱朝，董卓虽诛之，而不能尽忠于国，遂复寇掠京邑，废立从意。今征将军，大则危祸，小则困辱。今卓在洛阳，天子来西，以将军之众，精兵三万，迎接至尊，奉令讨逆，发命海内，征兵群帅，袁氏逼其东，将军迫其西，此成禽也。"
令人遗憾的是，皇甫嵩不仅没有采纳梁衍的建议，反而将手中的兵权交出，只身前往洛阳担任城门校尉。如此一来，董卓不仅通往老巢凉州的道路畅通，还可以用皇甫嵩属下的三万人马对付关东联军，讨董之战的局势也因此而逆转，这也使得汉末朝廷陷入万劫不复的境地。
参考书籍：《三国志》、《后汉书》、《三国演义》
