就在西凉军进入北凉境内后不久，北凉就在怀城、蓼泉两地接连设伏，大破西凉军。李歆本人也在蓼泉阵亡，西凉军溃散四逃，北凉军则乘胜攻向西凉都城酒泉，一举破城。西凉残部在李歆弟李恂的带领下败退回敦煌，李恂自称冠军将军、凉州刺史，改元永建，勉力维持西凉残局。
宋永初二年，西凉永建二年（421年），北凉国主沮渠蒙逊再次发兵攻击敦煌，李恂闭城坚守不出，北凉军于是引河水灌城，敦煌城墙崩坍。李恂不能坚持下去，于是向北凉乞降，北凉不受，李恂无路可走，在绝望中自杀，敦煌也被北凉攻破，西凉至此灭亡。
李歆第三子李重耳，在敦煌破城之时趁乱逃出，之后辗转各地，最后投奔了新兴的北魏。在北魏李重耳受到太武帝拓跋焘重用，先后任北魏恒农太守、安南将军、豫州刺史等职。到李重耳之子李熙的时候，被任命为北魏武川镇金门镇将，从此李家就长居于武川（今内蒙古武川县）。
李熙之子李天赐，任北魏邢州任县新市疃疃主。李天赐之子李虎，少有大志，精通弓马骑射，长大成人后依照家族的传统从军，加入了北魏大将、太保贺拔岳的麾下，以骑将的身份先后参与平定叛臣元颢之乱、镇压六镇流民起义等作战，屡建功勋，被北魏封爵晋寿县开国子、赐官宁朔将军、屯骑校尉，驻守陇西重镇。富贵还乡（李虎是李暠后裔，李暠自称陇西李氏后代，汉飞将军李广后人、李广即陇西成纪人）不久后，李虎再升迁为北魏东雍州刺史、左军大都督，受贺拔岳器重，管理贺拔岳所部内外诸军事。
