李嗣源并非汉人，而是沙陀人，甚至连姓氏都没有，他的父亲名叫霓，是雁门部将。李嗣源原名邈佶烈，因善于骑射，得到沙陀族首领李国昌的赏识，13岁就被纳入麾下。李嗣源“为人质厚寡言，执事恭谨”，后被李克用收为养子，赐名嗣源。后来，朱温在上源驿密谋杀死李克用，李嗣源冒死掩护义父突围。
此后，李克用对李嗣源委以重任，多次派他出征，李嗣源作战勇敢，其所部被命名为“横冲都”，“故两河间目帝为李横冲”。898年，在青山之战中，李嗣源率领所部直冲敌阵，大败后梁名将葛从周。在这场战斗中，李嗣源身中四箭，一举扭转战局，“由是李横冲名重四方”。
用李嗣源自己的话说，“吾年十三事献祖，献祖以吾宗属，视吾犹子。又事武皇垂三十年，先帝垂二十年，经纶攻战，未尝不预。” 923年，后唐大军攻打开封，李嗣源顺利攻下封丘门，后唐庄宗李存勖闻讯大喜，用手牵着李嗣源的衣服，以头触之，说道：“吾有天下，由公之血战也，当与公共之。”战无不胜的李嗣源堪称是后唐的第一功臣。
