吕光出生于337年，氐族人，可他的祖先却是汉人，是西汉吕后的族人。吕后死后，吕氏满门被杀，吕光的先祖吕文侥幸逃脱，来到略阳(今甘肃天水)定居，与当地的氐族人世代融合，成为当地大族。
据《晋书》记载，吕光天生异相，"身长八尺四寸，目重瞳子，左肘有肉印"，竟然是历史上少见的"重瞳"。而且他的性格"沈毅凝重，宽简有大量，喜怒不形于色"。还很年纪时，吕光就被推荐到了苻坚的手下任职。22岁时，吕光在一次平乱战争中一战成名，成为苻坚的得力爱将。
在此后的二十多年里，吕光为苻坚东征西讨，立下了赫赫战功，为前秦统一北方做出了重要的贡献。
382年，也就是淝水之战的前一年，西域的车师、鄯善两国派使者觐见苻坚，请求前秦派人管理西域。苻坚于是任命吕光为使持节、主帅，率七万步兵和五千骑兵，前往西域进行征讨和经略。
