刘渊原本是匈奴族人，其祖上冒顿单于曾娶了刘邦的宗女为妻，又与刘邦结为兄弟，所以汉姓为"刘"。刘渊所在的部落很早便迁入中原地区，汉化程度较高，曾帮助东汉政府镇压黄巾起义，后又屡次受到曹魏政权封赏任命。刘渊因是匈奴高层子弟，所以十几岁时被送到都城洛阳做人质，受到不错的礼遇，还结交了很多名士朋友。后来司马氏篡位，司马炎大力革新政治，招揽天下人才。彼时刘渊颇有才干，司马炎也想委以重任。但是由于大臣屡次劝司马炎："非我族类，其心必异。"司马炎也就放弃了重用刘渊的打算。被晋国高层歧视、质疑、排挤的经历对刘渊打击很大，对他以后的行为轨迹也产生了很大影响。
公元290年，司马炎病逝后，白痴太子司马衷继位。司马衷无力把持朝政，权柄在外戚和亲族之间屡次易手，不久就爆发了延绵十六年的八王之乱。晋朝皇室的内斗严重削弱了晋朝的国力，也削弱了晋朝对周边少数民族的约束力。公元304年，在成都王司马颖控制之下的刘渊以回乡搬救兵为由，回到左国城的匈奴部落，他二十天时间就召集部众五万余人，并于同年在左国城称王。刘渊以复汉为名，追尊汉后主刘禅为孝怀皇帝，立汉高祖刘邦以下三祖五宗神主而祭之。后称帝，立国号为"汉"，史称前赵。
刘渊称帝后，没有停顿对西晋的军事活动。他遣石勒进攻冀州，连下魏郡、赵郡、巨鹿、常山数郡，陷郡县堡垒百余，众至十余万。同时，接连发动了对西晋都城洛阳的攻势。
