刘渊，字元海，新兴郡（今山西忻州）人，出身匈奴虚连题氏，其父刘豹，在曹操分南匈奴为五部时，被任为左部帅，麾下部曲万余人。刘渊自幼就拜上党士人崔游为师，学习儒家经典，又武艺高强，擅长骑射，有文武才。根据曹魏时代的制度，归附中原的胡人部落首领要派子侄到京师为质（人质）。刘渊因此长期居住在洛阳，对中原的风土人物很是了解。

西晋立国后，越骑校尉的王浑屡次向晋武帝司马炎谈起刘渊，称其有大才，要预先防范。司马炎的弟弟齐王司马攸也建议司马炎提前清除隐患，但都没能引起司马炎的重视，皆不了了之。咸宁五年（279年），刘豹去世，刘渊结束质子生涯，回并州（今山西）接任左部帅。刘渊在自己的辖区“明刑法，禁奸邪，轻财好施，推诚接物”，使得匈奴五部之人纷纷前来归附，刘渊的势力愈加壮大。太康十年（289年），西晋改五部帅为五部都尉，负责节制匈奴五部，并以刘渊为北部都尉，后又加授刘渊建威将军、五部大都督，册封汉光乡侯，正式承认了刘渊对南匈奴五部的统治地位。

公元300年，司马伦诛杀皇后贾南风，逼迫晋惠帝司马衷禅让，继而称帝。司马伦此举遭到各地藩王的反对，藩王们以讨伐叛贼的名义起兵，攻入京师，诛杀司马伦。司马伦死后，藩王们又互相混战，八王之乱进入最血腥残酷的内战阶段，中原腹心之地被打得稀巴烂，数十万西晋精锐消耗在无休止的内战中，西晋王朝的实力受到了摧毁性的削弱。

由于中原的战乱，大量中原人逃亡边疆，刘渊趁机接收了大量中原汉人，势力再次增强。因为八王之乱的影响，西晋王朝的合法性受到严重质疑，人们开始思念曾经强大稳定的大汉王朝。于是，刘渊以“汉朝刘氏的外甥，与刘氏约为兄弟，兄亡而弟承”的名义包装宣传自己，以招抚民心。”

刘渊的政治文化攻势，很快取得了成效，投奔刘渊的中原百姓越来越多，刘渊已初步具备与西晋王朝分庭抗礼的实力。永兴元年（304年），刘渊左国城正式称帝，建国号汉，即前汉政权。刘渊又追封蜀汉后主刘禅为孝怀皇帝，立汉高帝刘邦以下三祖五宗神主而祭之，时隔82年，大汉的旗帜重新飘扬在中原的天空，是为刘渊复汉事件。

刘渊复汉后，便亲率大军与西晋军队作战，当时晋军经过八王之乱的消耗，早已孱弱到极点，刘渊所部的精锐骑兵，在中原战场上如入无人之境，刘渊控制的土地也越来越大。河瑞元年（309年）三月，西晋积弩将军朱诞叛晋归汉，并向刘渊建议趁洛阳空虚，直捣洛阳。

刘渊遂以朱诞为前锋都督，以灭晋大将军刘景为大都督，率军进攻洛阳。汉军攻取黎阳（今河南浚县），又在延津大败晋将王堪。但因为后援补给问题，刘渊被迫放弃进一步行动，撤回并州。同年夏，汉军攻取壶关（今山西黄碾南）、屯留（山西屯留南）、长子（山西长子）等要塞，基本肃清并州境内的晋军。十一月，刘渊再次派刘聪、刘曜、王弥、刘景等率精锐骑兵五万余人攻打洛阳，但因守城晋军死战，攻城受挫，刘渊被迫撤离洛阳。

河瑞二年（310年）七月，刘渊在平阳皇宫的光极殿去世，其子刘聪自立为帝，并追尊刘渊为汉光文皇帝（意为光大汉文帝基业之义也），刘聪继承了刘渊灭晋的遗志，于光兴二年（311年）六月率军攻陷洛阳，俘虏晋怀帝。