开创汉国
永兴元年（304年），刘渊在左国城正式登上汉王位。他以复汉为名，追尊汉后主刘禅为孝怀皇帝，立汉高帝刘邦以下三祖五宗神主而祭之。又大赦境内，建年号为元熙，立其妻呼延氏为王后，并依据汉制设置百官。28
既然刘渊公开打出反晋旗号，据并州一隅之地建立政权，与西晋王朝分庭抗礼，故并州刺史司马腾立即派将军聂玄征讨刘渊。两军战于大陵（今山西交城东南），结果聂玄大败29
。司马腾闻讯大惊失色，慌忙带领二万余户逃离并州。刘渊派遣建武将军、族子刘曜攻下了太原（太原市南）、中都（山西榆次）、屯留（山西屯留南）、泫氏（山西高平）、长子（山西长子）等军事要镇，控制了晋东南地区。元熙二年（305年），司马腾又派遣司马瑜、周良、石鲜等率兵讨渊，屯军于离石汾城。刘渊命令武牙将军刘钦等率六军进攻司马瑜，凡四战，皆胜，司马瑜等落荒而去。为扭转败局，晋廷任命刘琨为并州刺史。刘琨到任伊始，即以州治晋阳（山西太原西南）为据点，抚循劳徕，甚得人心。刘琨还派人离间刘渊与其统属的其他少数族之间的关系，使得叛刘渊附晋的“杂虏”达万余落。刘琨的活动，对刘渊构成重大威胁。刘渊遂委任前将军刘景为使持节、征讨大都督、大将军，攻击刘琨，结果反在板桥为刘琨所败。30
面对刘琨的威胁，侍中刘殷、王育进谏刘渊说：“殿下自起兵以来，已近一年，而仍居偏方，王威未振。希望能命众将四出，择机决战，灭刘琨，定河东，建帝号，率军南征，攻克长安以为都城，以关中之众席卷洛阳。若如此，成高皇帝的大业，易如反掌罢了。”刘渊大喜，说：“正合我意！”30
于是在元熙五年（308年）正月，他遣抚军将军刘聪等十将南据太行，辅汉将军石勒等十将东下赵魏，将军事活动扩大到西晋王朝的腹地——中原地区31
。
随着刘渊影响的扩大，其他反晋势力先后依附于其麾下。上郡四部鲜卑首领陆逐延、氐人首领单征32
，以及叱咤风云于青徐兖豫等州的王弥，都称臣于刘渊。刘渊均署其官爵，委以重任30
。当王弥归附时，刘渊特地派侍中、御史大夫呼