咸宁（275年－280年）年间，关陇地区爆发了秃发树机能起义，晋廷屡次镇压均告失败。为扑灭起义，武帝决定选拔能够胜任的将帅出征。尚书仆射、上党人李憙劝武帝说：“陛下如果能够征发匈奴五部的兵力，授给刘渊一个将军名号，令其西征平叛，凉州指日可定。”孔恂说：“李公的话，并未点破消除危患的道理。”李憙勃然大怒说：“以匈奴的强悍善战，刘渊的通晓用兵，再加上奉宣圣威，消除叛乱，还有什么可说的呢！”孔恂说：“刘渊如果能够平定凉州，斩树机能，恐怕凉州才真正有危难了。那时蛟龙如得云雨，将遨游长空，不再是池中之物。”武帝认为孔恂言之有理，未采纳李憙的建议。
刘渊两次仕进受阻，深为沮丧。后来东莱游侠王弥离洛回乡，刘渊在九曲之滨与王弥饯行，哭泣说：“王浑、李憙与我同乡，对我的为人深知熟知，常向皇帝称赞推荐，离间的谗言因此随之而生。这一切本不是我之所愿，却深受其害。我并不想为官仕进，这一点只有你清楚。恐怕今生只能死在洛阳，与你永别了。”说罢慷慨长叹，歔欷不已，纵酒长啸，声调激昂，在座者无不为之凄然泪下。当时，齐王司马攸也在九曲，闻讯后驰马探视究竟。见此状，遂向武帝进言：“陛下不除掉刘渊，臣惟恐并州不得长久安宁。”王浑劝谏道：“刘渊为人忠信，臣下愿为他担保。再则大晋刚刚宜称要以德招抚四方，殊俗共存，为什么要以没有根据的怀疑而杀匈奴的侍子，以示晋德不弘呢？”武帝说：“王浑的话是对的。”便没有听从司马攸的建议。
崛起乱局
咸宁五年（279年），刘豹去世21
，武帝命刘渊接任左部帅。刘渊得以摆脱任质生涯，回到了并州。他在辖区施