王允十九岁时被推举为郡吏。
当时晋阳地区有一名叫赵津的小黄门，贪横跋扈，是晋阳县百姓的大患。
王允下令将赵津逮捕处死。赵津的兄弟谄媚宦官，借以诬诉，汉桓帝震怒，郡太守因此受征入京，下狱而死。
王允把太守的遗体送回平原，整整三年，然后回家，再次出仕。
与王允同郡中有一个名叫路佛的人，少时既无名声，也无德行，太守王球却召他为吏，王允毫不客气地与王球争辩，王球恼羞成怒，利用手中权力，立即将王允捉拿起来，投入牢中，准备随时杀掉。
刺史邓盛很早就听说过王允的事迹，当他得知王球要杀掉王允的消息后，立即驰马传令，辟王允为别驾从事。
在邓盛的提拔和宣扬下，王允的名声越来越大，为他日后步入朝廷做官奠定了基础，而路佛也因此被废弃了。
王允少时好大节，有志为国建功立业，经常诵读经传，在早晚时练习驰马射箭。后来，王允被朝廷三公同时征召，以司徒高第征为侍御史。从地方州郡迁到中央朝廷，这是王允人生道路的重大转折，也为他实现忠心为国的政治抱负提供了广泛的政治舞台。
中平元年（184年），全国各地便爆发了声势浩大的黄巾军农民起义。
为了迅速镇压起义，东汉政府特别选拜王允为豫州刺史。王允征辟荀爽、孔融等名士担任从事，并上书请求解除党禁。
在讨伐黄巾过程中，王允率兵大破黄巾军的别帅，之后，和左中郎将皇甫嵩、右中郎将朱儁共同受降数十万黄巾起义军。
在受降过程中，细心的王允从农民军中搜查到一封中常侍张让的宾客所写的书信，信中涉及一些与黄巾军有关的内容。
张让是当朝掌权的大宦官，权势很大，极受皇帝宠爱。王允也不计较利害关系，便把其中的具体细节全部揭发出来，并且写成奏折上奏皇帝。汉灵帝指责张让，张让叩头谢罪，但始终没有被治罪。
张让脱罪后，对王允心怀怨恨，一心想伺机打击报复王允。第二年，朝廷下诏将王允逮捕下狱治罪。
不久，正好赶上朝廷大赦，王允免罪释放，还复刺史原职。可没过多久，王允又