汉灵帝中平元年，黄巾军起义爆发。为了镇压黄巾军，汉朝各级政府纷纷出动军队镇压。曹操也被拜为骑都尉，受命与卢植等人合军进攻颍川的黄巾军。此战中，曹操率军大破黄巾军，斩首数万级，因此被升迁为济南相。在济南相任内，曹操治事如初。济南国有县十余个，各县长吏多依附贵势，贪赃枉法，无所顾忌，曹操之前的历任国相皆置之不问。而曹操到职后，大力整饬，竟然奏免十分之八的官员，以至于济南震动，贪官污吏纷纷逃窜，到后来“政教大行，一郡清平”。
黄巾之乱中，曹操与济北相鲍信组成联军，全力镇压青州黄巾军。然而黄巾军骁勇精悍，人数众多，而曹操军少，所以每次都大败而回。一次曹操带领步骑数千人与黄巾军交战，结果被青州军打得大败。接着在寿张与青州军交战，又被打得大败，鲍信也死于乱军之中。曹操听说鲍信阵亡后，痛哭失声，他要求属下一定要找回鲍信的尸体。但属下找了一天，也没有找到。曹操只得叫工匠用木头雕刻成鲍信人像，穿上衣服去安葬。
曹操年轻的时候，被尚书右丞司马防推荐为官，司马防是司马懿的父亲。曹操的原意本是当洛阳令，但选部尚书梁鹄只是以他为北部洛阳尉，所以曹操心里怀恨梁鹄。曹操攻取荆州后，立即收捕梁鹄，梁鹄很是害怕，只能自己把自己绑住送上门去。幸好梁鹄的书法极好，被曹操看中，才幸免于难。后来曹操成为魏王，召司马防到邺城，与他欢饮，酒酣之时，未免得意：“孤今日可以作尉吗？”司马防回答得不卑不亢，颇有水平：“当日我举荐大王时，大王只适合做一个尉。”曹操听到这话后大笑。
曹操迎献帝到许昌后，“挟天子以令诸侯”，东汉已名存实亡，宫中的守卫和侍从其实都是曹操的人。伏寿写信给父亲伏完，陈说被曹操势力威压的情形，要求父亲密谋诛杀曹操，但伏完不敢。伏完去世之后，这件事情也就成了秘密。不料建安十九年，伏寿当年的图谋泄露，曹操大怒，命尚书令华歆领兵入宫捉拿伏寿。伏寿躲在墙壁之中，但仍被华歆发现拉出，经过外殿时见到献帝，伏寿哭着说：“不能救救我吗？”献帝回答：“我亦不知我何时会死。”最后伏寿被幽闭而死，伏氏宗族百多人亦被处死。
沛国名士刘阳见汉室衰微而曹操甚有野心，曾打算刺杀曹操，但没有成事。曹操掌握大权后，要找他报这个仇，当时刘阳已死，曹操就通缉他的儿子。刘阳亲属旧友虽多，却没有一个敢收容他。唯有王朗收容了他数年，并多次在曹操面前为其求情。最后曹操终于赦免了他。
曹操宴请官员于水阁。时值盛夏，唤侍妾用玉盘进瓜。妾捧盘低头以进。操问：“瓜熟否？”对曰：“极熟。”操怒斩之。坐客莫敢问其故。操又叫别妾进瓜。群妾皆惊，其中一妾聪敏，整容上前。操像刚才一样问她，此妾对曰：“不生。”操怒，复斩之。再呼进瓜，无敢进者。一妾名兰香，甚得曹操喜欢，众妾皆谦让不去，兰香于是擎盘齐眉而进。操问曰：“瓜味如何？”曰：“甚甜。”操大呼：“速斩之！”坐客皆拜伏请罪。操说：“大家安坐，听我说明她们的罪过。前二妾吾斩之的原因，久在承应，岂不知进瓜必须齐眉而捧盘耶？及答吾问，皆开口字，斩其愚也！兰香来未久，极聪慧，高捧其盘，是矣；复对以合口字，足知吾心。吾用兵之人，斩之以绝其患！”
曹操杀杨修之后，虽赠了许多物品给杨彪作为补偿，但也无法弥补其丧子之痛。《后汉书》记载，曹操问杨彪：“公何瘦之甚？”杨彪说：“愧无日（金日）先见之明，犹怀老牛舐犊之爱。”
