董卓乱京和军阀混战，给黄河两岸人民带来了很大的灾难，这个时候农民起义发展成熟了。初平二年秋，河北的十余万黑山军(黑山，山名，在今河南浚县西北七十里，为又军初起时的根据地)，攻克东郡，迫近冀州。冀州牧袁绍恐慌不安，便以盟主身份派曹操去***黑山军！曹操和袁绍虽有矛盾，但在对待农民起义军的态度上是一致的。曹操带兵进入东郡，打败了黑山军，袁绍立即保举他为东郡太守。

曹操有了东郡作基地，也就站住了脚跟。到了第二年夏天，号称有百万的青州(今山东一带)黄巾军，向兖州发起进攻。兖州刺史刘岱准备出兵迎击。济北相鲍信劝阻说：“当今百姓都向着黄巾军，我们的士兵又没有斗志，根本抵挡不住的。不如坚城固守，让黄巾军疲惫自退。”刘岱不听，亲自率军出战，结果大败而逃，途中被黄巾军生擒，枭首示众。听到兖州刺史刘岱被杀，曹操心中暗自高兴，立即派部将陈宫到兖州去游说，要兖州的一些知名人物迎接他去做兖州牧。陈宫首先找到了鲍信，对他说：“现在天下分裂，黄市作乱，兖州又没了主人，我看曹太守是个治世的能臣，把他迎接过来，一定能平定黄巾，治好兖州。”鲍信非常高兴，立即联络一批文臣武将，把曹操接到兖州。曹操占领了兖州以后，便和鲍信组成联军，全力***青州黄巾军。

青州黄巾军兵多，勇猛刚强，曹操兵少，又缺乏训练。每次交锋，曹操总被打得大败，落荒而逃。有一天黑夜，曹操亲自带领精锐骑兵上千人，绕到青州军营寨附近去实地观察。不料被青州军发现，霎时间，成千上万的青州军向他们猛扑过来，曹操抵挡不住，立即下令撤退。上千多人只逃回三四百，其余不是被杀，就是当了俘虏。

曹操逃回营地之后，青州军便给他送来一封信，曹操见信上写着：将军从前在济南，为了治理好地方，照顾受气百姓，曾经禁祭祀，毁神坛。这种精神和我们新黄巾的道理是相同的。一个懂道理的人，现在怎么也跟着糊涂起来了。你要知道，汉朝的气数已尽，黄天必将兴起，天命如此，这不是你一个人所能挽回的。将军应该看清形势，不能让老百姓再受苦受难！“一派胡言！”曹操斥骂着，把信撕得粉碎。

接着，曹操和青州黄巾军在寿张(今山东寿张县)附近又展开了恶战。这回鲍信特别卖力，他亲自率兵上阵，从早上打到黑夜，才勉强把黄巾军打退，但鲍信自己则被黄巾军杀了。曹操听说鲍信阵亡，痛哭失声。他高价悬赏，勇定要找回鲍信的尸体，但找了一天，仍旧没有找到。曹操只得叫工匠用木头雕刻成人像，穿上鲍信的衣服。曹操一面向人像跪拜哭祭，一面鼓励士兵为鲍相国复仇。曹操又经过半年的苦战，曹操才逐渐扭转失败的局面。这时，青州军由于伤亡很重，又遇到了饥荒，战斗力大大减弱。曹操乘机送去了劝降书并开列了各项优待条件。这年冬天，在曹操软硬夹攻之下，青州军终于全部投降。 曹操开始改变青州军，挑选其中身强力壮的，编入自己部队，称为“青州兵”，人数号称三十万。还有一百多万老百姓，也跟随黄巾军一起留下。从此，曹操不仅有了兖州根据地，而且兵力也大大加强了。

但是，曹操在兖州的地位并不巩固。朝廷听说兖州刺史刘岱被黄巾军打死，便改派金尚当兖州刺史。曹操当然不答应，金尚刚到兖州边界，便被曹操伏兵打跑了。接着，扬州军阀袁术又带兵攻入了兖州的陈留郡。曹操经过几天苦战，才打败袁术。

他不久又出兵征伐陶谦，连下十余城。回到兖州后，刚想喘口气，忽闻父亲被陶谦杀害，曹操气得七窍生烟，决定再次征伐陶谦。