最初，各地起义军作战勇猛，先后将卢植、朱俊和皇甫嵩打败，并把皇甫嵩包围在长社城内。但是毕竟起义军没有经过正规训练，也没有什么作战经验。在一次被皇甫嵩放火突袭的过程中，损失惨重。此后，局势开始逆转，起义军越来越被动，最后被各个击破。
由于镇压黄巾起义有功，曹操被升为济南国之相。东汉时，王国封地之相的级别与二千石的郡太守相等。曹操本出生在地位不高的宦官家庭，常被别人瞧不起，所以他非常希望得到郡太守的职位大干一场，以显示自己的才华，实现心中的夙愿。
济南国紧邻泰山，泰山地处山东中部，泰山南麓，北依济南，南临曲阜，东连齐都淄博，西滨黄河，凌驾于齐鲁大地，几千年来一直是东方政治、经济、文化的中心。泰山最引人入胜的地方就是它是中国历史上唯一受过皇帝封禅的名山。中国有五岳，威震四方，泰山是五岳之首，号称"群岳之长"，如诸子百家中的儒家，经过长期的历史检验，五岳独尊。泰山成为上古帝王、历代皇帝检验自己是否是受命于天、是否是真龙天子的试金石，成为君王巡狩、柴望、封禅的首选之地，逐渐演化成为国家御用之山，国家重大事项的祭祀之地。
身边有座具有如此王者之气的泰山，曹操也可放开手脚，大展一番宏图。
济南国辖区内一共有十个县，几乎大小官员都和朝廷贵戚、宦官或者地方豪强勾结，欺压百姓。而历任国相却不敢加以干涉。曹操到任后不久，就罢免了八个官员，朝廷上下无不为之震恐。更重要的是，曹操的作为触犯了朝廷中一些当权者的利益，他们自然不会放过曹操。曹操一方面不愿意违背自己的志向去迎合权贵，一方面又考虑到已经多次触犯权贵，再这样也干下去，担心会使全家受到连累。为了避免发生不测之祸，曹操在当年辞去了济南相的职务，请求回到宫中值宿，担任警卫，实际是要求赋闲。中平二年，朝廷让曹操去做东郡太守，曹操不仅没有答应，相反，连议郎也不肯再做，推托有病，辞官回到家乡谯县去了。
