曹操入仕后，初为洛阳北部尉，负责部分城区的治安。上任之初，就不顾汉灵帝最宠幸的宦官蹇硕的脸面，将其违令夜行的叔父杖毙，使得"市师敛迹，莫敢犯者"。后曹操征拜议郎，冒着杀头的危险两次上书劝谏，为遭宦官陷害而冤杀的正直官员鸣不平，其忠正之心昭然可鉴。
入仕后的第10年，曹操升为济南国相，以革除弊政为己任，一上任就大刀阔斧、雷厉风行的肃清吏治，将国内县令十去其九。《三国志》注引《魏书》曰："长吏受取贪饕，依倚贵势，历前相不举；闻太祖(曹操)至，咸皆举免，大小震怖，奸宄遁逃，窜入他郡，政教大行，一郡清平。"
不惜得罪何进，力图阻止天下大乱
曹操的所作所为，比起当时四世三公、名满天下的袁氏中人，不仅称得上是忠臣，更称得上是一位能吏。可惜，一个小小的王国相，怎经得起宦官和地方豪强两大势力的反扑。因此，曹操急流勇退，于济南相任满后回故乡隐居，"筑室城外，春夏习读书传，秋冬弋猎""绝宾客之往来，欲以泥水自蔽"。
