曹操大败袁术，解除南面的威胁之后，开始向东面的徐州发展势力。
这时徐州牧是陶谦。陶谦是丹阳人，因参加镇压徐州黄巾军有功，被任命为徐州刺史。董卓专权时，他没参加关东联军讨伐董卓，被董卓提升为徐州牧。董卓被杀后，陶谦同袁术、公孙瓒结合，与曹操为敌。
193年（初平四年）夏，曹操派人到琅琊接父亲曹嵩来兖州，在途中被陶谦部将张闿截击，曹嵩被杀，一百多车财物被抢。这样，曹操同陶谦的仇恨就更深了。
同年秋，曹操亲率大军，东征陶谦，连下徐州十多个城池，进抵彭城（今江苏徐州）。陶谦领兵前来会战，被曹操打败，退保郯县（徐州治所，今山东郯城）。曹操攻郯不下，引兵向南攻陷虑（今江苏睢宁西南）、夏丘（今安徽泗县）等地。
这时，曹操军队的纪律还很差，曹操的复仇心理也很强，所过多所残戮，前后"凡杀男女数十万人＂。
