不过刘晔起初的平台并不高，他最先投靠的是割据淮扬一带的郑宝、刘勋等人。但郑宝默默无名，刘勋不过割据庐江而已，他们无法发挥刘晔的才能，所以当曹操开始染指淮扬地区的时候，刘晔便心属曹操了。刘晔先是手刃不服曹操的郑宝，之后在199年，刘勋因不听刘晔的建议败于孙策后，刘晔便同刘勋一同投奔曹操。
"算无遗策"的天才战略家
投靠曹操后，刘晔出众的战略才能便有了可以充分发挥的平台。袁术败亡后，曹操占据寿春，派兵征讨附近山贼，但首战失利。不少臣子认为征讨此地山贼性价不不高，但刘晔却力排众议，谏言曹操应用金钱收买和武力征讨并用的方式来处理淮扬地区的山贼，很快取得成效。战后，刘晔被曹操征辟为司空仓曹掾，进入曹操幕府。
剿灭山贼只能算是小试牛刀，此后的汉中之战、夷陵之战才是真正展现刘晔卓越战略眼光的时候。
建议曹操迅速进攻张鲁、刘备。215年曹操征讨汉中张鲁时，曹操又任命刘晔为随军主簿。此时曹操又面对征讨寿春山贼时同样的局面：张鲁军队坚守汉中多处隘口，曹军死伤众多，却收效甚微。而张鲁军的实力又要远高于山贼，所以粮草消耗殆尽的曹操便下令撤军，让刘晔都督后军。
