荀彧见状选择了告老还乡，并将自己的宗族迁到冀州避难。冀州是袁绍的地盘，他知道荀彧后，利用他的同乡辛评、郭图等人把荀彧请下山。荀彧成为袁绍的谋士后，他很快发现袁绍虽然位居三公之上、兵势强盛，却不善用人、无法成大事。于是再次果断做出决定，8个字：离开袁绍、转投曹操。
公元191年，年仅29岁的荀彧主动投身曹操帐下。曹操早就听说过荀彧的大名，看到他来辅佐自己，激动地说了4个字："吾之子房！"于是任命他为别部司马。
荀彧加入曹操帐下后，聪明才智很快到了发挥。他在战略上为曹操规划制定了统一中国北方的蓝图和军事路线。事实证明，荀彧的这个战略比诸葛亮的隆中对一点都不逊色，甚至更有效。此外，荀彧还是第一个对曹操提出"挟天子以令诸侯"战略的，受到曹操高度赞赏。
