刘备曾被朝廷封为豫州牧，并到当地为官。到达豫州后，刘备立即提拔陈登成为自己的别驾。在刘备看来，陈群是苗根正红的官二代，也是个能力出众的年轻人，前途不可限量。后来陶谦病死，并邀请刘备继承徐州。正当刘备准备前往之时，陈群劝阻道："如今南边袁术尚强，你去徐州后，他必与你征战。到时候吕布偷袭你的背后，主公如何敌对呢？"然而刘备不听陈群的劝阻，执意东向。最终结果不出陈群所料，吕布趁刘备与袁术交战时，趁虚袭取了徐州。对此，刘备一直悔恨没有听陈群的话。
刘备离开豫州后，陈群便决心与他分道扬镳。为了挽回陈群，刘备曾做了不少工作，不但他举为茂才，而且任命他为柘县令。然而陈群心意已决，再也没和刘备重修旧好。其后，陈群投奔了曹操，并以其高贵的身份和出众的能力，成为曹魏举足轻重的重臣。陈群以期出色的人脉和威望，成为曹魏政权与荀氏、司马氏、钟氏等豪族的粘合剂。
后来，陈群建议曹丕推行九品中正制，将曹魏政权和世家大族们彻底绑在了一起。著名史学家唐长孺认为，九品中正制固然是中央政权与世家大族的一种妥协，但更体现了中央集权对地方大族势力的强有力控制。该制度推行之初，的确为曹魏带来了不少人才。九品中正制虽然日后体现了不少弊端，但在当时还是很有效的。
陈群在个人能力上或许不及诸葛亮，但对一个政权来说，陈群能起到的作用恐怕要更大，在这一点上，陈群要强过诸葛亮。最终，陈群位列三公，得以善终。
