魏明帝即位后，毌丘俭先后任尚书郎及羽林监，因为曾在东宫办事，得到曹睿信任。后出任洛阳典农，毌丘俭曾上疏劝魏明帝停止加建皇宫的工程，受到皇帝的表扬。
公元235年，毌丘俭成了幽州刺史，加度辽将军。次年，毌丘俭参与攻打自称燕王的公孙渊。公元249年，司马懿趁着曹爽陪同曹芳离开洛阳去高平陵扫墓之际，趁机起兵控制了洛阳，史称"高平陵事件"。这次事件过后，司马懿开始掌控曹魏的军政大权，或者说"天下尽归司马氏"。
好家伙，你司马懿竟然玩这招，毌丘俭作为曹魏的忠臣对司马懿痛恨不已。公元256年正月，毌丘俭便联合扬州刺史文钦及淮南屯田诸将，发布了讨伐司马氏之檄文，歃血为盟，举起了反对司马氏的旗帜。毌丘俭起兵反抗司马氏之后，司马氏肯定不愿意坐以待毙，要知道此时的司马懿早已病逝了，家族中掌权的是司马师。
为了尽早平定这场叛乱，司马师决定亲自率军反击毌丘俭，同时命令其他各路大军不可轻举妄动。这就比较尴尬了，毌丘俭、文钦不能进攻，退军又怕寿春被袭击，士气越来越来低落。更为糟糕的时，文钦被魏军击败，最终投降了东吴。
不久之后，毌丘俭的军队不战自退。就这样，一场反对司马氏家族篡权的军事行动以失败而告终。而毌丘俭本人则被俘虏后被射杀，三族之人被诛杀。毌丘俭忠于曹魏的行为一直受到了后人所称赞，"君子谓毌丘俭事虽不成，可谓忠诚矣。夫竭节而赴义者我也，成之与败者时也。我苟无时，成何可必乎?忘我而不自必，乃所以为忠也。古人有言：'死者复生，生者不愧'。毌丘俭可谓不愧也。"
