根据《三国志·王凌传》注引《魏略》记载。一年，兖州刺史曹操带兵巡查，发现街头扫地的官奴看起来非常眼熟。于是曹操前去询问，发现这位灰头土脸的清洁工正是王允的儿子--王凌。作为"反董卓联盟"的干将，曹操自然非常佩服王允的忠义和勇气，而让王允儿子当官奴，确实不妥。
于是曹操当场赦免了王凌，并将他任命为骁骑将军主薄之职。其后，王凌又出任中山太守，颇有治绩。因此，曹操将之任命为丞相掾属，随时跟在自己身边。
曹丕代汉登基后，王凌被拜为散骑常侍，其后又出为兖州刺史。在与吴国的作战中，王凌与张辽一同前往广陵讨伐孙权。当夜也是运气好，吴将吕范的战船被风吹到了岸边，王凌发现后立即率兵逆击，大破敌军，缴获了不少战功。因为这个战功，王凌被封为宜城亭侯，加建武将军。
