他也是刘邦的老上级。当年，刘邦做泗水亭长的时候，萧何是县主薄，曹参是典狱长，也就是县看守所所长。三人都是小公务员，关系不错，但级别上刘邦显然不占优势。反秦后，曹参和萧何一样，始终唯刘邦马首是瞻，从无二心，身经百战，屡建战功。刘邦称帝后，论功行赏，曹参功居第二，赐爵平阳侯。
在诸将中，曹参与韩信交集最多，是刘邦派给韩信的副手，也可以说是监视韩信的。但曹参从未以刘邦老兄弟自居，甘心听从韩信的指挥，无论是破赵还是降齐，曹参都立下汗马功劳。韩信率军垓下围困项羽时，齐国还未完全平定，是他留在齐国镇守。韩信迁徙楚王后，刘邦委托曹参继续为齐相辅佐刘邦的私生子，也就是新齐王刘肥。
曹参和萧何很熟，但起事后，一个主后勤，一个常领兵，交往变少，并一度产生隔阂，尤其是在排定军功时，曹参对萧何排第一，他排第二不服气。但毕竟是老朋友，随着岁月流逝，萧曹重归于好。而且在萧何去世，曹参接班为丞相后，留下"萧规曹随"的美谈，为随后的文景之治奠定了良好的物质和理论基础。
曹参为相后，一切遵萧何之法而无所变更，也很少上朝，只躲在家里享清闲。刚接班的惠帝受不了了，认为曹参看不起他，便派人叫来曹参质问。
