匈奴两翼三部制是冒顿单于首先建立的。《史记·匈奴传》记载，冒顿单于杀父头曼自立后，先后灭东胡，赶走月氏，南并楼烦，白羊河南王，向北臣服屈射、丁零、薪犁等诸国，尽服从北夷，而南与中国为敌国。
冒顿单于通过军事手段首次把蒙古大漠南北纳入自己统治的版图之中，同时创立"行国"游牧政权，他杀掉后母、兄弟以及反对他的大臣后，大行分封，把辽阔高原大漠草原划分为大小不同领地分封给自己的家人和功臣。
《史记》《汉书》记载"各有封地，逐水草而居"，盛时"万骑"有"二十四长"。
在分封的基础上，他整个匈奴分为单于庭，左地（左贤王统辖），右地（右贤王统辖）等三部分，即以单于为中心，把领土分成东（左）、中、西"右"三部分，这是典型的两翼三部制。最高统治者是单于，统辖中部，左右贤王分别统辖匈奴东西部分。匈奴实行军政合一，兵民合一的管理体制，除了左右贤王外，按照官职大小依次还有左右谷蠡王、左右日逐王、左右温禺犊王、左右渐将王等，这些人即是本辖区内最高行政长官，也是最高军事长官。
