司隶校尉这个官职的诞生，最初与汉武帝时期的"巫蛊案"有关。汉武帝征和四年（前89年），丞相公孙贺被人告发与阳石公主私通，且在皇帝专用的驰道上埋藏木偶人，以巫术诅咒汉武帝。汉武帝大怒，下令彻查"巫蛊案"。但棘手的是，公孙贺的夫人是皇后卫子夫的亲姐姐，此案既牵扯到当朝丞相，又涉及皇亲国戚，汉武帝认为御史大夫、御史中丞都不宜负责调查，丞相司直隶属于丞相府，更不宜。晚年的汉武帝敏感多疑，于是，设置司隶校尉专门负责彻查"巫蛊案"。《北堂书钞•设官部》记载："司隶校尉，武帝初置，后诸王贵戚不服，乃以中都官徒奴千二百人属（焉）。"刚设立时，很多皇亲国戚和朝中大臣表示反对，但汉武帝直接拨了在中央诸官府服役的徒隶一千二百人给司隶校尉，授予其直接拥有调查、抓捕、审理甚至处决的权力， 最初其主要职责是：调查"巫蛊案"，捕奸滑之徒，维持京师治安。
汉代"司隶校尉"的监察区域
汉武帝任命其宠臣江充为第一任司隶校尉，公孙贺被逮捕下狱，经调查罪名属实，父子二人死于狱中，并被灭族。江充与太子刘据有仇隙，遂借"巫蛊案"陷害太子。
"巫蛊之祸"平息后，汉武帝才知道太子刘据本无反心，皆因被江充逼迫、诬陷，迫不得己才起兵诛杀江充，汉武帝遂灭江充三族。同时，汉武帝发现司隶校尉的权力过大，对其职责进行了大幅调整，罢去其领兵权而执掌监察权， 专门负责监督皇太子、三公及以下百官，京畿地区三辅（京兆尹、左冯翊、右扶风），三河（河东、河内、河南）及弘农七郡的地方官员，成为常设的监察官。此后至东汉、曹魏、西晋时期，司隶校尉作为皇帝特设的监察官，可以持皇帝符节行事，地位较高，既不属于御史大夫府，也不属于丞相府，既是中央监察官，又是地方监察官。司隶校尉的最特殊之处是直接听命于皇帝、对皇帝负责，是奉天子之命监察，是皇帝的耳目之臣，且管辖范围广泛，监察对象上可达三公九卿、朝中大臣，甚至皇太子、诸侯王等皇亲国戚，下可达京畿地区的郡守等地方官。御史中丞、丞相司直行使监察权，一般以纠举、弹劾为主，但司隶校尉可以持皇帝符节直接逮捕、审问官员，其权力更大。这一时期，连续有几任司隶校尉尽职尽责，"纠上检下，严刑必断"，以致"贵戚惮之，京师政清"，为澄清吏治发挥了重要作用。《汉书•盖宽饶传》记载：宽饶擢为司隶校尉时，"刺举无所回避，小大辄举，所劾奏众多 ……公卿贵戚及郡国吏繇使至长安，皆恐惧莫敢犯禁 。"
