锦衣卫的前身是明太祖朱元璋设立的拱卫司，不久改称亲军都尉府。这时期锦衣卫主要是负责仪仗和护卫皇帝安全，并没有很大的权利。
明朝初期，政权相对稳定后朱元璋为加强皇权便着手改造这个不起眼的锦衣卫。锦衣卫渐渐拥有了逮捕和审判的权利。因胡惟庸大案时锦衣卫滥用职权，滥杀无辜，触犯众怒，朱元璋便派人毁了锦衣卫逼供的刑具并废除了锦衣卫。明成祖朱棣"靖难"成功后又恢复了锦衣卫（一说为寻找失踪的建文帝朱允炆），同时朱棣设立东厂和锦衣卫互相制衡。
明宪宗成化年间又设立西厂，西厂和内行厂存在时间不长，但和东厂、锦衣卫齐名，有"逻卒四出，天下骚然"之称。明末崇祯帝在东林党官员的谏言下曾废除过锦衣卫，不过马上又重新恢复。
