大明建立之初，位于辽东东部的女真诸部势力分散、羸弱不堪，一度还曾向朝鲜称臣纳贡，所以明太祖朱元璋只在辽阳以东约二百里的地方设置了一座孤山堡，作为面向女真诸部的警戒哨。
永乐时期，宦官侯显陆续招降了女真诸部，明成祖朱棣乘机设立了建州等卫管理女真诸部。
仁宣之后，大明由战略扩张期进入战略收缩期，女真诸部由此开始逐渐走向强大，并不断寇犯辽东。
成化年间，为了打击女真诸部对辽东的寇犯，明宪宗派遣将军赵辅率领五万大军出击，史称"成化犁庭"。此后，女真诸部一蹶不振，在很长一段时间里都难以对辽东形成威胁。
嘉靖年间，缓过气的女真诸部再次走向强大，并形成了王杲部、王兀堂部、阿台部等几股强大的势力，对辽东地区形成了严重威胁。有鉴于此，明世宗朱厚熜接受了辽东巡按御史张锋的建议，增设险山五堡，从而使其能与明初设立的孤山堡构成一条完整的防线。
