明太祖朱元璋是以南方为基地定鼎中原的，其定都金陵（元属集庆路，明朝改成应天府，即现在的南京），按照惯例，首都附近是要有相当大的一片的直辖地区的，于是，中国史无前例的一个地区出现了--南直隶（一开始只称直隶，后因明朝迁都北京，北部也有一个直隶，所以这里称为南直隶）。
首都是南京，朱元璋的老家又是淮西的凤阳，为了增加自己的统治腹地，这个南直隶划的特别大，朱元璋竟然将宋朝浙西路的苏州府、松江府、湖州府、嘉兴府地全都划予南直隶；再把老家也划了过去，于是，一个跨越淮北，淮南和江南的"南直隶"出现了。
强调一下，南直隶不是行政区划，它是一个地区的笼统称呼，南直隶的州府都是相互独立的，并没有一个统一的上级行政区管理，而是中央六部直管。
一个行政区同时跨越长江和淮河，这在中国历史上几乎是前所未有，因为长江和淮河本来都是重要的地理分界线，刚设立的南直隶下辖16府加4个直隶州，太大了，因为浙江实在太小，于是洪武十四年（1381年），湖州府、嘉兴府地复归浙江。
