清代以前，明朝初年曾在东北建立“羁縻卫所”，明成祖时期更升格为“奴儿干都司”管辖吉林地区，但实际上明朝对东北地区的统治并非直接管辖，而仅是在重要地点设军事据点及发展交通路线，各族实质上仍由各部族自行统治，而除少数官员之外，大多数官军人员由当地部族人担任，中央政权只是派遣人员加巡视宣慰各族人民。
中国的行省制起源于元朝，当时全国共划分为10个行省，例如湖广行省、江浙行省和四川行省等，其管辖地区也要比今天大得多，例如湖广行省就管辖湖北南部、湖南、广西等地区，江浙行省管辖范围包括今天的苏南、浙江、福建等地。
