自元代以后,我国渐渐确立了以行省制度为主体的区划形式,并一直沿用至今天。其实,行省制度最早起源于魏晋时期的行台制度,原本是中央为了行政需求所设置的派出机构,凡是地方有事,行台临时代理中央执行任务,事情结束了就罢免行台。
南北朝时,东魏与北齐也曾设置过行台省,到了金代曾在汴梁设置过行尚书台省,以治理黄河等事务,但等事情处理完就罢免了。
到了金朝中后期,先后受到南宋、西夏与蒙古等多方的进攻,而在其所统辖的范围内也出现了大量的农民起义,为了提高地方的办事效率,所以设置的行省渐渐增多,例如在与蒙古边境设置临潢、抚州、北京三行省,南面为了防御南宋的进攻,在黄河南面也设置了南京行省。金朝末期所设置的行省虽然大都是临时的中央派出机构,在设置的初期多只管理民事,不管理军事,后期由于战事增多,慢慢地这些机构就兼有军事的职权,渐渐地变为常设,成了一个实际的政区。