朱元璋很早就注意到占领区内的政权建设。至正十五年(1355年)六月,他率军攻下太平后,即改太平路为太平府,设置了太平兴国翼元帅府,自领元帅事,召陶安参幕府事,李习为知府。翌年三月攻占集庆,他又改集庆路为应天府,称吴国公,置江南行中书省,自总省事,置僚佐,并在辖区内设置府、州、县官,在江南建立了他领导下的政权系统。其后,经八年征战,辖区进一步扩大,湖广行省、江西行省纳入版图。因而朱元璋又于至正二十四年春正月,改称吴王,建立中书省,设置左右丞相管理行政,左右都督执掌军政,御史大夫执掌监察。并于地方建置行中书省、府、州、县等地方行政机构和主管地方军事的行都督府,基本上确立了后来的明朝政权的组织规模。之后,随着军事征伐的不断胜利,朱元璋便积极致力于统一的封建专制政权的创建。1368年正月朱元璋在南京即皇帝位,正式建立了明朝,年号"洪武"。
明朝的政治制度,仍沿元朝旧制。中央设中书省,置左右丞相;中书省下设六部,各部设尚书、侍郎。地方设行中书省、置平章政事和左右丞。中书省是"百司纲领,总率郡属。"①凡事必先"关白"丞相,然后奏闻皇帝。行中书省总管一省民政、军政和司法。很快,朱元璋即发现丞相和行中书省的权力过大,决心加以改革。洪武九年(1376年),他废行中书省,在全国陆续设置了13个承宣布政使司,同时又设提刑按察使司、都指挥使司分管一省民政、司法和军队。布政司设左右布政使各一人,从二品;左右参政,从三品;左右参议,从四品,均无定员。其所属机构经历司收发文移,照磨所磨勘卷宗,还有理问所、司狱司、仓库使、杂造局、宝泉局、织染局、军器局等部门。布政使掌一省之政,主要责任为传布朝廷政令、考核属下官员和征收赋役。参政、参议分守各道,掌管粮储、屯田、清军驿传、水利、抚民诸事。布政司下又设府(直隶州)、县(州)二级地方政权,长官称知府(知州)、知县(知州)。
都指挥使司,管辖本省卫所,负责军务,设都指挥使一人,正二品,是省最高军事长官。提刑按使司设按察使一人,正三品;副使,正四品;佥事,正五品,均无定员。所属机构有经历司、照磨所、司狱司。按察使负责本省刑狱与监察,"纠官邪、戢奸暴,平狱讼,雪冤抑,以振扬风纪,而澄清其吏治"。都、布、按并称三司。三司的设立,一方面使地方机构职权趋向专一化,从而加强了办事效能;另一方面,由于三司地位平等,虽共掌一省政务,但互不统属,分归中央有关部门管辖,从而有效地达到了权力制衡,加强了中央集权。
洪武十年(1377年),朱元璋设通政使司,长官称通政使,主管章奏出纳和封驳,稍夺中书省的"关白"之权。第二年,又下令凡奏事不得先"关白"中书省。洪武十三年,朱元璋以"谋不轨"罪名杀左丞相胡惟庸,罢中书省,"析中书省之政归六部,以尚书任天下事。"①六部尚书执行皇帝命令,直接对皇帝负责。六部即吏、户、礼、兵、刑、工。六部各设尚书一人,正二品;左右侍郎各一人,正三品。下置各司设郎中一人,正五品,员外郎一人,从五品。