明洪武十八年(公元1385年)，升兖州为兖州府， 故治在今兖州区，此时面积最大，领济宁、东平、曹、沂四州二十三县。

雍正年间(公元1723-1735年)，沂、曹、济宁、东平四州直隶于省，先后割县十三，不再领州，只领滋阳、曲阜、邹、泗水、滕、峄、汶上、阳谷、寿张十县。金乡、鱼台、嘉祥归济宁州东阿、平阴、东平州归泰安府曹州、单县、成武、曹县、定陶、巨野、郓城建立曹州府沂州、郯城、费县建立沂州府。

民国初，废兖州府。