公元前221年，秦始皇統(tǒng)一中國(guó)后始行郡縣制。
境內(nèi)除任城縣、亢父縣屬薛郡外，其他則屬魯郡。
西漢時(shí)，境內(nèi)曾置有東平國(guó)，領(lǐng)任、無(wú)鹽、亢父、樊、東平陸、富城、章7縣。
東漢則從東平國(guó)析出任城國(guó)，領(lǐng)任、亢父、樊3縣。
三國(guó)、兩晉、南北朝時(shí)期，境內(nèi)政區(qū)變化不大，或?yàn)槿纬菄?guó)，或?yàn)槿纬强ぃI(lǐng)3縣如故。
隋統(tǒng)一后，改兗州為魯郡，領(lǐng)瑕丘、任城、鄒、曲阜、平陽(yáng)、泗水、龔丘、梁文、博、贏10縣。
唐時(shí)無(wú)大變化，但五代周廣順二年(952年)置濟(jì)州，并割鄆州的巨野、鄆城，兗州的任城，單州的金鄉(xiāng)歸其統(tǒng)轄。
這期間，境內(nèi)其他各縣則多屬兗州。
宋政和八年(1118年)兗州一度升為襲慶府，境內(nèi)的仙源、泗水、瑕丘、鄒縣都?xì)w其統(tǒng)轄。
金天德二年(1150年)，濟(jì)州由巨野遷往任城，并領(lǐng)任城、嘉祥、鄆城、金鄉(xiāng)4縣。
元至元八年(1271年)，濟(jì)州升為濟(jì)寧府，至元十六年(1279年)，又升為濟(jì)寧路。
自此以后，境內(nèi)或?yàn)楦�、州，或�(yàn)閰^(qū)、市，一直是歷代地方二級(jí)政權(quán)機(jī)關(guān)駐地，其行政區(qū)劃如下。
元時(shí)，至元十六年(1279年)，境內(nèi)置濟(jì)寧路，治任城，領(lǐng)轄3州7縣，即：濟(jì)州、單州、兗州，任城、巨野、鄆城、肥城、金鄉(xiāng)、碭山、豐縣。
明時(shí)，洪武元年(1368年)改濟(jì)寧路為府，仍治任城，領(lǐng)轄3州12縣。
即：兗州、東平州、沂州，任城、金鄉(xiāng)、巨野、鄆城、嘉祥、曹、單、定陶、成武、魚臺(tái)、滕、嶧縣。
洪武十八年(1385年)改濟(jì)寧府為州，只領(lǐng)3縣。
即：嘉祥、巨野、鄆城。
清時(shí)，雍正二年(1724年)濟(jì)寧州升為直隸州，仍領(lǐng)3縣，即嘉祥、巨野、鄆城。
乾隆四十一年(1776年)，濟(jì)寧直隸州領(lǐng)3縣。
即：嘉祥、魚臺(tái)、汶上。
乾隆五十四年(1789年)，濟(jì)寧直隸州領(lǐng)3縣。
即：嘉祥、魚臺(tái)、金鄉(xiāng)。
中華民國(guó)時(shí)，1914年6月境內(nèi)置濟(jì)寧道，領(lǐng)轄25縣。
即：濟(jì)寧、滋陽(yáng)、曲阜、寧陽(yáng)、鄒、滕、泗水、汶上、嶧、金鄉(xiāng)、嘉祥、魚臺(tái)、蘭山(后改名為臨沂)、郯城、費(fèi)、蒙陽(yáng)、營(yíng)、沂水、菏澤、曹、單、成武、定陶、巨野、鄆城縣。
1933年，境內(nèi)置山東省第一行政督察專員公署，領(lǐng)轄11縣。
即：濟(jì)寧、滋陽(yáng)、汶上、寧陽(yáng)、曲阜、鄒、滕、東平、嘉祥、金鄉(xiāng)、魚臺(tái)縣。
1935年7月，又改為濟(jì)寧實(shí)驗(yàn)區(qū)長(zhǎng)官公署，領(lǐng)轄14縣。
即：濟(jì)寧、嘉祥、巨野、鄆城、壽張、鄄城、定陶、成武、曹、單、金鄉(xiāng)、魚臺(tái)、東平、汶上縣。
1935年冬，再改為山東省第一區(qū)行政督察專員公署，領(lǐng)轄10縣。
即：濟(jì)寧、滋陽(yáng)、東平、汶上、鄒、滕、寧陽(yáng)、曲阜、嘉祥、魚臺(tái)縣。
1946年9月，境內(nèi)設(shè)山東省第二行政督察專員公署，領(lǐng)轄7縣。
即：濟(jì)寧、嘉祥、鄆城、巨野、壽張、東平、汶上縣。
中華人民共和國(guó)建立后，1953年7月，滕縣專署和湖西專署合并為濟(jì)寧專署，專署駐地為濟(jì)寧市。
領(lǐng)轄濟(jì)寧市、濟(jì)寧縣、滋陽(yáng)縣、曲阜縣、鄒縣、鳧山縣、滕縣、嶧縣、薛城縣、微山縣、魚臺(tái)縣、金鄉(xiāng)縣、嘉祥縣、汶上縣。
1956年2月，泰安專區(qū)的泗水縣劃歸濟(jì)寧專區(qū)。
同時(shí)，境內(nèi)的區(qū)劃也作了調(diào)整，撤銷了魚臺(tái)縣并入金鄉(xiāng)縣；撤銷了鳧山縣、薛城縣。
這時(shí)的濟(jì)寧專署領(lǐng)轄濟(jì)寧市、濟(jì)寧縣、滋陽(yáng)縣、曲阜縣、泗水縣、鄒縣、滕縣、嶧縣、微山縣、金鄉(xiāng)縣、嘉祥縣、汶上縣。
1958年12月，經(jīng)國(guó)務(wù)院批準(zhǔn)撤銷菏澤專署，原屬各縣劃歸濟(jì)寧專署；撤銷濟(jì)寧縣，分別劃歸濟(jì)寧市和鄆城、巨野、金鄉(xiāng)縣；撤銷滋陽(yáng)縣，劃歸曲阜縣。
這時(shí)的濟(jì)寧專署領(lǐng)轄濟(jì)寧市、曲阜縣、泗水縣、鄒縣、滕縣、嶧縣、微山縣、金鄉(xiāng)縣、汶上縣、菏澤縣、曹縣、單縣、成武縣、鄄城縣、巨野縣、鄆城縣、梁山縣。
1959年7月，菏澤專署恢復(fù)，濟(jì)寧專署領(lǐng)轄濟(jì)寧市、曲阜縣、泗水縣、鄒縣、滕縣、嶧縣、微山縣、金鄉(xiāng)縣、汶上縣。
1960年1月，嶧縣撤銷，劃歸新建的棗莊市。
這時(shí)的濟(jì)寧專署領(lǐng)轄濟(jì)寧市、棗莊市、曲阜縣、泗水縣、鄒縣、滕縣、微山縣、金鄉(xiāng)縣、汶上縣。
1961年9月，棗莊市從濟(jì)寧專區(qū)析出。
10月，恢復(fù)嘉祥縣；撤銷滋陽(yáng)縣，新設(shè)兗州縣。
至此，濟(jì)寧專署尚轄濟(jì)寧市，兗州縣、曲阜縣、泗水縣、鄒縣、滕縣、微山縣、金鄉(xiāng)縣、嘉祥縣、汶上縣。
1964年7月，恢復(fù)魚臺(tái)縣；1965年4月，恢復(fù)濟(jì)寧縣；皆歸屬濟(jì)寧專區(qū)。
1967年，濟(jì)寧專區(qū)改稱濟(jì)寧地區(qū)。
1978年11月，滕縣劃歸棗莊市。
這時(shí)的濟(jì)寧地區(qū)尚有1市10縣。
即：濟(jì)寧市，兗州縣、曲阜縣、泗水縣、鄒縣、金鄉(xiāng)縣、嘉祥縣、魚臺(tái)縣、汶上縣、微山縣、濟(jì)寧縣。
1983年8月30日，經(jīng)國(guó)務(wù)院批準(zhǔn)，撤銷濟(jì)寧地區(qū)，濟(jì)寧市升格為省轄地級(jí)市。
原濟(jì)寧地區(qū)的汶上縣、泗水縣劃歸泰安地區(qū)。
10月5日，經(jīng)山東省人民政府批準(zhǔn)，設(shè)立濟(jì)寧市中區(qū)，以原濟(jì)寧市區(qū)域?yàn)檩爡^(qū)；設(shè)立濟(jì)寧市郊區(qū)，以原濟(jì)寧縣區(qū)域?yàn)檩爡^(qū)。
調(diào)整后，濟(jì)寧市人民政府領(lǐng)轄2區(qū)7縣，即市中區(qū)、市郊區(qū)，兗州縣、曲阜縣、鄒縣、微山縣、魚臺(tái)縣、金鄉(xiāng)縣、嘉祥縣。
1985年3月，汶上縣、泗水縣重新劃歸濟(jì)寧市。
1986年6月，曲阜縣改建為曲阜市，由濟(jì)寧市代管。
1989年12月，原菏澤地區(qū)的梁山縣劃歸濟(jì)寧市。
1992年兗州縣、鄒縣分別撤縣設(shè)市。
1993年12月市郊區(qū)改名為任城區(qū)。
現(xiàn)濟(jì)寧市轄二區(qū)三市七縣，即市中區(qū)、任城區(qū)、曲阜市、兗州市、鄒城市、微山縣、魚臺(tái)縣、金鄉(xiāng)縣、嘉祥縣、汶上縣、泗水縣、梁山縣。
2013年11月根據(jù)國(guó)務(wù)院《關(guān)于同意山東省調(diào)整濟(jì)寧市部分行政區(qū)劃的批復(fù)》和省政府《關(guān)于調(diào)整濟(jì)寧市部分行政區(qū)劃的通知》精神，濟(jì)寧市部分行政區(qū)劃實(shí)施調(diào)整：撤銷市中區(qū)、任城區(qū)，設(shè)立新的任城區(qū)，以原市中區(qū)、任城區(qū)的行政區(qū)域?yàn)樾略O(shè)任城區(qū)的行政區(qū)域；撤銷兗州市，設(shè)立濟(jì)寧市兗州區(qū)，以原兗州市的行政區(qū)域?yàn)閮贾輩^(qū)的行政區(qū)域。
通過(guò)這次區(qū)劃調(diào)整，濟(jì)寧市區(qū)行政區(qū)域面積由884平方公里拓展到1534平方公里，人口由113.8萬(wàn)增加到177.5萬(wàn)。
新任城區(qū)管轄面積624平方公里、人口86.7萬(wàn)，兗州區(qū)管轄面積535平方公里、人口52萬(wàn)，高新區(qū)管理面積255平方公里、人口28.2萬(wàn)，太白湖新區(qū)管理面積119.7平方公里、人口11萬(wàn)，濟(jì)寧經(jīng)濟(jì)技術(shù)開發(fā)區(qū)和商貿(mào)物流園區(qū)管理面積128平方公里、人口11.2萬(wàn)。
截至目前，轄任城區(qū)、兗州區(qū)、曲阜市、泗水縣、鄒城市、微山縣、魚臺(tái)縣、金鄉(xiāng)縣、嘉祥縣、汶上縣、梁山縣共2區(qū)2市7縣，49個(gè)街道、4個(gè)鄉(xiāng)、103個(gè)鎮(zhèn)。