清光緒二十二年，稱上冶社。
民國初年，屬費縣一區(qū)上冶鄉(xiāng)。
1940年以后，屬費北縣上冶社。
1945年底，費北、費東西縣合并蒙山縣，上冶屬蒙山縣五區(qū)。
1952年，撤銷蒙山縣，上冶劃屬費縣為十一區(qū)。
1955年，改稱上冶區(qū)。
1958年，改稱為上冶人民公社。
1962年，從原店子公社劃入2個鄉(xiāng)，改成上冶區(qū)。
1968年，又將上冶區(qū)改為上冶人民公社，并將下轄的9個小人民公社改為管理區(qū)。
1976年，將北部27個大隊、68個自然村劃出，設(shè)置五圣公社。
1984年5月，設(shè)上冶區(qū)，下轄5個鄉(xiāng)。
1985年9月，撤區(qū)設(shè)鎮(zhèn)，稱上冶鎮(zhèn)。