臺上村從清代開始歸潞城縣管轄。
民國6年（1917）年，廢除明、清延用的都里制，實行編村制，編村為主村，其余村為副村，即聯(lián)合村。
潞城全縣共82個編村，142個聯(lián)合村，臺上是潞城縣142個聯(lián)合村之一。
民國8年（1919），潞城全縣列為5個區(qū)，設置區(qū)公所，為縣府派出所機關，領各編村。
臺上屬第三區(qū)，同上�。ㄉ鲜放d）歸下省（下史興）編村，區(qū)公司設在南垂鎮(zhèn)府君廟。
民國23年（1934年），臺上隨第三區(qū)并入第一區(qū)，區(qū)公所設于潞城城內警察所。
民國26年（1940），潞城全縣按500戶一個編村，全縣共37個編村。
民國34年（1945），9月18日，臺上隨潞城全縣解放。
民國36年（1947），臺上屬于潞城縣五區(qū)管轄。
1950年，長治成立工礦區(qū)，臺上歸長治市工礦區(qū)黃碾管轄。
1951年7月，撤銷長治工礦區(qū)，臺上隨黃碾等40個村歸潞城縣第六區(qū)。
1953年，潞城縣劃為64個鄉(xiāng)，臺上鄉(xiāng)為其中之一。
上省村同臺上村合并。
1954年5月，撤銷區(qū)建制，縣人民政府直轄鄉(xiāng)人民政府，7月潞城縣與長治縣合并稱潞安縣，潞城縣為潞城鎮(zhèn)，劃管原來的64個鄉(xiāng)人民政府。
1956年，縣、鄉(xiāng)人民政府改稱為人民委員會，并將64個鄉(xiāng)合并為18個鄉(xiāng)，臺上鄉(xiāng)從此廢除，歸馬廠人民委員會管轄。
1957年初，臺上隨馬廠等5個鄉(xiāng)人民政府由長治市直轄。
1958年，撤縣并市，潞安縣并入長治市，廢除鄉(xiāng)村制，實行人民公社體制。
1964年11月2日，漳移人民公社成立后，臺上隨漳移人民公社歸長治縣管轄。
1969年，上省村從臺上大隊劃出。
1971年5月，臺上隨漳移人民公社劃入長治市直轄。
1976年1月20日，郊區(qū)政府成立，臺上隨漳移公社劃郊區(qū)政府管轄。
1983年7月，漳移公社改稱為富村辦事處。
1984年1月，辦事處改為鄉(xiāng)建制，富村辦事處改為富村鄉(xiāng)。
2002年，鄉(xiāng)鎮(zhèn)一級政府實行“撤鄉(xiāng)并鎮(zhèn)、精減機構”，富村鄉(xiāng)廢除，臺上村歸馬廠鎮(zhèn)管轄。
2018年11月城區(qū)，郊區(qū)合并設立長治市潞州區(qū)，歸潞州區(qū)馬廠鎮(zhèn)管轄。