區(qū)境隸屬上海縣高昌鄉(xiāng)，直至明、清。
清宣統(tǒng)二年（1910年）區(qū)境分屬上海城、法華鄉(xiāng)、漕河涇鄉(xiāng)。
1928年將所轄市、鄉(xiāng)改稱為區(qū)。
1945年抗戰(zhàn)勝利后，該年12月國民政府按警察系統(tǒng)原32個警區(qū)劃分市轄行政區(qū)，以序號相稱，區(qū)境分屬上海市第七區(qū)（又稱常熟區(qū)，區(qū)公所在寶建路即后來的寶慶路10號）、第八區(qū)（又稱徐家匯區(qū)，區(qū)公所在慈云街67號）和第二十六區(qū)（又稱龍華區(qū)，區(qū)公所在后馬路177弄3號）。
1947年2月取消區(qū)的序號，改直稱常熟區(qū)、徐匯區(qū)、龍華區(qū)。
1950年6月，上海市設(shè)置30個區(qū)，包括常熟區(qū)、徐匯區(qū)和龍華區(qū)。
1956年3月，上海市人民委員會調(diào)整全市行政區(qū)劃，龍華區(qū)與新涇、真如兩區(qū)合并為西郊區(qū)；常熟區(qū)與徐匯區(qū)合并，定名為徐匯區(qū)。
地名沿用至今。