金山地區(qū)在6000年前即已成陸。
春秋時，越拓土至今金山境（清嘉慶《松江府志?建置沿革表》）。
周敬王二十六年（前494年）前后，金山地區(qū)一度歸吳；周元王三十年（前490年），勾踐被釋返國，縣境復入越。
周顯王三十五年（前334年），金山地區(qū)屬楚。
秦始皇二十五年（前222年），置會稽郡，金山隸會稽郡。
秦始皇二十六年（前221年），置海鹽縣（明天啟《海鹽圖經》作二十五年），金山隸會稽郡海鹽縣。
漢高祖六年（前201年），海鹽縣隨會稽郡歸荊國管轄，十一年荊國廢（《漢書?地理志》）。
英布之亂平定后，海鹽隸吳國會稽郡。
景帝三年（前154年）海鹽仍隸會稽郡（嘉慶《松江府志?建置沿革表》）。
王莽代漢（9—23年）改海鹽縣為展武縣。
東漢建武六年（30年）復海鹽縣名（《海鹽縣志?沿革考》）。
永建四年（129年）以浙江（今錢塘江）為界，浙東為會稽郡，浙西為吳郡，海鹽縣隸吳郡（《嘉興府志》）。
梁天監(jiān)六年（507年），析海鹽縣東北境置前京縣（嘉慶《松江府志》作“太清三年”），先后隸信義郡、吳郡。
今張涇河以東地區(qū)屬前京縣，縣治在金山北麓，其城于梁天監(jiān)七年筑（《輿地記勝》）。
大通六年（疑為中大通六年，534年）又析海鹽東北境置胥浦縣，其地東至張涇，西抵長泖，北達橫潦涇，東南至海（乾隆《金山縣志?歷代建置圖》），縣治在胥浦里（今干巷附近）。
梁太清三年（549年）分吳郡海鹽、胥浦為武原郡。
尋胥浦縣并入前京縣。
陳永定二年（558年）置海寧郡，前京、海鹽、鹽官縣同屬海寧郡（《陳書》）。
隋開皇九年（589年）廢海寧郡，前京與海鹽并入鹽官縣，隸杭州（《元和郡縣志》），金山地屬鹽官。
唐武德元年（618年）復置海鹽縣，隸吳郡。
武德七年海鹽縣并入嘉興縣，隸蘇州。
武德八年復海鹽，隸潤州(今鎮(zhèn)江）。
貞觀元年(627年）海鹽復入嘉興縣。
景云二年(711年）復置海鹽縣，隸蘇州(《新唐書?地理志》）。
先天元年(712年)海鹽縣復入嘉興縣，隸蘇州(《海鹽縣志點沿革考》)。
開元五年(717年)復置海鹽縣(《海鹽圖經?卷一》)。
唐天寶十年(751年)吳郡太守趙居貞奏準，割海鹽北境、嘉興東境、昆山南境置華亭縣，隸吳郡(明萬歷《海鹽縣志》)，自此金山地屬華亭縣。
乾元二年(759年)改吳郡為蘇州，華亭屬蘇州(嘉慶《松江府志》)。
五代吳越錢镠寶大元年(924年)，在嘉興設開元府(《十國春秋》)，華亭隸開元。
后唐長興三年(932年)錢元瓘廢開元，華亭隸吳郡。
后晉天福五年(940年)在嘉興置秀州，華亭縣屬秀州(《十國春秋?吳越王穆王世家》、嘉慶《嘉興府志》)。
宋代沿襲舊制金山仍屬華亭。
元至元十四年(1277年)升華亭縣為華亭府，隸浙西道嘉興路。
翌年改華亭府為松江府，領華亭縣(至元《嘉禾志》)。
明洪武十九年(1386年)于華亭縣南境小官鎮(zhèn)(篠館鎮(zhèn))筑城置衛(wèi)，以海中金山命名為金山衛(wèi)。
清順治十三年(1656年)分華亭縣風涇、胥浦兩鄉(xiāng)及仙山、華亭、集賢、修竹等鄉(xiāng)之半建婁縣，隸松江府，金山地屬婁縣。
雍正二年(1724年)兩江總督查弼納奏請分縣，同年戶部議復核準(《世宗皇帝實錄?卷二十四》)。
雍正四年（1726年）析婁縣胥浦1鄉(xiāng)，并風涇、集賢、修竹、仙山4鄉(xiāng)一部建金山縣，縣城初駐衛(wèi)城，清乾隆二十四年（1759年）移治朱涇，屬蘇松太道松江府管轄。
咸豐十年至同治二年(1860-1863年)太平天國期間，縣名改為金珊縣，隸蘇福(江蘇)省松江郡。
同治三年太平軍敗，恢復舊建置。
民國元年(1912年)金山成立軍政分府，隸江蘇省。
民國二年(1913年)廢鄉(xiāng)、保、區(qū)、圖制，實行鄉(xiāng)、市自治。
民國三年（1914年）設滬海道于上海，金山縣隸滬海道。
民國十六年(1927年)廢滬海道，隸江蘇省。
民國22年屬江蘇省第四行政區(qū)督察專員公署(駐松江)管轄。
民國二十五年（1936年）改隸江蘇省第三區(qū)行政督察專員公署。
民國二十六年（1937年）11月5日日軍在金山衛(wèi)登陸，縣城淪陷，金山縣政府流亡于江浙邊境，隸江蘇省江南行署，同時日軍組織“金山縣維持會”。
民國二十九年（1940年）成立偽縣政府，隸汪偽國民政府轄下江蘇省。
民國31-32年日偽“清鄉(xiāng)”，偽縣政府改為金山特區(qū)公署，由駐嘉興日軍控制。
民國三十四年（1945年）抗日戰(zhàn)爭勝利，金山縣仍隸江蘇省第三區(qū)行政督察專員公署。
民國三十五年(1946年)撤區(qū)公所，由縣直轄鄉(xiāng)、鎮(zhèn)，同時在張堰設區(qū)署。
1949年5月13日金山縣解放，5月15日成立金山縣人民政府，隸蘇南行政區(qū)松江專區(qū)。
1958年3月松江專區(qū)撤銷，金山縣改隸江蘇省蘇州專區(qū)。
1958年11月金山縣劃歸上海市。
1966年10月松江縣亭林、楓涇鎮(zhèn)和朱行、山陽、漕涇、亭新、楓圍5個人民公社及張澤公社金明、津星2個大隊劃歸金山縣，金山縣泖港公社劃入松江縣，金山縣境面積從380.82平方千米擴大到586.05平方千米。
1997年4月29日撤銷金山縣設立金山區(qū)。