長(zhǎng)山堡一帶，是清末放荒招墾較早的地方。
清光緒三十二年(1906)甘井子荒務(wù)行局成立后，始駐甘井子屯，翌年遷至二站。
中華民國(guó)成立后。
1926年甘南設(shè)治局成立，劃歸設(shè)治局管轄，后隸第三區(qū)。
東北淪陷后，1933年12月隸屬甘南縣第三保。
1938年改設(shè)韓家溝村。
1943年改稱長(zhǎng)山堡村。
1945年“九三”抗日戰(zhàn)爭(zhēng)勝利后。
1946年3月設(shè)置長(zhǎng)山堡區(qū)，區(qū)政府駐長(zhǎng)山堡，后改為第六區(qū)。
1955年底和1956年初，為接收安置山東移民，于區(qū)內(nèi)新建13個(gè)移民新村(稱“長(zhǎng)”字片，即長(zhǎng)一村至長(zhǎng)十三村)。
1956年3月，撤區(qū)劃鄉(xiāng)，將原六區(qū)劃分為長(zhǎng)山堡、興安堡、景利、八里崗子4個(gè)鄉(xiāng)。
1958年4月，將長(zhǎng)山堡鄉(xiāng)劃出部分區(qū)城與景利鄉(xiāng)合并，設(shè)立四方山鄉(xiāng);將興安堡、八里崗子鄉(xiāng)并入長(zhǎng)山堡鄉(xiāng)。
1958年9月，將長(zhǎng)山堡、四方山兩個(gè)鄉(xiāng)合并為長(zhǎng)山人民公社。
1984年4月，政社分開(kāi)，改為長(zhǎng)山鄉(xiāng)。
名稱沿用至今。