古屬修德鄉(xiāng)，1939年為蛟湖、經樓、大同鄉(xiāng)公所和豐城縣泉港鄉(xiāng)所轄。
1949年為第二區(qū)的袁贛、槎市、朱坊（建設）、玉湖、棖湖、蓼溪、蛟湖、廻龍、中坊（聯合）、杏盧、沙埂鄉(xiāng)和經樓鄉(xiāng)的一部分（槎市、朱坊當時屬豐城縣管轄。
1951年析隸清江縣）。
隨后并入姣湖、槎市、薛溪鄉(xiāng)。
1958年分別屬蛟湖、經樓、薜溪公社。
1968年并為張家山公社。
1984年改稱張家山鄉(xiāng)。
1996年撤鄉(xiāng)設立張家山鎮(zhèn)。
2003年，經江西省人民政府批準與薛溪街道合并，成立城北街道。
2007年，更名為張家山街道。
街道辦事處駐街區(qū)清江大道南側。