1949年屬漢陽縣第一區(qū)、第六區(qū)所轄的軍山、長河兩個(gè)鄉(xiāng)。
1958年為黃陵人民公社的軍山、洪海兩個(gè)管理區(qū)。
1959年為國營東城垸農(nóng)場軍山分場,洪海化為沌口養(yǎng)殖場。
1961年轉(zhuǎn)為軍山、洪寒兩個(gè)公社,屬黃陂區(qū)。
1975年軍山、洪海兩個(gè)公社合并為軍山公社。
1984年改名為軍山鎮(zhèn)。
2001年將黃陵鎮(zhèn)并入軍山鎮(zhèn),鎮(zhèn)政府駐黃陵磯。
2004年撤銷軍山鎮(zhèn),設(shè)立軍山街道,辦事處駐黃陵磯。
2006年將蔡甸區(qū)的軍山街道委托給武漢經(jīng)濟(jì)技術(shù)開發(fā)區(qū)管理。
現(xiàn)軍山街道設(shè)鳳凰苑社區(qū)、龍湖社區(qū)、蒲潭社區(qū)、小軍山社區(qū)、黃陵社區(qū)、得勝村、勝利村、新團(tuán)村、群江村、涼亭村、幸福橋村、硃山村、鳳山村、張王廟村、沿河村、大山村、王家村、肖家村、長山村、龍湖村、川江村、小軍村、楓林村、黃石村、洪海村、軍江村。