境內(nèi)地域歷史上東部屬于閩縣，西部屬于侯官縣，民國時統(tǒng)歸閩侯縣管轄。
1929年在今洪山鎮(zhèn)的西部就設(shè)立凈土、豹屏、西湖、豐樂等鄉(xiāng)，1940年上述4鄉(xiāng)合并為凈屏、西豹兩鄉(xiāng)，此2鄉(xiāng)所轄的地域即今洪山鎮(zhèn)的中心地帶。
中華人民共和國成立之初，在今洪山鎮(zhèn)和新店鎮(zhèn)的地域上設(shè)立洪山區(qū)，1952年，洪山與新店分兩區(qū)，隸屬于郊區(qū)行政辦事處。
洪山區(qū)下轄團結(jié)、五鳳、長汀、祥板、梅峰6鄉(xiāng)和西洪、洪山兩鎮(zhèn)。
1953年，西洪、洪山兩鎮(zhèn)合并。
1955年洪山區(qū)撤銷，所轄鄉(xiāng)鎮(zhèn)隸屬郊區(qū)行政辦事處。
1958年成立市郊區(qū)人民公社洪山分社（次年改為公社），下轄興園、大鳳、鳳湖、長汀、祥坂、西郊、晨光、國光、保福、梅峰10各生產(chǎn)大隊。
與此同時，高橋、水部、東門、西門、華大、公正等今洪山東部也組成鼓樓農(nóng)業(yè)人民公社。
1960年3月至1961年6月洪山人民公社一度撤銷。
1970年洪山公社與紅衛(wèi)公社（原鼓樓公社）合并，名為紅衛(wèi)公社，屬紅衛(wèi)區(qū)（鼓樓區(qū)）管轄，高橋、東門、水部、西門、華大、公正、紫陽等村納入轄內(nèi)。
1975年紅衛(wèi)公社劃屬蔬菜區(qū)管轄，原屬新店公社的溫泉、泉塘、五鳳等村納入轄內(nèi)。
1981年復(fù)稱洪山公社、1982年復(fù)歸郊區(qū)管轄。
1984年撤社建鄉(xiāng)，同時生產(chǎn)大隊改為村民委員會。
1992年洪山鄉(xiāng)改制為鎮(zhèn)。
1996年歸屬鼓樓區(qū)。