600多年前的關(guān)山荒山野嶺，杳無人煙，真是“地如其名”。
根據(jù)《明史》、《明太祖實(shí)錄》以及部分家譜記載考證，直至明朝洪武年間，由官方組織從江西向湖廣強(qiáng)制性移民，這里才有了稀少的人煙。
解放前，關(guān)山周圍九十多個(gè)村莊，共五百余戶人家，千余口人，絕大多數(shù)以種田為生，由于交通不便，走出家園的路漫長(zhǎng)而又充滿艱辛。
1946年，轄區(qū)屬武昌縣第八區(qū)區(qū)公所管轄。
設(shè)新安鄉(xiāng)（今魯巷）、永豐鄉(xiāng)（今王家廟）等。
解放后1949—1950年，轄區(qū)屬武昌縣。
1951年，長(zhǎng)山鄉(xiāng)和湖口鄉(xiāng)從武昌縣劃出，隸屬洪山區(qū)公所。
1952年，武漢市成立東湖區(qū)和南湖區(qū)，原長(zhǎng)山鄉(xiāng)和湖口鄉(xiāng)劃屬武昌縣管轄，磨山鄉(xiāng)和魯巷鄉(xiāng)劃屬東湖區(qū)管轄。
1955年2月，東湖區(qū)更名為洪山區(qū)，原劃屬武昌縣的長(zhǎng)山鄉(xiāng)和湖口鄉(xiāng)再次劃入。
1956年6月，南湖區(qū)并入洪山區(qū)。
1956年下半年，成立南望山街道辦事處，1957年南望山街道劃屬武昌區(qū)，南望山街道辦事處易名喻家山街道辦事處。
1958年，成立關(guān)山區(qū)，除轄原喻家山街道辦事處轄區(qū)外，增設(shè)關(guān)山街道辦事處。
1959年，關(guān)山區(qū)改為關(guān)山人民公社，關(guān)山街道和喻家山街道辦事處分別為關(guān)山人民公社一、二分社。
1960—1961年，撤銷公社，劃歸洪山區(qū)，恢復(fù)關(guān)山街道辦事處和喻家山街道辦事處。
1964年，重新劃入武昌區(qū)。
1966年下半年，改關(guān)山街道辦事處為躍進(jìn)街道辦事處，改喻家山街道辦事處為學(xué)工街道辦事處。
1972年，兩街合并為關(guān)山街革命委員會(huì)。
1979年，關(guān)山街革命委員會(huì)改用現(xiàn)名，即關(guān)山街道。
1986年，關(guān)山街道由武昌區(qū)劃屬洪山區(qū)。
2012年，關(guān)山街轄區(qū)27個(gè)社區(qū)居民委員會(huì)至今。