春秋時期，臥龍山街道境域屬魯?shù)�；隋代時期開始，屬魯郡。
民國元年（1912年）后，屬嘉祥縣馬官屯區(qū)。
1948年至1953年，屬嘉祥縣高海區(qū)。
1953年至1958年，屬第五區(qū)（駐地牟海），也稱大山頭區(qū)。
1958年，成立衛(wèi)星公社，同年11月，撤嘉祥縣，并入濟寧市。
1962年，恢復嘉祥縣，建立大山頭公社。
1984年，改為大山頭鎮(zhèn)。
1997年，更名臥龍山鎮(zhèn)。
2013年，經山東省政府魯政函民字【2013】46號文件批準，同意撤銷臥龍山鎮(zhèn)，以其原行政區(qū)域設立臥龍山街道辦事處，街道辦事處機關駐原臥龍山鎮(zhèn)政府駐地。