清末，已形成額和沁（今亞東村）等村屯，屬依蘭府。
1913年屬依蘭縣管轄。
1918年屬勃利縣西鄉(xiāng)。
1933年劃為勃利縣第十四甲。
1938年分屬古城村、青山村、縣城區(qū)。
1939年6月，劃歸林口縣。
1946年5月并入五林縣，隸屬第二自治區(qū)。
1947年2月復(fù)歸林口縣，設(shè)置第六區(qū)，1949年改稱亞河區(qū)。
1956年4月撤區(qū)劃鄉(xiāng)，分設(shè)青山、亞河、虎山3鄉(xiāng)。
同年9月，撤銷虎山、亞河兩鄉(xiāng)并入青山鄉(xiāng)，駐地青山河。
1958年成立亞河人民公社，駐地亞河。
1984年4月，改稱亞河鄉(xiāng)。
2003年10月，鄉(xiāng)政府遷至青山村附近的青山煤礦，遂更名為青山鄉(xiāng)。
2010年7月，改設(shè)青山鎮(zhèn)。
名稱沿用至今。