清咸豐年間（1851-1861）稱(chēng)五道荒、立集店，清光緒七年（1881），于設(shè)置五常廳的同時(shí)，設(shè)立五常廳山河屯分防站。
民國(guó)時(shí)期，稱(chēng)為五常縣第二區(qū)。
1945年?yáng)|北光復(fù)后為山河區(qū)、山河縣，民國(guó)時(shí)期，集鎮(zhèn)擴(kuò)大，稱(chēng)為第二區(qū)，偽滿(mǎn)洲國(guó)時(shí)，設(shè)立山河屯街公所。
1947年1月成立山河縣，為吉北地區(qū)督察專(zhuān)員公署山河縣治所在地，同年11月撤銷(xiāo)山河縣改為舒蘭縣山河區(qū)。
1948年6月劃歸松花江省五常縣，為第十區(qū)，1953年8月，設(shè)立十區(qū)山河鎮(zhèn)人民政府，1956年從原十區(qū)中又劃分出平安、雙興、愛(ài)路、保山4個(gè)鄉(xiāng)。
1958年成立山河鎮(zhèn)人民公社，1980撤銷(xiāo)公社制設(shè)立山河鎮(zhèn)，名稱(chēng)沿用至今。