舊稱“東大崗”。
中華民國初年，屬訥河縣“農字段十二區(qū)”。
1915年劃歸克山縣，隸屬第二區(qū)。
1929年12月，劃歸克東設治局管轄。
東北淪陷后，1939年設玉崗村。
1945年“九三”抗日戰(zhàn)爭勝利后，設置玉崗區(qū)，1949年改為第六區(qū)，1955年復稱玉崗區(qū)。
1956年4月，撤區(qū)劃鄉(xiāng)，分設玉崗、聯合、新農、新興4個鄉(xiāng)，1958年9月合并成立玉崗人民公社。
1961年6月，將東部地區(qū)劃出成立新農公社。
1984年將玉崗公社改為玉崗鄉(xiāng)。
1996年撤銷玉崗鄉(xiāng)，設置玉崗鎮(zhèn)，名稱沿用至今。