唐景龍三年（709年），縣治遷白茅鎮(zhèn)。
民國二十五年（1936年）7月，易名義安鎮(zhèn)。
民國三十五年（1946年），更名安石鎮(zhèn)。
1949年10月，衡山解放，屬一區(qū)。
1950年3月，改名城關鎮(zhèn)。
1953年，升為縣屬鎮(zhèn)。
1958年9月，與長安鄉(xiāng)、石橋鄉(xiāng)合并，成立長江人民公社。
1961年3月，從長江人民公社析出，設城關鎮(zhèn)人民公社。
1984年5月，金龍鄉(xiāng)并入，恢復城關鎮(zhèn)名。
1995年5月，更名開云鎮(zhèn)。
2005年10月，師古鄉(xiāng)并入。