隋以前，境域?qū)購]陵縣。
隋末，析廬陵十一鄉(xiāng)置吉水縣，境域隸屬吉水縣中鵠鄉(xiāng)。
1949年，分屬吉水縣文峰區(qū)磚門、平湖鄉(xiāng)。
1954年，分屬吉水縣文峰區(qū)磚門、平湖、臨江鄉(xiāng)。
1958年，撤磚門、平湖、臨江3鄉(xiāng)，合并成立臨江公社。
1959年，析置平湖公社，境域分屬吉水縣臨江、平湖公社。
1970年，臨江、平湖公社并入臨江公社。
1984年3月，改為吉水縣臨江鄉(xiāng);10月，改為天玉鄉(xiāng)。
1987年5月，劃歸縣級吉安市。
1994年，改置為天玉鎮(zhèn)。
2001年1月，隸屬吉安市青原區(qū)。