周為霍國(guó)，后稱彘，厲王所奔。
春秋屬晉，戰(zhàn)國(guó)屬魏。
秦彘，屬河?xùn)|郡。
漢高祖元年（206）置彘縣（今霍州城區(qū)），屬河?xùn)|郡。
東漢陽(yáng)嘉三年（134）改永安縣（今白龍鎮(zhèn)陳村），屬河?xùn)|郡。
三國(guó)魏晉胥屬平陽(yáng)郡。
南北朝北魏太平真君七年（446）并入禽昌縣。
正始二年（505）復(fù)置永安縣，治仇池壁（今洪洞縣趙城鎮(zhèn)東北），后移今趙城鎮(zhèn)東南。
孝昌三年（527）僑置西河郡，郡治永安縣。
建議元年（528）置永安郡。
十六年（596）置汾州，十八年（598）改呂州，又改永安縣為霍邑縣。
大業(yè)三年（607），屬臨汾郡。
義寧元年（617）置霍山郡。
唐武德元年（618）廢郡，復(fù)置呂州，貞觀十七年（634）廢呂州，以霍邑縣屬晉州。
北宋政和六年（1116）屬平陽(yáng)府。
貞祐三年（1215）七月霍邑升霍州。
興定元年（1217）七月升節(jié)鎮(zhèn)軍，名鎮(zhèn)定，四年（1220）正月移治好義堡（今洪洞縣鏡內(nèi)）。
元大德九年（1305）屬晉寧路。
明洪武二年（1369）并霍邑縣入霍州。
清乾隆三十七年（1722）升為直隸州，1913年霍州改霍縣，屬河?xùn)|道。
1927年屬山西省。
1937屬山西省第六區(qū)。
1940年屬太岳路西辦事處，1941年5月屬三專屬第三辦事處；9月屬晉翼魯豫（太岳）九專區(qū)。
1943改屬七專區(qū)，1944年改稱太岳一專區(qū)。
1949年8月屬翼城臨時(shí)專署。
1949年10月屬翼城臨時(shí)專署（駐翼城）。
1950年屬臨汾專區(qū)。
1958年6月霍縣、汾西縣合并為霍汾縣，駐原霍縣城。
1959年7月恢復(fù)霍汾縣建制。
1961年恢復(fù)霍縣建制，屬晉南專區(qū)（駐臨汾）。
1970年5月屬臨汾地區(qū)。
1990年1月撤縣設(shè)市，為縣級(jí)市，稱霍州市，屬臨汾地區(qū)。
2000年11月，臨汾撤地建市，稱臨汾市。
霍州市屬臨汾市管轄至今。