古帝堯所都，為最初的中國。
禹貢冀州之域。
春秋屬晉。
戰(zhàn)國屬韓。
秦為河?xùn)|郡。
三國魏正始八年（247）置平陽郡，郡治平陽，屬司隸校尉。
北魏改屬晉州。
建義元年（528）州、郡治所移今臨汾。
隋開皇三年（583）郡廢，為晉州。
義寧二年（618）改平陽郡。
唐武德元年（618）改晉州，南部屬絳州，西部置慈州、隰州。
天寶元年（742）改晉州為平陽郡，屬河?xùn)|道。
乾元元年（758）復(fù)名晉州。
后梁開平四年（910）升為定昌軍，后改建寧軍。
后唐同光元年（923）改建雄軍。
宋初仍名晉州。
北宋政和六年（1116）晉州升為平陽府，屬河?xùn)|路。
金屬河?xùn)|南路。
元置平陽路總管府，屬中書省山西宣慰司。
大德九年（1305）因地震改稱晉寧路。
明洪武元年（1368）改平陽府，屬山西承宣布政使司。
1912年廢府州。
1913年屬河?xùn)|道。
1927年廢道直屬山西省。
1937年分屬山西省第五、六、七行政區(qū)。
1948年屬晉綏邊區(qū)。
1949年初改屬陜甘寧邊區(qū)晉南區(qū)。
1950年為山西省臨汾專區(qū)，專署駐臨汾。
1954年屬晉南專區(qū)，專署駐臨汾。
1967年屬晉南地區(qū)。
1970年屬臨汾地區(qū)。
1971年設(shè)縣級臨汾市，由臨汾地區(qū)管轄。
2000年撤臨汾地區(qū)和縣級臨汾市，設(shè)地級臨汾市至今。