汾陽，歷史悠久。周為古茲國，縣置春秋屬晉，為瓜衍縣地，戰(zhàn)國屬趙，為茲氏縣。秦莊襄王三年（前247）地入秦，屬太原郡。漢因之。三國魏黃初二年（221），置并州西河郡于茲。西晉咸寧三年（277），陳王司馬斌改封西河王駐此，郡改為國，縣易名隰城。北魏太延中（435-440），改隰城為什星軍。太和八年（484），復(fù)名隰城，邑置西河郡，隸汾州。孝昌二年（526），汾州移治隰城仍領(lǐng)西河郡。天寶元年（742）改汾州為西河郡。乾元元年（758），復(fù)名汾州。而治所均設(shè)隰城縣未變。
　　肅宗上元元年（766），縣名改稱西河，歷五代、宋、元。汾州治所在縣城亦未改。其間，宋置汾陽軍于縣。明洪武元年（1368），改汾州為直隸州，州治仍設(shè)西河，兼領(lǐng)平遙，介休、孝義三縣。萬歷二十三年（1595），升州為府，依郭設(shè)汾陽縣。又置冀南道、府、道治均駐縣城。此前，縣名雖未以汾陽冠名，而俗以汾陽為縣別名。蓋以縣城居汾水之陽故。清康熙五年（1666）冀南道并入冀寧道，府縣遂隸。民國元年（1912）廢府。民國19年廢道。
　　1949年，山西省人民政府成立，設(shè)汾陽專區(qū)，行署駐縣。1951年，撤汾陽專區(qū)，隸屬榆次（晉中）專區(qū)。1971年劃歸新成立的呂梁專區(qū)。1996年8月，經(jīng)國務(wù)院批準(zhǔn)，汾陽撤縣設(shè)市。
　　汾陽市有古生物化石遺址、新石器遺址和70多處文化古跡，其中省重點(diǎn)保護(hù)文物古跡9處，有明代南薰樓、國內(nèi)磚塔第一高塔文峰塔、金代建筑太符觀、富神話色彩的馬刨神泉、貼金壁畫的圣母廟、保護(hù)完好自然景觀有三十里桃花洞、金鎖關(guān)等。古文化遺址有峪道河遺址，位于縣城北6公里處峪道河鎮(zhèn)人民政府所在地周圍，該遺址所跨時(shí)代久遠(yuǎn)，可分為仰韶、龍山、夏、商、東周和漢幾個(gè)時(shí)期；杏花村遺址位于縣城東北15公里杏花村鎮(zhèn)東堡村東北，面積約15萬平方米。地勢北高南低。其間分為幾個(gè)自然形成或人為造成的階地，遺存豐富。根據(jù)獲得的層位關(guān)系及對其內(nèi)涵的分析，考古上將其堆積形成分為八個(gè)階段，分別屬于仰韶、龍山、夏、商文化時(shí)期；此外，還有北垣底遺址、段家莊遺址、任家堡遺址、鞏村遺址。
汾陽有許多的歷史名人和文化名人。唐時(shí)，宋令文與其子之問、之悌同為進(jìn)士，詩、書、畫、各占一絕，聞名天下。宋時(shí)，百勝將軍狄青以戰(zhàn)功由士卒升至樞密使，則體現(xiàn)了汾陽人文武兼?zhèn)?，勤奮進(jìn)取的本色。明代數(shù)學(xué)家王文素以其畢生精力完成代表當(dāng)時(shí)我國數(shù)學(xué)研究最高水平的《新集通證古今算學(xué)寶鑒》。孔天胤、朱之俊、曹慕堂以至清朝最后兩位進(jìn)士常棣華、王式通均以詩文名世?，F(xiàn)代還涌現(xiàn)出了冀貢泉、冀朝鼎、冀朝鑄、王文達(dá)、衛(wèi)天霖、馬烽、田桂蘭等大批文化名人和史景班、許志奮、王展、成澤民等將軍。