據明萬歷《太原府志》、清道光《陽曲縣志》記載,在縣治西有府縣兩學宮并峙,宮內有府縣兩文廟。此為早的太原文廟。府文廟建于金天會年間(1123年~1137年),縣文廟建于金大定年間(1161年~1189年),規(guī)模宏大。廟外有兩大坊,東曰“德配天地”,西曰“道冠古今”,屬兩廟共有。廟內的主要建筑,有欞星門、戟門、大成殿、東西兩廡、名宦祠、鄉(xiāng)賢祠、孝悌忠義祠、崇圣祠、文昌祠、奎光樓、敬一亭、更衣廳、泮池石橋以及供教學使用的明倫堂、齋房、教諭宅、訓導宅等。
公元1881年,(清光緒七年),汾水泛濫,西街兩文廟被毀。
公元1882年(清光緒八年),由當時的山西巡撫張之洞倡議,在火毀了的崇善寺廢墟上新建。由亭、殿、門、廡、祠組成三進院落,利用前崇善寺末毀的零星建筑,較之原廟更為恢宏、莊重、婉雅、俊逸。
公元1919年(民國8年),被辟為省圖書博物館。1927年又易名為“山西省民眾教育館”。 在這一期間,供奉孔子的大成殿,改作“古代禮物樂器陳列室”;威嚴肅穆的大成門,改成“禮堂講演廳”。其它殿宇或為閱覽室,或為書庫,或為其它活動室和陳列室。
公元1937年,日軍進攻太原。太原淪陷之后,偽太原市政府又把文廟更名為“山西省新民教育館”。
公元1953年,新中國成立后,改為山西省博物館至今。出于保護文廟以及其他多種原因,山西省文物局依文廟而建。
公元1998年太原文廟的現狀引起了省、市有關部門的重視,省文物局等部門先后投資100多萬元進行修復。
公元2010年,文廟保護已經逐漸步入正軌,雖然有許多小件文物保護缺失,但是大多數殿宇、文物大都得到了妥善保護。同時,許多山西省各地收集的文物整齊的放置于文廟場院之中。
2013年3月5日,國務院公布第七批全國重點文物保護單位,太原文廟被列為全國重點文物保護單位。
太原文廟由南向北依次建有照壁、六角井亭、欞星門、大成門、大成殿、東西廡和崇圣祠。院心寬廣,古木參天。已經受到了一定程度的保護。
作為博物館一部,文廟已向大眾開放,主要展廳是大成殿及其東西兩廡。展出內容是山西史,分古代和近代兩大部分,整個展覽反映了山西政治、經濟、文化、軍事等方面在中國歷史上的重要地位,重點突出了山西人文薈萃、古建冠絕、戲劇淵藪等特色。比如在大成殿,已經整修一新:高大的孔子像令人敬畏,更有各種文物陳列整齊,并且大都放在玻璃箱之中,得到了很好的保護。
雖然展廳的文物得到了很好的保護,在展廳的外面,卻不太理想。作為山西的一個文物保管點,在文廟的院落中,有大量的碑刻和小件文物。這些文物大量堆積,卻沒有分類整理和介紹,也沒有任何保護措施。
文廟雖然地處城市中心,但是有效地管理和基本良好的周邊環(huán)境,對文廟的保護已有一定成效。