中國是四大文明古國之一，也是其中唯一傳承至今的。為了進一步傳承中國古代歷史、保護歷史文化和文物古蹟，我國提出了國家歷史文化名城的概念。
《中華人民共和國文物保護法》，「歷史文化名城」是指保存文物特別豐富，具有重大歷史文化價值和革命意義的城市」。
從1982年首次頒發至2018年5月2日，全國共有135座國家歷史文化名城。其中，山西省共有6座，分別是：大同市、平遙縣、太原市、新絳縣、代縣、祁縣（頒發時間順序）。
大同
大同是山西省第一座國家歷史文化名城，1982年第一批共24座城市，大同位列其中。
大同是秦漢名郡，北魏首都，遼金陪都，明朝軍事重鎮。這裡發生過很多歷史典故，有豐富的歷史遺存。
發生在大同的歷史典故主要有：
白登之圍——漢高祖劉邦被匈奴冒頓單于圍困白登山。北魏定都平城——中國歷史上第一個入主中原的少數民族政權（鮮卑族）。遷都洛陽——孝文帝改革、鮮卑族漢化的重要環節。孝文帝改革——少數民族漢化、緩解民族和階級矛盾、民族大融合的重要措施。石敬瑭割讓「幽雲十六州」——讓宋朝始終無法統一，並不斷受到來自北方遼、金的軍事壓力。遼金陪都——大同分別是遼國、金國的五京之一「西京」。九邊重鎮、宣大薊遼——明朝的吞併之所，國家防守的重要據點。平型關大捷——八路軍出師以來打的第一個大勝仗。歷史文物古蹟遺存主要有：
萬裡長城——趙長城、秦長城，漢長城、北魏長城、隋長城、金長城、明長城。大同古城——明城牆、華嚴寺、善化寺、九龍壁、鼓樓、帝君廟、清真大寺、清民宅院等。雲岡石窟——北魏皇家大型石窟，國家AAAAA景區，世界文化遺產。北嶽恆山——「五嶽歸來不看山」（明·徐霞客）、「天地有五嶽，恆嶽居其北」（唐·賈島）。懸空寺——「天下巨觀」（明·徐霞客）、恆山第一勝景。此外大同還有方山永固陵、趙武靈王墓、水神堂、覺山寺、魯班窯石窟、吳官屯石窟、慄毓美墓、北魏鹿苑、渾源永安寺等眾多文物古蹟遺存。
平遙縣
平遙縣是山西省第二座國家歷史文化名城，1986年第二批共38座城市，平遙縣位列其中。
晉中市平遙縣以保存完好的中國四大古城之一——平遙古城而著稱。
平遙古城是國家AAAAA級景區，世界文化遺產，是漢族地區保存明清時期縣城風貌最為完整的古城。
平遙古城始建於2700多年前的周宣王時期，為西周大將尹吉甫駐軍於此而建。現存古城建築主要為明清時期修建。
歷史文化景觀主要有：
古城牆——始建於周宣王時期，現存主要為明清時期修繕。平遙縣衙——始建於北魏，定型於元明清，已有600多年歷史。日升昌票號——建於1823年，由富商李大金出資與總經理雷履泰共同創辦，是中國民族銀行業的先河，其分號遍布全國30餘個城市，以「匯通天下」著稱。孔廟——是我國現存各級文廟中歷史最久的殿宇。明清一條街——完整保存了明清時期的繁華商業街和店鋪遺蹟。華北第一鏢局博物館——全國第一家全面展示鏢局歷史文化的博物館。寺廟建築群——鎮國寺、雙林寺、城隍廟、清虛觀等。
新絳縣
新絳縣、代縣、祁縣都是在1994年頒發的全國第三批國家歷史文化名城，這一批共有37座城市。
新絳縣位於運城市，有大量文物古蹟。其中全國重點文物保護單位共12處：
馮古莊墓地（西周）白臺寺（金至清）三官廟（元）絳州大堂（元、明）福勝寺（元、明）喬溝頭玉皇廟（元至清）新絳龍興寺（元至清）龍香關帝廟（元至民國）稷益廟（明）泉掌關帝廟（明）絳州文廟（明至清）北池稷王廟（明至清）此外新絳縣還有7處省級文物保護單位：光村遺址、西尉遺址、絳守居園池、馬莊遺址、文廟、壽聖寺大殿、淨梵寺大殿。
新絳縣雖然擁有眾多歷史文物，但是由於多是寺廟，且不夠集中，沒有開發出旅遊大景區，故新絳縣的歷史文化名城優勢目前沒有充分發揮出來。近年來新絳縣持續投入資金打造文旅產業，相信未來新絳旅遊的知名度和文旅產業定會更上一層樓。
代縣
代縣位於忻州市，古稱代州、雁門郡等，由於地理位置特殊，在古時候長期擔負著抵禦北方少數民族的重任。尤其在五代十國和北宋時期，代州成為北宋與遼國燕雲十六州交界處，依託長城雁門關，抵禦契丹人南下。明代雁門關為內長城重要關口，與寧武關、偏頭關合稱「內三關」。
代縣歷史悠久，由於遼宋夏金元時期相關歷史以及文學作品眾多，加上此地擁有雁門關這一重要關口，故代州擁有較高知名度。
代縣的歷史文化景觀主要有：
雁門關——全國重點文物保護單位，國家AAAAA級景區，明代長城的重要關隘之一，與寧武關、偏頭關合稱「內三關」。阿育王塔——全國重點文物保護單位，始建於隋朝，原為木結構，唐宋多次被毀，現存為元朝改建的磚塔。白仁巖禪寺——始建於東晉，宋元明清均有修繕，古「雁門八景」之一。代縣文廟——華北已存最大的州文廟。
祁縣
祁縣位於晉中市，是聞名遐邇的旅遊名縣，具有很多代表晉商文化的知名大景區。
喬家大院是祁縣晉商大院文化最有代表性的景區，全國重點文物保護單位，曾是國家AAAAA級景區，在電視劇《喬家大院》、電影《大紅燈籠高高掛》等著名影視節目的宣傳帶動下，聲名鵲起。
除喬家大院外，祁縣的歷史文化景觀主要還有：
渠家大院——祁縣面積最大的晉商大院，國家級重點文物保護單位，晉商文化博物館。何家大院——歷史著名的「丹楓閣」所在地，傅山、閻若璩等學者聚會的地方。裕川晉商茶莊博物館——晉商中開設時間長、規模大的茶莊之一，渠家著名的老字號之一。晉商鏢局博物館——渠本翹故居九如堂舊址。祁縣古城——始建於北魏，古城為歷史文化名城，古城內「晉商老街」為中國歷史文化名街。珠算博物館——全國規模最大的一家專門收藏、研究、弘揚珠算文化的博物館。此外祁縣還有鎮河樓、羅貫中紀念館、戴隆邦故居、興梵寺等歷史文化景觀。
祁縣不但歷史文化遺存豐富，還有眾多歷史文化名人，如東漢末年名臣王允（三國演義中，王允利用義女貂蟬設「反間計」讓呂布殺死董卓），唐代大詩人溫庭鈞（與李商隱並稱為「溫李」），明代著名小說家羅貫中（代表作品《三國演義》《水滸傳》），清朝晉商資本家喬致庸（擁有大德通、大德恆兩大票號）等，可謂人傑地靈。
太原
2011年，太原被增補為國家歷史文化名城。
太原是山西省會，古稱晉陽、并州，擁有2500年建城歷史，歷史上，多次被定為國都、陪都或州府，擁有很多歷史文化景區。
歷史上太原為都城的朝代（或國）有：
趙國——周朝時，趙國初定都晉陽，後遷都邯鄲。前秦——（五胡）十六國時期，晉陽城為前秦末都。北齊——（五胡）十六國時期，北齊的都城在鄴，但晉陽為創業之地，被定為「別都」。唐——陪都，稱為「北京」。武周——武則天登基時，定太原為「北都」。後唐——（五代）十國時期，李克用兒子李存瑁建立後唐，先以太原為「西京」，後改為「北京」。後晉——（五代）十國時期，後唐河東節度使石敬瑭（割讓「幽雲十六州」給契丹人的總設計師）滅後唐稱帝，建立後晉，定都晉陽。後漢——（五代）十國時期，後晉河東節度使劉知遠在晉陽稱帝，建立後漢，定都晉陽。北漢——（五代）十國時期，後漢高祖劉知遠的弟弟，劉崇稱帝，定都晉陽。北漢是五代十國中最後一個政權。以唐朝「陪都」的身份，留存時間最久；以太原為「國都」的國家，幾乎都在亂世，且定都時間很短，不然，太原也是中國古都的有力爭奪者。
太原歷史文化景區主要有：
晉祠——原名晉王祠，初名唐叔虞祠，是為紀念晉國開國諸侯唐叔虞。太原市最有希望打造成AAAAA的歷史文化景區。永祚寺——俗稱雙塔寺，雙塔是太原的地標建築。崇善寺——始建於唐，名白馬寺，現存建築群主要為明代建築。天龍寺石窟——曾是北齊皇帝高洋之父高歡的避暑宮。蒙山大佛——開鑿於北齊天保年間，唐高祖李淵、唐高宗李治與皇后武則天、後唐武皇帝李克用、後漢高祖劉知遠都曾來此禮佛。