截至2020年6月，呂梁市下轄1個市轄區、10個縣，代管2個縣級市。
市轄區
1.離石區
呂梁市離石區地處山西省西部，呂梁山脈中段西側，處於整個呂梁市的地理中心，是呂梁市政府駐地，呂梁市政治、文化和交通中心，同時離石區扼秦晉交通要衝，是華北通向西部的重要中樞。
縣級市
2.孝義市
孝義位於山西省腹地偏西，呂梁山脈中段東麓，太原盆地西南隅。北與汾陽市毗鄰，西北與中陽縣相依，西與交口縣接壤，南與靈石縣相連，東南與介休市隔汾河相望。
孝義市處於太原經濟圈節點，與汾陽、介休共同構成太原經濟圈次中心。孝義是山西省縣域經濟的排頭兵，是中國百強縣（市）。
3.汾陽市
汾陽市位於山西省腹地偏西，太原盆地西緣，呂梁山東麓。汾陽市素有「秦晉旱碼頭」之稱，市境交通便利，處於太原經濟圈節點，與孝義、介休共同構成太原經濟圈次中心。
汾陽是著名的酒都，是中國最大的清香型白酒生產基地，聞名遐邇的汾酒、竹葉青產地、中華名酒第一村——杏花村就在汾陽。
縣
4.文水縣
文水縣隸屬於山西省呂梁市，西依呂梁山，東臨汾河水，位於汾河谷地中部。文水縣東隔汾河與祁縣、平遙縣相望，南與汾陽市接壤，西與呂梁市離石區交界，北與交城縣、清徐縣相鄰。文水縣總面積1068.57平方公裡，耕地60萬畝，山地平原各半，是山西省的農業縣。
5.交城縣
交城縣是山西省呂梁市的下轄縣，位於呂梁山東麓，山西省中部，晉中盆地西緣，北枕呂梁，南帶汾河，東據太原，西臨方山、離石。距省城太原51公裡，屬城郊型通衢熱線，是呂梁的東大門，省城太原的近郊縣。
6.興縣
興縣，隸屬於山西省呂梁市，位於山西省西北部，呂梁市北端，東鄰嵐縣、岢嵐，南連臨縣、方山，北倚保德，西隔黃河與陝西省神木市相望，是山西省版圖最大的縣。
7.臨縣
臨縣，位於黃河中遊晉西黃土高原呂梁山西側，隸屬於山西呂梁市，東屏呂梁山連接方山，西臨黃河與陝西佳縣、吳堡縣隔河相望，北靠興縣，南接離石、柳林區。縣域面積2979平方公裡，轄23鄉鎮，是呂梁地區人口最多的縣。
8.柳林縣
柳林縣，隸屬山西省呂梁市，地處呂梁市西部、呂梁山西麓，黃河東岸，總面積1287.29平方公裡。縣處華北地區通往大西北的交通樞紐。
9.石樓縣
石樓縣隸屬於山西省呂梁市，位於呂梁山西麓，黃河東岸。石樓，因縣東有通天山石疊如樓而得名。石樓縣著名景點有興東垣東嶽廟、郝氏大院等。石樓縣有「紅棗之鄉"、「文物大縣」等之稱。
10.嵐縣
嵐縣，隸屬山西省呂梁市，位於山西省境中部西側，呂梁北，忻州南，鄰太原，東鄰靜樂，南連婁煩、方山，西靠興縣，北倚岢嵐。 嵐縣海拔較高，地勢平坦，號稱「天上雲間」。
11.方山縣
方山縣，隸屬於山西省呂梁市，位於山西省西部，呂梁山中段西側。東屏關帝山與婁煩、交城接壤，西依漢高山與臨縣毗鄰，北與興縣、嵐縣交界，南與離石縣相連。
方山縣歷史悠久，早在新石器時代就有人類在境內繁衍生息，隋大業三年（607年）置方山縣，已有1400多年歷史。
12.中陽縣
中陽縣，隸屬於山西省呂梁市，位於山西省西部，呂梁山脈中段西麓，黃河支流三川河上遊的南川河流域。東與汾陽、孝義兩市交界，西與柳林、石樓兩縣接壤，南與交口縣相連，北與離石市毗鄰。
2019年1月9日，憑藉中陽剪紙入選2018—2020年度「中國民間文化藝術之鄉」名單。
13.交口縣
交口縣，隸屬於山西省呂梁市，位於山西省西部的呂梁山脈中段，地處呂梁市最南端。交口縣是太原盆地溝通晉西南地區的重要通道。