柳林縣今境域春秋時為晉國領(lǐng)地，戰(zhàn)國屬趙之邊邑離石?！妒酚?趙世家》載：“武靈王二十三年秦拔我藺”。趙國之藺在今本縣之孟門鎮(zhèn)。秦時屬太原郡。漢武帝元朔三年（前126）封其代共王子熹為藺侯（古治在今只孟門鎮(zhèn)）、忠為隰城侯（治所遺址在今之孟門鎮(zhèn)與楊家坪之間），綰為離石侯。時今縣域分屬離石、藺、隰城等侯國。元朔四年（前125）置西河郡，各侯國皆屬之。東漢建安十八年（213）廢西河郡，其他并入太原郡。三國魏黃初二年（221）復置西河郡，西晉時西河郡改為西河國，今縣境域分屬西河國轄下的離石、隰城、中陽三縣。北朝時期，北齊置西汾州，北周大象元年（579）西汾州下設(shè)定胡郡，兼置定胡縣，郡縣治所皆在今之孟門鎮(zhèn)，今縣之境域大部分屬之。后西汾州改稱石州。隋大業(yè)元年（605），石州改為離石郡。唐武德元年（618）復稱石州。武德三年（620）置西定州，治所在今之孟門鎮(zhèn)。貞觀二年（628）廢西定州，改定胡縣為孟門縣，縣屬石州。貞觀七年（633）廢孟門縣，置孟門鎮(zhèn)。貞觀八年（634）廢鎮(zhèn)，復置定胡縣。北宋時期，本縣今境域先屬石州治下的離石、定胡等縣，后期部分地區(qū)隸屬晉寧軍。金時縣境大部分屬石州治下的孟門縣，縣治仍在今之孟門鎮(zhèn)。元朝初年，孟門、方山二縣并入離石，今縣境分屬離石、寧鄉(xiāng)二縣。明初離石縣并入石州，隆慶元年（1567）石州改稱永寧州，今縣境屬之。明代后期，今縣境屬山西承宣布政司太原府治下之永寧州。清朝時期，今縣境分屬汾州府治下的永寧州、寧鄉(xiāng)縣。
　　民國元年（1912），實行省道縣建置，今縣境屬山西省冀寧道轄下的永寧、寧鄉(xiāng)二縣。民國3年（1914），永寧改稱離石，寧鄉(xiāng)改稱中陽，今縣境隸屬未變。民國26年（1937），山西省劃為七個行政區(qū)，離石、中陽屬第四行政區(qū)。民國28年（1939），全省下設(shè)四個行政公署，離石、中陽改屬第二行政公署，今縣境仍屬離石、中陽兩縣。
民國29年（1940）1月，離石縣抗日民主政府在蛤蟆塌（今孟門鎮(zhèn)石安村）成立，屬晉西北抗日民主政權(quán)之山西省第二游擊區(qū)行政公署四專區(qū)；閻錫山政權(quán)之離石縣政府移至冀家峪（今賀家坡鄉(xiāng)冀家峪）。4月，中共代表王若飛、肖勁光與閻錫山達成以太（原）軍（渡）公路為界南北分治的協(xié)議，今縣境北部遂屬離石縣抗日民主政府管轄，縣境南部遂屬閻錫山政權(quán)之山西省第四行政區(qū)。民國30年（1941）8月，第二游擊區(qū)行署改為晉西北行政公署，11月改名為晉綏邊區(qū)行政公署，離石、中陽屬行政屬轄下的三分區(qū)。
　　民國34年（19450），日本侵略者投降，柳林、離石相繼解放。民國35年（1946）中陽縣解放，今縣境仍分屬呂梁地區(qū)四專區(qū)轄下的離石、中陽兩縣。民國37年（1948），離石、中陽改屬三專區(qū)。民國38年（1949）二月，離石、中陽改屬晉西北行政公署。9月，離石改屬興縣專區(qū)，中陽改屬汾陽專區(qū)。1951年，中陽縣改屬興縣專區(qū)。1952年7月，離石、中陽改屬榆次專區(qū)。1954年7月，方山縣與離石縣合并為離石縣，晉縣境域隸屬關(guān)系一直未變。1958年11月，離石、中陽兩縣合并，復稱離石縣。1959年9月，離石、中陽分治，今縣境又分屬離石、中陽兩縣。
　　1971年4月，從離石縣西部劃出柳林、薛村、軍渡、龍華垣、吉家塔、成家莊、孟門、西王家溝、劉家山、賈家垣、結(jié)繩??、棗林、東凹、交口1鎮(zhèn)13個公社，從中陽縣西部劃出龍門垣、莊上、陳家灣、金家莊、留譽、張家圪臺、葦園溝、三交、高家溝、石西、賀家坡、楊家峪12個公社組建成新的離石縣（原離石縣城關(guān)及劃剩的公社組建成離石郊區(qū)）。5月，離石縣革命委員會移駐柳林鎮(zhèn)，7月5日，正式定名為柳林縣（離石郊區(qū)定名為離石縣），隸屬呂梁地區(qū)。