春秋时属晋，晋平公二年（前556），将祁地赐给姬奚，后改为祁奚，城邑在古县镇。
晋顷公十二年（前514），祁奚孙祁盈因罪被杀。
今祁奚为郡，祁平陵，梗阳，涂水，马首，盂七县。
战国时属赵，秦始皇统一后，分天下为36郡，祁地属太原郡。
西汉初置祁县，仍属太原郡。
王莽改祁为示，隶属不变。
东汉初，复称祁县，仍属太原郡。
三国属魏国，属并州太原郡。
西晋初，祁属太原国。
西晋末年，先后被前赵、后赵、前燕、前秦、西燕、后燕统治。
南北朝、北魏时属并州太原郡。
北魏时属太原郡。
北齐天保七年（556）裁祁县。
隋开皇十年（590）复置祁县，属并州。
唐武德三年（620）于太谷置太州，祁县属太州。
六年（623）废太州，仍属并州。
唐开元十一年（723）改并州为太原府，祁县属太原府。
五代十国，先后属后唐、后晋、后汉及北汉。
宋太平兴国四年（979）北宋灭北汉，属并州。
嘉祐四年（1059）改并州为太原府，属太原府。
天会六年（1128），属河东北路。
贞祐元年（1213）在祁县东南南团柏镇置帻州，祁县属帻州。
贞祐四年（1126）废帻州，改属太原府。
兴定四年（1220）属晋州。
元初复称祁县，废晋州，属太原路。
元大德九年（1305）改太原路为冀宁路，祁县隶属不变。
明属太原府，清属冀宁道太原府。
1911年撤道、府建置，直属山西省。
1913年，于省县之间设道，属中路道。
1927年废道，直辖于山西省。
1937年底，属山西省第四行政区。
1938年4月属第三行政区，9月同时属第三，八行政区。
1939年11月属共产党太行区第三专署。
1946年太行六个专区，合并为四个专区，祁县属二区。
1948年7月7日祁县解放。
1950年8月，属榆次区专员公署。
1955年2月，属榆次专员公署。
1958年属晋中专员公署，11月10日祁县太谷合并，称太谷县，仍属晋中专员公署。
1961年5月1日祁县、太谷分设，恢复原建置，隶属不变。
1978年5月，成立山西省晋中地区行政公署，县属不变。
1999年9月24日，经国务院批准，撤销晋中地区成立晋中市，祁县属晋中市。