清末民初，山西各地废府留县，分置冀宁、河东、雁门三道，太原、汾州、潞安、泽州四府属冀宁道，蒲州、平阳二府属河东道，大同、朔平二府属雁门道。
山西军阀阎锡山辛亥革命时，率部起义，任山西都督。之后曾支持袁世凯称帝，获封“一等侯”，之后亦继续支持北洋政府。1917年护法期间，奉段祺瑞令带兵赴湖南作战。因山西省于清朝末年与民国初年为中国富庶省份之一，因此阎锡山也成为1910年代－1920年代中国的重要地方统治者之一。
中华民国国民政府时期， 山西省下辖一市、十四行政督察区、一百零五县。市为太原市。县为大同县、大宁县、山阴县、中阳县、五寨县、五台县、介休县、天镇县、太谷县、屯留县、文水 县、方山县、代县、右玉县、左云县、平定县、平陆县、平顺县、平遥县、平鲁县、永和县、永济县、石楼县、交城县、吉县、安邑县、安泽县、曲沃县、孝义县、 沁水县、沁源县、沁县、汾西县、汾城县、汾阳县、忻县、和顺县、定襄县、昔阳县、武乡县、河曲县、河津县、盂县、祁县、长子县、长治县、岢岚县、芮城县、 保德县、垣曲县、洪洞县、夏县、徐沟县、晋城县、晋源县、朔县、浮山县、神池县、高平县、偏关县、清源县、陵川县、崞县、猗氏县、壶关县、岚县、浑源县、绛县、乡宁县、阳曲县、阳城县、阳高县、新绛县、榆次县、榆社县、万荣县、虞乡县、解县、寿阳县、宁武县、荣河县、闻喜县、蒲县、赵城县、广灵县、稷山 县、黎城县、兴县、辽县、霍县、静乐县、潞城县、应县、繁峙县、翼城县、临汾县、临晋县、临县、襄垣县、襄陵县、隰县、离石县、怀仁县、灵石县、灵邱县等 一百零五县。
