隋开皇三年(583)，改建州为泽州，依境内获泽河为名，隋末泽州刺史张伯英随汉王杨谅反隋。
隋末，太原留守李渊（唐高祖）和他的儿子李世民（唐太宗）率兵，从太原起兵反隋。在618年建立唐朝，重新统一中国。唐朝对山西十分重视，认为这里是“龙兴”之地，把太原定为北都。山西的经济发展曾经居于全国的前列。那时，全国共有18个盐池，河东就占了五个，一个产盐万斛，供应京师，被柳宗元称为“国之大宝”。唐代出现的山西名人很多，如女皇武则天、名相狄仁杰等。隋唐时期，佛教兴盛，五台山在那时已经是寺庙林立的佛教圣地。
唐泽州地位险要，三位皇族任泽州刺史，分别是密王李元晓、韩王李元嘉、宁王李成器，还有开国元勋长孙敬德。
五代十国时期，李存勖、石敬瑭和刘知远所建立的后唐（923年－936年）、后晋（936年－947年）和后汉（947年－950年），都是以太原为依托，以泽潞二州为辅翼，夺取中原的。刘知远的弟弟刘崇在山西北、中部建立了北汉。
