山西的分界线是太行山。在古代，所谓山东山西，就是太行山在山东以东，山西以西，东北-西南。现在山东和山西其实不与河北省接壤，但习惯上说太行山是山东和山西的界山。
太行山是中国东部重要的山脉和地理分界线。它位于山西省和华北平原之间，垂直跨越北京、河北、山西和河南四省。属暖温带半湿润大陆性季风气候，冬无严寒，夏无酷暑，雨热同期。虽然四季分明，但冬季较长，夏季较短。
六亿年前，太行山还是一片汪洋。后来地壳活动频繁，地面起起伏伏，海水进进出出。海水退去，这里沼泽广泛分布，气候温暖湿润，生长着茂密的森林，形成了太行山丰富的煤炭资源。
之后地壳活动使太行山逐渐隆起，然后与东西华北平原断裂，形成东部陡峭，西部平缓的地貌。
山西省的地形是由东北向西南倾斜的平行四边形，是典型的黄土覆盖的山地高原。地势东北高，西南低。高原内部起伏不平，山谷纵横交错。地貌包括山地、丘陵、阶地和平原，山地面积占总面积的80.1%。山西省横跨黄河和海河，河流属于自产流出水系。山西省地处中纬度内陆，属温带大陆性季风气候。
鲁中山地突起，西南、西北低洼平坦，东部平缓丘陵，地形以山地丘陵为主，东部为山东半岛，西部、北部属华北平原，中南部为山地丘陵，形成以山地丘陵为骨架，平原盆地纵横交错的地貌，包括山地、丘陵、阶地、盆地、平原、湖泊等类型。横跨淮河、黄河、海河、小清河、胶东河；它属于暖温带季风气候。
