山东山西的“山”是指太行山。太行山位于山西省和华北平原之间，北起北京市西山，南至河南与山西交界的王屋山，东接华北平原，西临山西高原。在我国古代，山东山西原本是接壤的，用太行山来分界，后来因为政治规划才变成不接壤。
太行山属于暖温带半湿润季风气候，其平均气温在10℃左右。全年无酷暑，无严寒，四季分明，冬长夏短。冬季有半年，而夏季连两个月都不到。一月份最冷，最低气温在-10℃左右。七月份最热，最高气温在28℃左右。
此外，太行山还有较好的煤炭资源和木本花卉、药材等。太行山南段和北段都是由石灰岩组成，中段还有部分片麻岩。因为煤炭资源丰富，所以我国许多煤炭、陶瓷、石灰生产工业都在这里。太行山还有三百多种花卉、药材等珍稀植物。像南方红豆杉就出现在大峡谷中。