山西省西部以黄河与陕西省分界，南部以中条山和黄河与河南省为界，东部以太行山与河北省为界，北部以长城与内蒙古自治区为界。山西，因居太行山之西而得名，简称晋，又称三晋，古称河东，省会太原市。山西东依太行山，西、南依吕梁山、黄河，北依长城，与河北、河南、陕西、内蒙古等省区为界，柳宗元称之为表里山河。

在中华人民共和国的版图上，除了川藏和陕晋之间的分界线外，再也找不到完全以自然河流作为省际分界线的境况。

奔腾的黄河为关系密切的山陕两省提供了长达734.2公里近乎完美的分界线，也帮助这对兄弟规避了不少因分界线不明确而导致的辖境纷争——这种纷争在中国其他省份很是常见。