山西大致可分为晋北、晋中、晋东南、晋南四大地理行政单元，均以山脉相隔。其中晋北又可细分为大同、朔州两个小地理单元，晋中又可进一步分为忻州、吕梁、太原、阳泉三个小地理单元。晋东南可为长治、晋城两个小地理单元，晋南可分为临汾、运城两个小地理单元。
为什么这么分，这得从历史早答案，首先晋北在古代是雁门郡，晋中是太原郡，晋东南上党郡，晋南河东郡。后来经过二千多年历史的不断变迁，雁门郡又进一步分出了雁门、代郡，太原郡又分出了新兴、太原、西河、乐平四郡，上党郡又分出了上党、建兴等郡，河东郡又分出了河东、平阳两郡，最终形成了朔平府、大同府、太原府、忻州和宁武府、汾州府、平定州、潞安府、泽州府、平阳府、蒲州府等九府10州，和今天的11个地级市。
但今天不谈历史，只谈地形影响而形成的人口规模。
晋北是一块大盆地：
主要由大同和朔州两块小盆地构成，四周为黄土高原，因此人口多集中在中部的平原地区，中间有一道很小的山脉将大同和朔州分成两小部分。由于中央的平原地区非常平坦，所以才形成了一定的人口规模。
山西主要的人口集中：在汾河一线的太原、临汾、运城三块盆地，盆地内部平原广大，是山西主要的粮食产区和人口密集区。
而太原盆地北部的忻州：是山西通往晋北的锁匙，北部有雁门关。地貌以山地和盆地为主。其中四周为面积广大的山地，中部的忻州盆地面积较小，但非常平坦，人口多集中于此，所以也形成了一定的人口数量。
晋西的：吕梁是典型的黄土高原，但面积广大，而且管辖范围还包含了太原盆地的汾阳和孝义两个县级市，故也形成了一定的人口规模。
晋东的：阳泉盆地以山地丘陵为主，盆地和平原面积狭小，故而人口最少。
晋东南：是山地高原，以浊清漳河流域的长治盆地，和丹沁两河流域的晋城盆地构成，两块盆地以丹朱岭和羊头山等山脉为界。地貌以丘陵山地和山间平原为主。
其中：
1、长治盆地由于漳河的横向冲刷形成中部连片的平原，人口多集中于此。
2、晋城盆地由丹沁两河纵向的冲刷，形成了更小的晋城（今城区与泽州县）、高平、阳城、陵川、沁水五小盆地。人口集中于晋城、高平、阳城三块小盆地，而沁水、陵川人口多集中于土地较多的河谷和县城。
3、晋东南高原，虽然形成了一定的人口规模，但由于山地丘陵较多，故人口远不及西边的汾河一线的太原、临汾、运城三块盆地。