山西也就因此军事历史极为丰富，经常能够锻炼出百战之师，出晋便能横扫六合。为了增强对这个南北流通的控制力，无论是南北双方哪一家控制了山西，都会对其进行交通上的强化。不仅是在已有的河谷、山坳上铺设道路，甚至还会特意架设桥梁和栈道，强行打通山西各个盆地之间的联系渠道，让兵员和物资的转运更为流畅。山西处于中国第二阶梯至第三阶梯之间的过渡地带，所以山西及其周边有着一连串盆地，将他们有效地连接打通可不容易。
最早开始做这件事的是春秋时的晋国。晋国最早的封地城址位于今天临汾市东南的翼城县附近，初代国君虞的任务就是与其他封国一起，给定都镐京(今西安)的周王室提供东北方向的保护，顺便把盘踞晋北的少数民族再往北推一下。当时的“中原文化”所覆盖的范围还比较有限，分封在山西南部盆地的小国有很多，在其后的周室衰落与兼并战争中晋国逐渐强大(先秦往往灭国不灭庙，很多姓氏的来源正是国名)。
这个任务到了后期当然就变了味，晋国很快控制了汾河下游的盆地，以此为基础征服了周边的小国和北方异族的土地。这些新打下来的土地，就被并入了晋国的管制，大规模的道路修建工作就开始了。三家分晋之后，韩赵魏三国也继承了这一传统继续修路。山西东南部韩国的长治(上党)、魏国的安邑(河东)、山西中部赵国的太原都是重要的战略要地，一直到秦汉帝国时期它们的枢纽地位仍然未变。
如果不是因为三家分晋，统一的晋国很可能将秦国堵在关中永远出不来。后来的魏晋南北朝时期，山西在更长的时间内为少数民族政权所控制。统一工作做得最好的北魏王朝，为山西提供了境内开发的好机会，相继修通了大同至定州的飞狐道、井陉至太原的韩信道、太原至大同的并州大道等重要道路。在通往境外的道路方面，太原到当时的名城邺城(邯郸)的道路是完成度最高的。
除了打通山西内部各通道外，“堡垒山西”的对外通道也非常重要，并与内部通道相连接(如最著名的太行八陉)。山西的交通通达度，从最南方开始往晋中推进了。随后的宋、金、元各个政权都在这个基础上，以军事交通为目的，进一步地提高了山西内部的交通便捷性。这一次得到开发的，是相对靠北的大同。对于汉人王朝来说，大同是北方前线的重镇，需要更好的物资补给条件，对于南下的少数民族来说，大同则是他们进入汉地的桥头堡，在不熟悉对手的情况下必须首先发展此地。
金朝以大同为中心，修建了通往北、西、南三个方向的驿道，而元朝在此基础上增加了驿站系统。大同不仅是进入山西腹地的入口，也是向东通向北京的重要通道，由于临近北方的游牧世界，这里也易于获得大量战马和训练骑兵。以此为标志，山西境内由南向北的交通开发基本全部完成。长条状的表里山河，也有了贯通的渠道，一个强大的商业体系正在这样的基础条件下呼之欲出。
