这座桥的名字最早“山河桥”。
山河即清水河，系黄河一大支流。通志云：“发源六盘山，绕固原城东北，流入鸣沙州，即古所谓葫芦河，一名高平水，其下复有山河。”山河上搭建的桥就叫“山河桥”。
据有关记载，历史上山河桥曾经历过三次较大的修建。随着修建也就产生了跷越桥、天坐桥、天生桥、钻洞子等多个名称。
这里水流太急，在建材工业落后的古代，既没有钢筋水泥等建筑材料，也没有钻孔机等施工设备，河中无法建桥墩。古代劳动人民用他们的智慧，用一种奇特的桥梁结构，突破了这个难关。这就是《道光续修中卫县志·关梁》记载的我国古代建筑中斗拱式的“层层递出”的结构。先用石头在两岸垒砌阶梯状的基础，每层压一排方木向河心挑出，待到相距10多米时，再搭上一排巨木作为梁，然后铺面板，做上栏杆，一座木桥便建成了。这是个奇迹！因此这个桥又叫跨越桥。
这桥后来因暴发特大山洪，被上游冲下来的木料阻塞摧毁。
抗日战争时期，中卫成了货物运输的一个枢纽中心，河运发达催生了莫家楼商业的繁荣，也需要在黄河上搭桥。民国27年(1938年)，当时有名的水利工程设计师苏芳设计，他实地勘察，发现泉眼山清水河峡谷河床有阶梯状断层落差，他在第二道瀑布上动起了脑子。原来，这道瀑布的最前沿有一道隆起的河床岩石，长30多米，宽5米，形似“横墙”。如果在”横墙”底部的中央凿一个大圆洞，成为泄水的桥孔，“横墙”的顶部凿平，使之成为路面，上可行车辆，下可导流河水，便是一座天然石桥。经反复研究，他提出了凿石洞为桥的设计方案。历时8个月，开凿了一个巨大的石洞。桥长43.4米，桥宽4.2米，桥面浑然一体，无裂缝，桥上过人、畜、车辆，桥下泄流河水，形似天然石拱桥。又创造了桥梁建筑的一个奇迹。有诗赞曰：“人行梦魂绕，车过闻怒涛。世路再维艰，夺得天工巧。”
解放后，随着公路运输的快速发展，需要建立一个能通行汽车的桥梁，山河桥的第三代是“水泥桥“。令人惊奇的是这座现代化的公路大桥，桥基竟然坐落在原山河桥桥面上，桥上建桥，两桥合一桥，成为建桥史上的独创奇迹。
这座桥不仅创造了建筑上的奇迹，也是中卫和中宁分立和合并的一个历史，也是一个县变成两个县的30年河东，40年河西。
在1933年以前，中宁属于中卫县，后来民国政府任命马鸿逵为中宁夏省主席，马鸿逵是个有野心的人，认为宁夏地盘小，只有9个县也太少。遂将中卫分为二个县，提出了以山河桥、胜金关为界东西分县的方案，于是把宁安堡从中卫县拆分出来单独成县，因为治所设在宁安堡，所以，取中卫县的“中”字，宁安堡的“宁”字为县名，就这样，“中宁”这个名字产生了。
山河桥是原中卫县与中宁县的县界桥，西距中卫城区44公里，东距中宁县城15.5公里。位于黄河南岸，隔河与胜金关相望。
2003年12月31日，国务院批准将中宁县、海原县划归新设立的地级zw市。
2004年，设立zw市，中宁县划归zw市。