甘肅省蘭州市濱河路中段北側，至今已有100多年歷史，是5640千米黃河上的第一座真正意義上的橋梁，因而有「天下黃河第一橋」之稱。
蘭州作為連接內地和西北的交通樞紐，從明代起人們就開始設想在黃河上架橋，徵服黃河險阻。明代洪武五年(137年)，朱元璋命衛國公鄧愈在蘭州的黃河上建造一座浮橋。這就是著名的鎮遠橋。到了洪武十八年(1385)，蘭州衛指揮楊廉將浮橋遷移至現在的位置，並加設了重10噸、長5.8米的鑄鐵橋柱三根。為了紀念武將楊廉的功績，人們將這三根橋柱稱為「將軍柱」。
清光緒三十三年(1907年)，甘肅總督升允看到黃河浮橋嚴重阻礙城市的交通，決心在此基礎上修建一座堅固的鐵橋，徹底改變蘭州的交通面貌。升允曾出使過歐洲各國，擔任總督以後，在蘭州設立了全省洋務總局，推行新政、創辦實業，有力地發展了當地經濟。
他多次與蘭州道彭英甲商議此事，制訂了切實可行的方案。通過多次與外商談判，籤訂了修建合同，規定由美國橋梁公司設計，德商負責建造，建橋所用的鋼材、
水泥、板材均在德國採購。 將這些建材如何從遙遠的德國運到蘭州成為成敗的關鍵。經過反覆研究，確定了周詳的方案。所需要的建材，先從德國用船運輸到天津港，再用火車通過京奉鐵路運到北京豐臺站，經由京漢鐵路轉運到河南新鄉，從新鄉再運送到西安，從西安到蘭州，改用騾馬大車進行長途拉運，整個運輸過程長達一年。
1908年4月，蘭州黃河鐵橋工程正式開工。升允親自到施工現場指揮協調，施工人員克服種種困難，整個工程按計劃穩步推進。1909年8月19日，鐵橋竣工。橋長233.33米，寬7.5米，有4墩5孔，橋面為加厚狄托板條，耗銀30多萬兩，命名為「蘭州黃河鐵橋」。
為了確保鐵橋的正常使用，當地政府制訂了《管理暨歲修鐵橋法程》和《巡兵站崗暨車馬行人往來條款》。召募壯丁12人，擔任鐵橋巡兵，常年駐守護橋。章程對鐵橋維護有嚴格規定「十二名(巡兵)分作三班，每班以四個點鐘為度，輪流更換，周而復始。
下班時須將南北碼頭及橋道一律灑掃乾淨，並留心橋板是否磨爛，螺絲有無損壞。」並在橋頭設置紀念設施，記載建橋的艱辛歷程。
1942年，為了紀念革命先行者孫中山先生，此橋改名為中山橋。1954年，國家撥款60萬元對橋進行全面維修加固，在原平行弦杆上端置拱式鋼梁，使鐵橋顯得堅固耐用，氣勢雄偉。2006年6月，蘭州的標誌性建築物——「黃河第一橋」被國務院命名為第六批全國重點文物保護單位。