1907年，德國醫生埃裡希·寶隆在德中各界支持下，於上海創辦了德文醫學堂，即為同濟大學的前身。翌年改名同濟德文醫學堂。「同濟」一詞最早出自《孫子·九地》：「夫吳人與越人相惡也，當其同舟而濟，遇風，其相救也如左右手。」校董們為學校取名「同濟」，意蘊和衷共濟，希望用現代醫學造福人類。
1912年，同濟德文醫學堂與創辦不久的同濟德文工學堂合併，更名為同濟德文醫工學堂。1923年正式定名為大學。1927年成為國立同濟大學，是當時首批經國民政府批准成立的7所國立大學之一。
抗戰爆發，美麗的同濟校園在侵略者的轟炸中僅剩斷壁殘垣。為求「一張平靜的書桌」，學校於1937年開始內遷辦學。經過三年流離、六次搬遷，先後輾轉浙、贛、桂、滇等地，直至1940年落腳四川宜賓的李莊古鎮。師生們教學不輟，堅持文化抗戰。1946年回遷上海以後，同濟大學發展成為以理、工、醫、文、法五大學院著稱的海內外著名綜合性大學。
1952年院系調整，同濟大學原有的醫學、理學、文、法、測繪、造船等優勢學科或支援其它高校，或整體搬遷內地，為新中國高等教育布局調整作出了貢獻。同時全國10多所大學的土木建築相關學科匯聚同濟，同濟大學成為國內土木建築領域規模最大、學科最全的工科大學。
改革開放以後，同濟大學再次站到了引領時代發展潮流的前沿。1979年，時任校長李國豪率先提出「兩個轉變」的辦學方針——恢復與德國的傳統聯繫、建設多科型大學，得到鄧小平、方毅等中央領導同志的大力支持。經過十多年努力，同濟大學恢復和發展成為一所以工為主，理工結合，經、管、文、法各具特色的多科性大學。
1995年11月，同濟大學通過「211工程」部門預審。2002年6月，教育部與上海市人民政府籤約重點共建同濟大學。期間，1996年9月，原上海城市建設學院和上海建築材料工業學院併入同濟。2000年4月，同濟大學與上海鐵道大學合併，組建成新的同濟大學。2003年11月，上海航空工業學校劃歸同濟大學管理。
2007年5月，同濟大學隆重慶祝建校100周年。學校在進一步梳理歷史文脈、凝練精神積澱基礎上，提出了「百年同濟，大學對社會的承諾」的校慶主題，在全社會引起熱烈反響。
100多年來，同濟大學為國家和社會培養了近30萬高素質建設者和接班人，造就了一大批傑出的政治家、科學家、教育家、企業家和工程技術人才。校友中當選中國科學院、中國工程院兩院院士的超過100人，貝時璋、李國豪、裘法祖、吳孟超等是其中的傑出代表。