1736年1月，一個男嬰出生在了英國蘇格蘭西部的格裡諾克鎮的一個造船技術工人家裡，他的父親為他取名叫瓦特。瓦特的父親是造船技術工人，祖父和叔叔也是當地有名的機械工匠。瓦特出生在這樣的家庭裡，從小就受到了技術方面的薰陶，因此對擺弄各種小物件，製作各種小工具產生了濃厚的興趣。
瓦特幼年時體弱多病，所以遲遲沒有上學。幸好瓦特的母親學養比較高，給了瓦特良好的家庭教育。後來瓦特進人了一所文法學校學習，但是沒過多久又因為身體的原因輟學了，整個家庭都為這個孩子的未來擔憂。然而瓦特的好學和毅力卻彌補了他身體上的孱弱。他不僅仔細觀察祖父、父親工作中的細節，還努力學習各種知識。據說在他15歲時就已經讀完了當時頗為難懂的《幾何學原理》等著作，還系統閱讀了化學、物理學、天文學等多種學科的書籍，視野十分廣闊。
1753年，由於父親的經營失敗，家裡的經濟壓力驟然加大，瓦特只好到格拉斯哥的一個手工工場裡去當學徒，賺些錢貼補家用。後來他又轉到倫敦的一家鐘錶修理廠去當工人。在那裡，瓦特憑著自已以前對於技術和科學知識的積累，以及自身的勤奮，很快就學會了製造難度較高的經緯儀、羅盤和象限儀等，但是由於勞動強度過大，瓦特在工作了一-段時間後，惠上了嚴重的風溼病，只好回到家中休養。等病痛好了一些之後， 瓦特又以其之前出色的工作成績幸運地進入了格拉斯哥大學，擔任教學儀器的製作工。在格拉斯哥大學裡，瓦特大開眼界，見到了很多從未見到的儀器，也向其他教師和工人學習到了更多的機械製造技術和知識。
在格拉斯哥大學的經歷，為瓦特以後改進蒸汽機，引領工業革命時代的到來奠定了良好的基礎。
人類對於蒸汽動力的認識，經歷了一個漫長的歷史過程。據說在公元前2世紀的時候，埃及人和希臘人就已經開始認識到蒸汽可以作為動力，希臘人甚至還發明了一種利用蒸汽轉動圓球的裝置。不過由於當時條件的限制，對於蒸汽動力的探索並沒有實質性的進展。
到了17世紀初，當人類的技術-步步前進，對於蒸汽作為動力的認知和嘗試才變得越來越具有實際意義。1601年，義大利人設想用蒸汽壓力作為動力來提水；1690年，法國技師在利用蒸汽動力的過程中，第一次採用了活塞。雖然取得了這些重要進步，但這些器械還在試驗之中，沒有用於生產。1698年，英國人又發明製造出一種蒸汽泵。1712 年，一位原本 籍籍無名的英國技術工人紐可門發明了第一臺實用的蒸汽機，一下子名聲大噪。這種蒸汽機開始應用在採礦業中，但效率很低，所耗費的原料煤的量也很大。節約成本是礦場主們最大的渴求，因此他們迫切希望有人能夠提高蒸汽機的效率，並降低煤的消耗量。這時，瓦特登場了。
在後人對於瓦特的記述中，曾經有這樣一個故事，說是在瓦特小的時候，有一天，他在家裡看見一壺水燒開了，蒸汽把壺蓋衝得上下直跳。這種別人習以為常的現象引起了瓦特的濃厚興趣，他開始冥思苦想蒸汽的奧秘。這個故事杜撰的成分極大，因為這個故事似乎要告訴我們是瓦特小時候的這個奇思怪想，開啟了他發明蒸汽機之路，就像牛頓通過蘋果落地推導出萬有引力一樣，但實際上瓦特並不是蒸汽機的發明者，而是改良者。也許是因為他的這次改良作用太為顯著了，所以很多人竟把他說成了蒸汽機的發明者。
當社會，尤其是那些礦場主們呼喚改良蒸汽機的時候，瓦特也意識到了改良蒸汽機，使其效率和功能都大幅提高，不僅能夠揚名，-.且申請專利還會獲得巨額的財富回報。因此，瓦特從1761年開始著手改良蒸汽機的實驗。從1761年到1762年，瓦特做了無數次的實驗，但都宣告失敗，瓦特頗為頭疼。
1763年，瓦特接受了格拉斯哥大學委託的修理兩臺紐可門式蒸汽機的任務，在這次工作中，瓦特的收穫頗豐。通過拆卸這兩臺紐可門式發動機，瓦特深入地了解了紐可式發動機的內部構造和工作原理，並認識到了紐可門式發動機效率低下的原因所在：一、活塞動作不連續而且運動緩慢；二、冷凝的溫度不夠低，導致蒸汽利用率低，浪費原料。既然找到了癥結所在，那麼對症下藥，問題不就迎刃而解了嗎？
瓦特也是這樣想的，他打算設計出一種帶有分離冷凝器的蒸汽機。據瓦特計算，這種蒸汽機的效率將是紐可門式蒸汽機的三倍。但是好事多磨，瓦特研製了一年左右，幾乎將自己的所有研究經費耗盡，也沒有研製出自已理想中的蒸汽機。就在這時，位頗有戰略眼光的企業家羅伯克認識到了瓦特研究的巨大意義，於是慷慨資助瓦特的研究。有了足夠的經費之後，瓦特認認真真尋找自己改良蒸汽機過程中的紕漏並一改正，終於在1769年使自己改良後的蒸汽機面世。瓦特所改良的蒸汽機不僅工作效率較紐可門式蒸汽機提高三倍以上，所需的原材料煤還只是紐可[ ]式蒸汽機的四分之一。至此，人類歷史上一項偉大的技術革新終於完成了，它將把人類帶往蒸汽時代！