1849年，巴甫洛夫出生在梁贊城一個貧窮的牧師家庭。他從小在教會學校讀書，依照傳統習慣，擺在他面前的生活道路是接過父親的衣缽，當一名牧師。但是，他拋棄了宗教留給他的前途，毅然選擇了研究科學的艱難道路科學的吸引力，最早來自書籍。
中學時代，巴甫洛夫閱讀了俄國革命民主主義者別林斯基、車爾尼雪夫斯基和赫爾夢等人的著作，對這些作品留下了深刻的印象，特別是著名的自然科學家和唯物主義者皮薩列夫，以及俄國生理學家謝切諾夫的著作，決定了巴甫洛夫一生的道路。1870年，21歲的巴甫洛夫離開神學院，依靠口袋裡的一張貧困證明書」免費進入了彼得堡大學，攻讀生理學專業。巴甫洛夫在大學裡學習十分刻苦，為了使實驗做得得心應手，他不斷練習雙手操作，漸漸地相當精細的手術他也能迅速準確地完成。
導師很賞識他的實驗才能，常叫他充當自己的助手。巴甫洛夫不懂就問，每次手術都做得既快又好，漸漸有了名氣。四年級時，在導師的指導下，巴甫洛夫完成了關於胰腺的神經支配方面的第一篇科學論文，獲得了校方的金質獎章。1875年，巴甫洛夫獲得生理學學士學位，成為自己導師的助教。同年，他又考上了聖彼得堡大學醫學院。1878年，巴甫洛夫應俄國著名臨床醫師波特金教授之邀，到其所在的醫院主持生理實驗室工作。巴甫洛夫在這間陳舊狹小的實驗室裡工作了10餘年巴甫洛夫在科研上頑強思考，勤奮學習，堅持實驗，勇於創新。他早期從事心臟心理研究，創立了神經系統的營養功能學說，接著他把研究方向轉向消化生理。
為了研究大腦怎樣支配胃的活動，他創造了一種觀察胃腺活動的新方法，即後來聞名世界的「假飼」實驗。巴甫洛夫先將一條飢餓的狗拴在實驗臺上，然後在狗面前的食盤裡放進鮮肉，狗開始津津有味地吃起來，邊吃邊咽，可是它吃進去的肉很快又掉到食盤裡。原來，狗的食道已被切斷，食道的兩個斷頭都被接到狗脖子皮膚的外頭。因此，被狗咽下去的肉，立即從食道切口掉回食盤裡。狗還是津津有味地吃著，可是因為始終沒有把肉送到胃裡，所以它一直吃不飽，盤子裡的肉也始終保持那麼多。在狗的肚子底下，拖著一根細細的橡皮管，原來狗的胃也被巴甫洛夫動過手術，已經插入一根瘻管通到體外。
有趣的現象出現了，在狗徒勞吃肉後的四五分鐘，橡皮管裡流出了大量的胃液。狗不停地吃著，胃液不停地流出，不久就淌滿了量筒。胃液的不斷分泌，是狗的第十對腦神經一迷走神經的衝動所引起的。巴甫洛夫對這隻狗的迷走神經也動過手術，在上面引出了一根絲線。現在，只見巴甫洛夫稍微動了一下絲線，就切斷了狗大腦與胃之間的聯繫。結果，狗儘管還在不斷地吞咽鮮肉，但胃液卻停止分泌了。「大腦控制胃的消化！」這個著名的實驗結果被記載在所有的生理學教科書中。巴甫洛夫在消化生理學方面取得的重大成就，使他獲得了國際聲譽。
1904年，他榮獲諾貝爾獎，成為世界上第一個獲得這項獎金的生理學家。在成就面前，巴甫洛夫並未滿足。1912年，53歲的他開始了對人體的禁區一一大腦進行研究。他通過安在狗腮上的唾液腺導管進行觀察，用這個「潛望鏡」揭開了大腦的秘密。不久，他提出條件反射理論，證明人和高等動物的條件反射，是大腦兩半球的皮質所形成的。
他對比了人和其他動物高級神經活動的本質區別，在80歲高齡時提出了兩個信號系統學說，並據此證實了辯證唯物主義的基本原理物質是第一性的；意識是第二性的，它是大腦的產物。