1994年1月，史丹福大學的兩名研究生大衛費羅（David Filo）和楊致遠（Jerry Yang）創建了一個名為「傑瑞的網絡指南」的網站。這是一個網站信息引擎，一個可定製的資料庫，旨在滿足成千上萬的、剛剛開始通過網際網路社區使用網絡服務的用戶的需要。他們開發了可定製的軟體，幫助他們有效地查找、識別和編輯網際網路上存儲的數據。
1994年3月，「傑瑞的網絡指南」更名為「Yahoo!」（雅虎），Yahoo的含義是「另一個層次化的、非正式的預言」（Yet Another Hierarchical Officious Oracle），但是大衛費羅和楊致遠更願意說，他們之所以選擇這個名稱是因為《格列佛遊記 - 「慧駰」國遊記》中Yahoo（耶胡）的解釋，由有著智能的馬所飼養，與人類長得一模一樣的牲畜之意。
截至1994年底，Yahoo!已經收到了100萬個點擊，費羅和楊致遠意識到他們的網站擁有巨大的商業潛力，並在1995年3月2日成立了公司。由於Yahoo已經被人註冊，所以公司選擇在Yahoo後面加上了感嘆號，為公司成立以來的第四代商標。然而，在提及Yahoo!時，感嘆號往往被忽略。圖為1990年代位於加州桑尼維爾市的公司總部。
雅虎創始人之一楊致遠，1968年11月出生於臺北市。2歲時不幸喪父，10歲時隨母親移民美國。其母親在成人教育學校教新移民學習英文。楊致遠剛到美國的時候幾乎不懂英語。儘管開始的時候有語言上的障礙，楊致遠學習上仍獲A等。楊致遠在史丹福大學電子工程系先後獲得理學學士和理學碩士學位。另一名創始人大衛費羅則是來自美國威斯康星州，先後在杜蘭大學和史丹福大學獲得電子工程學學位。
雅虎公司自成立後，迅速發展成為全球最重要的網際網路企業之一。品牌旗下知名服務有門戶網站、郵箱、體育以及新聞等服務。進入21世紀以後，谷歌等網際網路公司逐漸趕超雅虎，利用第三方用戶所生產的高質內容優勢成功反超了雅虎，儘管雅虎利用股票併購了許多新興公司，但均未能跟上網絡浪潮的變化，使得雅虎的核心事業於2016年被出售給威瑞森。
2008年11月，楊致遠宣布辭去雅虎CEO一職，但仍將留在雅虎董事會。由於楊致遠拒絕將雅虎出售給微軟，這個事件讓不少人對楊致遠感到失望，雅虎的股價跌到2003年以來最低位，也促使雅虎董事會撤換楊致遠的壓力增加。2012年1月17日，楊致遠宣布辭去雅虎董事會及所有在公司的職務。楊致遠在離開雅虎後，創辦AME Cloud Ventures公司，進行風險投資並投資一系列網際網路、移動網際網路及高科技公司。