古希臘是奧林匹克運動會的發源地，這裡流傳著許多關於奧運會起源的傳說。
第一種說法認為，奧運會的起源與古希臘神話中「眾神之王」宙斯的兒子赫拉克勒斯有關。伊利斯國王與赫拉克勒斯打賭，如果他能在一天內將養有3000頭牛的牛圈中的牛糞清理乾淨，就可得到圈中的牛群；結果赫拉克勒斯不到一天就把牛圈打掃得乾乾淨淨，可是伊利斯國王卻不願履行諾言，這激怒了赫拉克勒斯，他藉助父親宙斯的幫助，殺死了伊利斯國王；為了表示感激，赫拉克勒斯劃出一塊神聖園林獻給父親，並舉行盛大的祭祀和競技會來慶祝自己的勝利。古代奧運會由此起源。
流傳最廣的是第二種說法：海神之子佩洛普斯向伊利斯國王的女兒希波達彌亞求婚，國王提出了苛刻的條件：求婚者必須與他賽戰車，勝者可娶公主，敗者將被長矛刺死。在佩洛普斯之前，已經有13名求婚者不幸死在長矛之下。佩洛普斯勇敢地接受國王的條件，並在激烈的戰車比賽中獲勝，最終與希波達彌亞喜結連理。為了慶祝勝利，佩洛普斯在奧林匹亞的宙斯神廟舉行盛大的婚禮，建立了紀念碑，並舉行了戰車、角鬥等競技比賽。據說這是古代奧運會的開端。
傳說歸傳說，奧運會的起源，實際上與古希臘的社會發展情況密切相關。公元前9世紀至公元前8世紀，古希臘有200多個城邦，城邦各自為政，相互間戰爭不斷。為提高戰鬥力，各城邦都積極練兵。體育比賽是增強士兵體能、培養能徵善戰的士兵的有效形式，正是備戰，促進了古希臘體育運動的開展，所以早期的體育項目帶有明顯的軍事烙印。後來，由於民眾對於和平的渴望，希臘城邦中斯巴達國王與伊利斯國王籤訂了「神聖休戰月」條約，休戰期間進行的體育競技比賽，逐漸成為定期舉行的奧林匹克運動會。
第一個有文字記載的希臘奧運會於公元前776年舉行（但可以肯定此前就已舉辦過奧運會），到公元384年羅馬皇帝下令廢止賽會，希臘奧運會至少有1160年的歷史。後來，隨著近代體育的興起，人們希望恢復古代奧運會。1896年，第一屆現代奧林匹克運動會在雅典舉行，共有13個國家的311名運動員參賽。沿襲古希臘奧運會的傳統，此後的奧運會仍是每四年舉行一次。2008年，我國在北京成功主辦了第29屆夏季奧林匹克運動會。