北京奧運會之前，中國的奧運之路異常坎坷，經歷太多挫折。從一無所知到奧運三問；從受列強鄙視到打出國威；從退出奧運到回歸奧運；從申奧失利到成功舉辦。著一段段曲折的歷史，可謂是中國近現代史國際地位的一個縮影。
01從一無所知到奧運三問
現代奧運之父顧拜旦倡議下，國際奧委會於1894年成立，1896年舉辦首屆現代奧運會。當時中國國際地位不高，被列強欺辱幾十年，背負著大量不平等條約。中國畢竟地大物博，當時擁有四萬萬同胞，佔世界人口的1/4，國際奧委會還是向中國發出參加奧運會的邀請。但晚晴政府對於奧運會一無所知，並沒有答覆，此事也就不了了之。
進入20世紀，一些留洋海外的中國人開始關注奧運會及其奧運精神，部分有識之士認為這或許是一種曲線救國方式，以此改變中國的國際地位及形象。因此，關於奧運會的報導開始在中國廣泛傳播。南開大學校長張伯苓對奧運會就非常推崇，在他的主導及影響下，1908年南開大學的學生們觀看到第四屆倫敦奧運會幻燈片，學生們感受到極大震動，其中有學生向《天津青年》雜誌投稿，提出著名的奧運三問：
1.中國什麼時候能夠派運動員去參加奧運會？
2.我們的運動員什麼時候能夠得到一塊奧運金牌？
3.我們的國家什麼時候能夠舉辦奧運會？
02新中國成立之前奧運之旅
1911年10月辛亥革命爆發，到1912年2月宣統皇帝退位，延續兩千多年的帝制歷史結束。1913年，當時的中國政府聯合周邊國家，發起「遠東奧林匹克運動會」，組建遠東體協。1915年中國再次得到國際奧委會邀請參賽，不過當時正值第一次世界大戰，1916年的柏林奧運會也因此停辦。中國近代史很複雜，軍閥割據，戰火不斷，一直到1932年的洛杉磯奧運會才首次派遣運動員參賽。當時中國代表團只有6人，運動員僅劉長春一人，因而被稱為一個人的奧林匹克。
1936年柏林奧運會，中國代表團擴大到140人，參加7個項目的比賽。當時中國隊員不受待見，常被認作是日本代表團。中國隊備戰設施極差，撐竿跳運動員符保盧沒有竿，只能借用日本隊員的竿參賽。球王李惠堂率領的中國足球隊提前兩個月出發，首輪不敵英格蘭隊，直接遭到淘汰。1948年中國代表團第三次參加奧運會，當時解放軍正進行戰略反攻，國軍節節敗退，參加奧運會的33名運動員並沒有得到多少關注。
03從退出到回歸
新中國成立不久，中國人民志願軍在朝鮮戰場打出國威，很多歐洲國家宣布承認中華人民共和國。1952年赫爾辛基奧運會得到國際奧委會邀請，但時間倉促，中國僅派出40人代表團，抵達時很多比賽已經結束，僅有遊泳運動員吳傳玉一人參賽，可謂又是「一個人的奧林匹克」。
1954年，中華全國體育總會通過國際奧委會的年會投票，公認為中國奧委會。但當時國際奧委會受到西方勢力控制，對待中國實行兩面三刀政策，同時還承認「中華民國奧委會」，並允許兩個代表團同時參賽，一個以「臺灣中國」名義，一個是「北京中國」名義。企圖非常明顯，就是要分裂中國。中華全國體育總會與國際奧委會反覆交涉無果，於1956年11月6日發表聲明，放棄參加墨爾本奧運會。此時距離奧運會開幕不足半月，參賽代表團本來已做好充分準備，卻因特殊的政治原因錯過。
1958年8月20日，中華全國體育總會宣布退出國際奧委會。一直到1979年，國際奧委會恢復中國的合法席位，打開回歸奧運之門。1980年莫斯科奧運會，美蘇冷戰爭端達到高潮，美國抗議蘇聯入侵阿富汗，發起抵制莫斯科奧運會，日本、聯邦德國等很快響應。中國也加入抵制陣營，未派遣隊伍參賽。1984年洛杉磯奧運會，以蘇聯為首的社會主義國家進行抵制，而此時中美關係全面升溫，未加入抵制陣營，時隔32年再次派遣隊伍參賽，並斬獲不俗成績。
04從申奧失利到成功申辦
回歸奧運之後，中國代表團整體表現優異，萌生舉辦奧運會之念。1990年鄧小平提出申辦奧運會，並代表中國政府全力支持中國奧委會。1991年12月4日，中國在洛桑向國際奧委會正式遞交2000年承辦奧運會的申請書。1993年9月23日，國際奧委會宣布結果，北京以2票之差不敵雪梨，首次申奧失敗。
對於此次申奧失敗，流傳著多種說法。有兩個非洲鐵票本是中國支持者，卻被澳大利亞方面招攬；埃及和保加利亞皆答應投給中國，但兩國都因特殊情況未參加投票，這兩個原因被普遍認同。還有一個原因流傳，1992年中國與韓國建交，導致朝鮮方面不滿，朝鮮與中國臺灣相互拉攏，將票投給了雪梨，這個原因只是以猜測的形勢流傳。
綜合各方面資料來看，北京首次申奧失利和自身有很大原因，當時北京佔據優勢，中國申奧團隊有些疏忽大意，被對手鑽漏洞。或許就如同一場比賽，雙方實力旗鼓相當，北京稍稍佔優，但在關鍵時刻失誤，而對手也抓住關鍵機會，上演逆轉加絕殺。有此前車之鑑，八年後再次申奧不敢有絲毫大意，做好充分準備，北京以絕對優勢勝出。拿到舉辦權，中國政府舉全國之力承辦好北京奧運會，獲得一致好評。