獲得奧運會冠軍是所有運動員的夢想，王皓也不例外。他在微博上的實名認證信息是：桌球奧運冠軍，可見他對於這一榮譽的看重。王皓的確是奧運冠軍，儘管他沒有拿到奧運單打金牌，但是2008北京奧運和2012倫敦奧運，他與隊友一起獲得了團體金牌。
王皓是中國男乒歷史上唯一一位有過三次奧運會單打經歷的選手，分別參加了2004年雅典奧運會、2008年北京奧運會和2012年倫敦奧運會男單比賽，且都殺進了最後的決賽。遺憾的是，在這三屆奧運會男乒決賽中，他分別敗在柳承敏、馬琳、張繼科拍下。
2014年12月22日，奧運冠軍王皓正式宣布退役。時任國乒總教練劉國梁形容王皓為國乒歷史上最傳奇的球員，對於三次奧運會單打摘銀的經歷，劉國梁直言王皓是歷史上「最偉大的亞軍」。
王皓讓直板橫打打法成為乒壇的主流打法，而且是「二王一馬」時代國乒隊中勝率最高、發揮最穩定的隊員。在他的職業生涯中，一共獲得了18個世界冠軍，和馬琳、鄧亞萍並列排在國乒歷史第三位，僅次於張怡寧（19個）和王楠（24個）。然而，由於未能獲得奧運單打冠軍，讓他的運動經歷留下了遺憾。
2004年雅典奧運會結束後，直至2008年北京奧運會，那4年是王皓職業生涯最鼎盛的時期，不管是年齡還是技術，都達到了一個巔峰。可惜的是，北京奧運男單決賽，他被馬琳擊敗。
倫敦奧運會備戰周期，大家可能感覺王皓走下坡路了，而王皓卻咬牙堅持。所有人都知道，他渴望拿到奧運單打金牌。然而，在苦苦堅持的過程中，他碰到了張繼科。從2010年開始至2013年，王皓和張繼科5次在世界大賽中相遇，他們二人是這段時期男子桌球項目最強的運動員。
2012年倫敦奧運會，張繼科在決賽中擊敗王皓。當時，王皓已經29歲，所有人都知道，在競爭激烈的國乒，他已經沒有機會參加2016年里約奧運會了。王皓的奧運單打金牌之夢，只能到此為止。
2012年倫敦奧運會後，與王皓同時代的王勵勤、馬琳先後退役，而王皓卻依然留在國乒，為年輕隊員起到傳幫帶的作用，還帶領八一隊獲得2013年全運會團體冠軍。2014年12月，王皓退役，到八一隊擔任教練。