杜如晦出身於官宦之家，他自小喜歡博覽群書，虔誠愛學，才華蓋世。以識人著稱的隋吏部侍郎高孝基曾預言他: 「有應變之才，當為將帥之用。」他讓杜如晦暫時在他府就職，補任為淦陽縣尉。由於吏政腐敗，杜如晦便辭去了淦陽縣尉的職務，隱居深處暗暗捕捉著自己能夠建功立業的時機。過丁幾年，隋朝內部也高舉起了反隋的大旗，隋朝的統治已是搖搖欲墜了。李淵父子攻佔長安之後，杜如晦得知秦王李世民的英名，便前去慕名拜訪。
李淵登上帝位，建立唐朝，史稱唐高祖立李世民為秦王。秦王李世民拜杜如晦為秦王府兵曹參軍。沒過多久，杜如晦被調任陝州總管府長史。房玄齡向李世民進諫道:「杜如晦博聞多識，身懷王佐之才。若大王想要統一天下。只有靠他的輔佐才能得到天下。」從此之後，李世民將杜如晦看做自己的心腹之臣，經常就軍機大事同他商量。杜如晦從此也就留在了秦王府，為李世民登上帝位作出了突出的貢獻。
唐朝統一之後論功行賞，雖然李世民兄弟幾人各有功勞，但李世民功績最大。總結其取得最大功勞的原因，杜如晦的悉心輔佐是不可忽略的因素。杜如晦運籌帷幄之中，對戰況能夠悉心把握，最終千裡馳聘，三軍將士都十分佩服。杜如晦不久便被任為本官兼文學館學士。李世民開天策府，設立了文學館，以招徠天下學士。來投的人如過河之鯽，其中著名的要數十八學士，杜如晦名列榜首。
李世民功勳卓著，權勢也在不斷擴大，政治地位和軍事地位日漸升高。他不僅掌握著大量軍隊，還擔任尚書令的職務，高居宰相之職。然而他的哥哥李建成，作為太子位居東宮，為人心存狡詐。李世民由於戰功赫赫而沒受到重視，他心裡便產生了一種不平。為了奪取大唐皇帝的寶座，他們弟兄幾人反目成仇，鬥爭日益激烈。對此，杜如晦、房玄齡等人一致認為，必須先發制人才能轉危為安，他們勸李世民先下手為強。經過一番細緻謹慎的精心策劃，李世民發動了「玄武門之變」。他在玄武門內設置伏兵，一舉射殺了李建成和李元吉，奪取了太子之位。
字世民當上太子之後 ，手握重權的他便立杜如晦為左庶子，協助其共同處理政務。同年七月，又將杜如晦調任為吏部尚書。 武德九年八月，李淵讓位 。李世民做了皇帝，史稱唐太宗。登上帝王寶座的李世民，開始大赦天下,對群臣論功行賞時，以房玄齡、杜如晦等五人功居第一。晉封杜如晦為蔡國公，賜食邑1300戶。第二年，晉升杜如晦為檢校侍中，兼吏部尚書。檢校侍中，即代理侍中，是門下省的長官，僅次於宰相之職。第三年，唐太宗下詔授杜如晦為右僕射。唐朝的左右僕射都相當於宰相。從此，杜如晦與房玄齡同朝為相，他們二人友好協作，為唐朝的繁榮鼎盛立下了不朽功績。杜如晦善於勤理朝政，房玄齡謀略超群。唐初的各種規章制度，都由他們二人制定。杜如晦和房玄齡能夠隨時撥亂反正，使得唐朝初期的政治制度和統治秩序得到穩定，他們二人還輔佐唐太宗開創貞觀之治的新局面。
杜如晦與房玄齡是合作的典範，他們忠誠有加，相互敬讓，胸懷寬闊。杜如晦善斷，房玄齡善謀，兩人之間取長補短，合作非常愉快，最終成為李世民得力的助手謀臣。在打天下 、得天下、治天下的漫長過程中，兩人之間共同建立了一種誠摯的友誼，共同促成了 「貞觀之治」。他們二人的美名，猶如漢初之蕭何 、曹參；其交誼之深，如同春秋時的管仲與鮑叔牙。他們二人治國有功， 被譽為良相，並稱「房、杜」。杜如晦在朝廷中與唐太宗之間的君臣關係如同魚水情深。杜如晦死時，年僅46歲。唐太宗哭得很傷心 痛感: 「朕與如晦，君臣義重。杜如晦死後，唐太宗廢朝三日，贈司空，追封為萊國公。