房喬字玄齡，齊州臨淄縣人。曾祖父房翼，曾任后魏的鎮遠將軍、宋安郡守，世襲壯武伯爵位。祖父房熊，字子，初仕任褐州主簿。父親房彥謙，愛做學問，廣泛涉獵儒家經典，曾任隋朝的涇陽令，《隋書》里有《房彥謙傳》。
房玄齡小時候聰慧敏捷，博覽群書，擅長草書、隸書，會寫文章。曾經跟隨父親到京城，當時天下太平，輿論都認為國運會很久長，房玄齡卻私下里對父親說：“隋帝本來沒有功業德行，只是欺騙迷惑百姓，不替后代做長遠打算，混淆了嫡庶子的親疏尊卑關系，致使互相傾軋爭奪，太子王侯，比賽著縱欲享樂，最后必然自相殘殺，不能保全帝位國家。眼下雖然太平，它的滅亡可以翹首..足來等到。”房彥謙聽了又驚恐又詫異。十八歲時，州里推選他為進士出身，朝廷授予他羽騎尉職務。吏部侍郎高孝基一向自稱善于識別人的智愚善惡，見到房玄齡后大加贊賞，對裴矩說：“我看到的人已經夠多了，還沒有見過像這個年輕人的。一定能成大器，只是遺憾不能親眼看到他直立山谷高入云霄啊。”父親重病持續一百天，房玄齡伺候喝藥吃飯，不曾脫過衣服打過盹。父親去世，五天之久滴水未沾。后來擔任隰城縣尉。
適逢義軍進入關中，太宗到渭北攻占土地，房玄齡驅馬奔赴軍營門前請求見太宗，溫彥博又向太宗推薦。太宗一見，便如同老相識，安排他任渭北道行軍記室參軍。房玄齡遇到了太宗這位知己，便盡心盡力，出謀獻策。每當平定叛軍，人們爭先恐后尋求珍寶文物，房玄齡單單急著接納人才，安排到幕府供職。遇到胸懷韜略的文臣、英勇善戰的武將，都私下跟他再三結交，他們各自為唐朝出盡了最大力量。
天下平定后，隱太子李建成見太宗李世民功德最高，產生了猜忌。太宗有一次到隱太子那里，吃了東西，發現中毒回到自己府中，全府震驚，又無法處理這個問題。房玄齡因此對長孫無忌說“：如今仇怨已經結成，禍患一觸即發，社會上論辯爭吵紛擾不安，有人心懷叛變意圖。事變一旦發生，大亂必然興起，這不只殃及秦王府，只怕恰恰會顛覆國家政權。面臨這種局勢，怎能不深謀遠慮呀！我有一個主意，不如仿效魯周公姬旦誅殺、流放叛亂的管叔、蔡叔來輔佐成王姬誦的做法，對外使得天下太平，對內使得朝廷安定，以禮儀孝敬侍奉太上皇帝。古人說過‘，為了國家大事不能顧及個人小節’，說的就是這吧。喪失國家政權和犧牲個人生命名聲，哪種損失重大？”長孫無忌說“：早有這個想法，沒敢說出來，你的話，完全符合我的心意。”長孫無忌就到秦王府把這事告訴了太宗。太宗召來房玄齡說：“我們正面臨危險，跡象已經露出來了，怎么辦？”房玄齡回答說：“國家政權受到威脅，現在和古代有何不同。假如不是圣明的國君，就不能使國家安定。您的功德高于天大于地，應當君臨天下，這是上天的幫助，不是靠人強求的。”因此跟秦王府屬吏杜如晦同心合力輔佐太宗。仍舊跟隨秦王改任秦王府記室，封為臨淄侯，又以原來的職位兼任陜東道大行臺考功郎中，擔任文學館學士。房玄齡在秦王府十多年，經常主持文書方面的工作，每當起草軍事文書、章奏表駁，馬一停下就寫成了，文詞簡練事理周詳，完全不打草稿。高祖曾對侍臣說：“這人處理事情很懂分寸，完全能夠委以重任。每當為世民陳述事理，一定符合我的心意，相距一千多里，如同當面講話一樣。”隱太子認為房玄齡、杜如晦是太宗親近看重的人，很憎惡他們，在高祖面前誣陷他們，因此他們都被高祖趕出了秦王府。
隱太子即將發動事變時，太宗命令長孫無忌召呼房玄齡和杜如晦，叫他們道士打扮，秘密來到閣中商議對策。到太宗立為皇太子時，房玄齡被提拔為太子右庶子，賞賜給他五千匹絹。太宗登上帝位的貞觀元年(627)，房玄齡接替蕭王禹任中書令。論功勞大小進行獎賞，數房玄齡以及長孫無忌、杜如晦、尉遲敬德、侯君集五個人為第一等，晉升房玄齡以邢國公的封號，賜予他收納一千三百戶租稅的實封。太宗當下對各有功之臣說“：我將各位的功勞排了等級次序，以此確定爵位官階，恐怕不能全都妥當，各位都可以說說看法。”皇叔淮安王李神通上前說“：義旗剛一舉起，我就最先率領部隊響應。如今房玄齡、杜如晦等舞文弄墨的文官功勞定為頭等，我不信服。”太宗說“：義旗剛舉那會，人人都有起義的心愿。叔父雖然率領部隊來了，但還不曾親自行軍打仗；山東尚未平定之時，你受托出兵討伐竇建德，竇建德向南侵犯，你全軍覆沒。到劉黑闥東山再起，叔父你望風而逃。現在論功行賞，房玄齡等人運籌帷幄，立下了定社稷立國家的大功，比如漢朝的蕭何，雖無戰功，但是指揮謀劃幫助漢家成就帝業，因此功勞居于首位。叔父是我血緣最近的親人，實在不是我對你吝嗇，而是一定不能假公濟私，不顧實際地讓你得到跟功臣們同等的賞賜啊。”開始，將軍丘師利等人全都自夸功勞，有的捋袖露臂自吹自擂，指天劃地賭咒發誓，后來看見李神通被太宗批評得理屈辭窮，便私下議論：“皇上以最公平的原則實行獎賞，不偏愛自己的親屬，我們這些人怎能亂說？”
貞觀三年(629)，授予房玄齡太子少師官銜，他堅決推辭，只任代理太子詹事，兼任禮部尚書。第二年，接替長孫無忌任尚書左仆射，改封爵號魏國公，主持編撰本朝歷史。負責統管朝廷各部門政務以后，他忠于職守從不懈怠，盡心竭力，不愿出現一點失誤。聽到別人的優點長處，就像是自己有那優點長處一樣高興。他熟悉百官的情況，多講優點來鼓勵他們，研究制訂法律條例，立意是寬容公正。取用人才不求全責備，不用自己的長處苛求別人，按照才干安排職務，出身低微也無妨礙。公眾輿論贊揚他是賢相。他有時出了差錯被皇上批評，就一連幾天在理事的朝堂里叩頭請罪，惶恐不安，好像無地自容。貞觀九年(635)，因維護高祖的陵墓制度有功，加賜開府儀同三司名號。貞觀十一年(637)，跟司空長孫無忌等十四人一起被封為世襲刺史，按照這個身份任宋州刺史，改封爵號梁國公，實際上終究沒有實行。
貞觀十三年(639)，提升為太子少師，房玄齡多次呈表請求免去尚書左仆射職務，太宗批復說：“選賢任能的關鍵，應以不存私心為根本；事奉國君的原則，應以當仁不讓為美德。各個時代都靠這弘揚教化，所有賢良都靠這協調關系。你忠誠謙恭，正直厚道。天下混亂之時幫我謀劃建立功業，玄武門事變之前幫我掃平登極道路。你為朝臣們樹立了楷模，按法度處理政務；輔佐太子，聲望成就都如此顯著。可現在忘掉了根本原則，拘泥于瑣細規矩，雖然接受了太子少師的職務，卻推辭襄理政務的重任，難道這就是所說的輔佐我一人共同安天下嗎？”房玄齡于是在擔任尚書左仆射的同時兼任太子少師。這時皇太子李治就要舉行拜師儀式，備辦了禮物等著他，房玄齡迫切地希望降低自己的權位，又不敢上表陳述，就自動回家去了。有識之士沒有誰不尊重他的辭讓精神。房玄齡自從官居中書令、尚書左仆射十五年時間，女兒嫁給了太宗的兒子韓王李元嘉為妃，兒子房遺愛娶太宗的女兒高陽公主為妻，實在顯貴到了極點，多次呈表辭職，太宗老是勸阻。貞觀十六年(642)，又和高士廉等人合作編寫成《文思博要》一書，賞賜非常豐厚。他被提升為司空，仍然統管朝廷政務，主持編撰本朝歷史。房玄齡呈表直言請求辭職，太宗派遣使者對他說：“西漢張良辭讓官職，東漢竇融謝絕榮譽，自己警惕‘水盈則溢，月滿則虧’的規律，能夠知難而進、激流勇退，善于見好就收、知足常樂，前人傳為美談。您也仿效前賢先哲，實在應該贊美。不過朝廷多年重用您，一旦突然沒有了您這樣的賢相，就像失去了兩條臂膀。您如果身體還好，就別再這樣辭讓了。”房玄齡只得作罷。
貞觀十七年(643)，房玄齡與司徒長孫無忌等人繪了肖像陳列在為表彰功臣而建造的凌煙閣，為他寫的贊詞說：“才兼藻翰，思入機神。當官勵節，奉上忘身(才學兼擅文章書法，韜略至于出神入化。擔任官職謹守節操，事奉國君忘掉自家)。”高宗李治當時是東宮太子，房玄齡兼任太子太傅，仍然執掌門下省的政務，繼續主持編撰本朝歷史。不久由于完成了《高祖、太宗實錄》的撰寫任務，朝廷頒發玉璽封記的文書嘉獎，賞賜絲綢一千五百段。那年，房玄齡因繼母去世離職回家守孝，太宗特地命令用昭陵墓地安葬他的繼母。沒過多久，又召回他官復原職。太宗御駕親征遼東，命令房玄齡留守京城，寫下手諭說：“您擔當如同漢王劉邦的丞相蕭何留守關中一樣的重任，我就沒有后顧之憂了。”戰車裝備，軍隊糧餉，都委托他安排發送。房玄齡多次對太宗說不能輕敵，要特別警惕小心。不久與中書侍郎褚遂良接受詔令重新編寫《晉書》，于是奏明太宗調來太子左庶子許敬宗、中書舍人來濟、著作郎陸元仕和劉子翼、前雍州刺史令狐德盞、太子舍人李義府和薛元超、起居郎上官儀等八人，分擔收集記錄工作，以臧榮緒主編的《晉書》為藍本，參考其他各種版本，很是詳盡嚴密。然而修史官員大多是善于作文吟詩的文人，喜愛收集奇異怪誕的瑣事，以擴大宣揚新奇的人物事件；寫的評論文字，一味追求華麗，不講忠于事實，因此遭到有學識的人的批評。只有李淳風很懂天文歷法，善于寫作，他寫的《天文志》、《律歷志》、《五行志》，最值得一讀。太宗親自撰寫了《宣帝論》、《武帝論》以及《陸機論》、《王羲之論》，因此全書署為“御撰”。到貞觀二十年(646)，全書編寫成功，共一百三十卷，詔令藏到宮廷收藏珍稀書籍的秘府，按照等級給編撰人員賞賜獎品提升官職。
房玄齡因犯小過失回家閑居，黃門侍郎褚遂良呈遞奏疏說：“國君是腦袋，臣子就是四肢，龍一騰躍云就興起，不用呼喚就會聚集，如果時機一到，那真是千載難逢不可錯過。陛下昔日當百姓時，心懷拯救黎民于水深火熱的志向，手提鋒利的寶劍，興起仁義之師。平定各處暴亂，都是您的神功，文事方面的工作，多靠臣屬輔佐。臣屬中竭盡心力的，房玄齡首屈一指。歷史上的姜太公扶助武王姬發滅商建周，伊尹輔佐商湯滅夏建商，蕭何留守關中幫助漢王劉邦滅楚興漢，王導扶持司馬睿統一江南建立東晉，同這些人比，房玄齡是配得上的。再說高祖武德初年他投奔義軍事奉陛下，忠誠勤勉謙恭孝敬，大家都崇敬他。前東宮太子李建成、海陵郡王李元吉，依靠惡人制造禍亂，陷害謀殺陛下，秦王府人人惶惶不安，處于累卵、倒懸似的危急時刻，生死存亡系于一旦，房玄齡的耿耿忠心，始終不曾改變。到了武德九年(626)六月，危機出現，情勢緊迫，您本人被逐出宮廷，沒了主張，他還道士打扮，跟長孫皇后一起暗中幫助，在堅守臣子節操方面，本來沒有辜負陛下。自從陛下登上帝位，萬物更新，他選拔官吏事奉您，公眾輿論很推崇他，雖然他功勛無可比擬，但忠君之心一如既往。如果他不是犯下不可饒恕的罪過，非同縉紳大夫一樣治罪不可，那么就不應當由于一次冒犯、一種過失，就輕易地予以拋棄。陛下一定要憐憫他上了年紀，把他的過失看馬虎一點兒，古代有過國君委婉勸說大臣辭官回家的事，您自然可以在事后仿效前人的樣子，使用客氣的方法讓他離去，不使他損失美名。如果讓幾十年的老功臣，由于一次過失就被驅逐，外邊的人會議論紛紛，我認為不大妥當。國君尊重大臣就會人人竭力盡忠，輕易地罷免貶謫就會人心不定。我如此平庸淺薄，有愧于在您身邊伺候，現在冒犯您的威嚴，申述以上一孔之見。”
貞觀二十一年(647)，太宗在終南山翠微宮休養，任命司農卿李緯為民部尚書。房玄齡這時留守長安，有個官員從長安來到翠微宮，太宗問他：“房玄齡知道李緯擔任民部尚書后有何看法？”那官員回答：“房玄齡只是說李緯的胡須漂亮，再沒說別的。”太宗很快調任李緯為洛州刺史，當時太宗把他的話簡直當了行為準則。
貞觀二十二年(648)，太宗在玉華宮休養，當時房玄齡老病發作，太宗下詔讓他帶病統管留守長安的事。后來病情逐漸沉重，房玄齡趕到玉華宮，坐著擔輿讓人抬進宮殿，快到太宗座位跟前才下來。太宗一見就對著他流淚，房玄齡也感動得聲音哽咽無法承受。太宗下令派遣名醫搶救，負責太宗伙食的官員每天送御膳給他。如果病情略有好轉，太宗就喜形于色；如果聽說病情加重，就面帶傷感。房玄齡于是對兒子們說“：我想我是病得快要死了，皇上對我的恩惠卻越來越重，如果虧負了皇上，那么死了也還有責任。如今天下清靜安寧，各方面的事都處理得妥妥當當，惟獨不停地東征高麗，才是國家的憂患。皇上心懷憤怒態度堅決，朝臣們沒有誰敢冒犯威嚴進行勸諫；我明白這種情況而不說，就會帶著遺憾死去。”于是呈表直言勸諫說：
“我聽說用兵打仗忌諱的是沒有止息，崇尚的是爭取和平。如今大唐的教化，沒有哪個邊遠地區沒有達到，自古以來不愿臣服的，陛下都能使他們臣服，不愿接受控制的，都能使他們接受控制。仔細觀察歷史和現狀，給國家造成禍患災難的，沒有比突厥等西北民族更厲害的。陛下也能靜坐宮廷籌劃英明的策略，不必親出宮殿，而突厥等族大大小小的首領可汗，一個個歸順朝廷，分擔守衛任務，參與宮廷警衛執勤工作。此后延陀部族猖狂囂張，不久就被蕩平，鐵勒部族仰慕正道，請求設置行政機構予以治理，整個西北地區，一派清靜安寧。后來像高昌國在西州暴亂，吐谷渾國在積石關反叛，派出一支部隊征討，就都歸順平定了。高麗祖祖輩輩逃避懲罰，沒有誰能討伐他。陛下對他叛亂造反殺死國君、侵害百姓要給予處罰，親自統領軍隊，到遼東、碣石征討。還不到一個月時間，就攻克遼東，前前后后，俘虜他的人馬達幾十萬，分給各個州郡，沒有哪個地方沒有滿員。昭雪了歷代的舊恥，安葬了歷代陣亡將士的骸骨，論功業德行，超過歷代國君千萬倍。這些都是陛下清楚的，我怎能說得周全啊。
“再說陛下恩澤遍布大地，孝德可比高天。分析周邊侵我部族的衰亡，則能斷定具體時日；給出征將領部署戰略戰術，則能決斷萬里之外的戰機。彎彎手指，看看日影，就能斷定郵遞人員什么時間送來什么內容的文書消息，應驗如同神仙，謀劃無一差失。您從士卒中提拔將領，從百姓中挑選吏屬。邊遠地區的外族使者，見一面就不會忘記；下級小官的姓名，問過一次就記住了。一箭能射穿七層鎧甲葉片，拉開硬弓足有一百八十斤力量。更是傾心于古代經典，喜愛吟誦詩篇，書法超過東漢張芝、三國鐘繇的造詣，文章深得西漢司馬遷、東漢班固的神韻。文思奮發，如同音樂優美和諧；翰筆揮舞，如同百花競相怒放。以仁慈撫慰百姓，以禮儀對待群臣。對微小的善行都要褒獎，對重大的罪錯也能寬容。難聽的勸諫您總是采納，不實的報告您一概杜絕。您有愛惜生靈的美德，要把江湖上的捕撈設施燒掉；您有厭惡殺傷的仁慈，要使屠案上的宰殺工具停下。野鳥得到了飼養的恩惠，家畜得到了保護的愛心。您走下車來吸吮突厥可汗思摩的傷口，登上靈堂悼念魏征的亡魂。痛哭陣亡的士卒，哀傷震憾全軍將士；背負墊路的柴草，精誠感動高天大地。對百姓的生命尤其看重，處理各種訴訟案件特別盡心。我記憶模糊，怎配敘述皇上深遠的功業，議論皇上崇高的德行啊！陛下集多種美德于一身，無不一應齊備，小臣我由衷地為陛下仰慕這些，尊重這些，維護這些，珍惜這些。
“《周易》里說：‘知道進卻不知道退，知道存卻不知道亡，知道得卻不知道失。’又說‘：明了進退存亡得失的內在關系，能夠恰當處理的，只有圣人吧！’從這些話看來，進里頭就包含著退的意義，存里頭就包含著亡的原由，得里頭就包含著失的道理，我為陛下珍惜美德的原因，正在于此。老子(李耳)說‘：知足常樂就不覺屈辱，見好就收則不擔風險。’說到陛下的權威聲望功業德行，也可以滿足了；拓展領土開擴邊疆，也可以停止了。高麗是邊境上的落后民族，不必以仁義對待，不能以常禮要求。自古就把他們當作魚鱉一樣容留下來，對他們應當寬松。如果一定要滅絕他們，恐怕逼得無路可走就會拼命。再說陛下每判一個死刑罪犯，一定要三番五次地核查匯報，吃素餐、停歌舞的原因，都是由于人命關天，觸動了您的仁慈心腸。何況那些普通士卒，沒有一個犯罪的人，無緣無故把他們趕到戰場上，放在刀尖下，使他們肝腦涂地，成為孤魂野鬼，讓他們的老父孤兒寡妻慈母望著戰車掩面哭泣，抱著枯骨極度傷心，足以使得陰陽顛倒，精氣感傷，實在是天下百姓的委屈痛苦。再說武器是殺人的工具，戰爭是殺人的災禍，實在沒有辦法才用兵打仗。假使高麗違背人臣的操守，陛下懲罰他們是可以的；侵擾我們的百姓，陛下消滅他們是可以的；日后會成為國內的禍患，陛下除掉他們是可以的。這三條中如有一條，即使每天殺一萬人，也不必愧疚。現在沒有這三條，無故煩擾國內百姓，對內要替前代國君雪恥，對外要為新羅國報仇，難道不是得不償失？
“請陛下遵循皇家遠祖老子(李耳)‘知足不辱，知止不殆’的告誡，保護千秋萬代的崇高聲望。發布豐隆的恩澤，頒下寬容的詔令，順應清明盛世施予恩德，允許高麗自己改過更新，燒掉渡海的戰船，遣返應征的兵眾，當然是華夏高麗幸福有望，邊境肅敬，內地平安。我是個年老病重身處高位的朝臣，說不定今晚明晨就會死去，遺憾的是終究沒有一粒塵土、一滴露水為高山大海幫點小忙。趁我斷氣前夕說出全部心里話，預先代為表達結草報答陛下大恩的誠意。如果承蒙采納，就是我死了也算活著。”
太宗看了表章，對房玄齡的兒媳也就是自己的女兒高陽公主說“：這人病危到如此程度，還能憂慮國家大事。”
后來房玄齡病情惡化，于是鑿穿院墻開了便門，太宗不斷派遣中使探望。太宗還親臨病榻，握住房玄齡的手訴說別情，悲痛得承受不了。皇太子也到房玄齡的床前跟他訣別。當面任命他的兒子房遺愛為右衛中郎將，房遺直為中散大夫，讓他親眼看到兒子們官高名顯。不久房玄齡逝世，終年七十。太宗停止臣子朝見以悼念三天時間，下詔令追認房玄齡為太尉、并州都督，謚號叫文昭，賜予棺木，把他安葬在太宗為自己預先營造的昭陵墓地。房玄齡曾經就驕橫奢侈積習不改的問題訓誡過兒子們，一定不能用地位名望欺壓別人，因此輯錄古今圣賢告誡家人的話，書寫在屏風上，分給他們一人一套，說：“如果能把這些放在心上，就可以保全自己、樹立名聲。”又說“：袁家忠誠有氣節，這是我所尊崇的，你們應該學習。”高宗繼承帝位，詔令在太宗的廟堂里設置房玄齡的靈位享受祭祀。
兒子房遺直繼承房玄齡的爵位，高宗永徽初年任禮部尚書、汴州刺史。次子房遺愛娶太宗的女兒高陽公主為妻，授予駙馬都尉的頭銜，官職做到太府卿、散騎常侍。當初，高陽公主特別受到太宗寵愛，因此房遺愛也受到特殊優待，跟各駙馬的待遇規格完全不同。高陽公主驕橫放縱，企圖廢除房遺直以便奪取他的爵位，永徽年間誣告房遺直對她有無禮行為。高宗命令長孫無忌審理這件事情，從而獲得高陽公主和房遺愛圖謀造反的情況。房遺愛被處死刑，高陽公主詔令自殺，各個兒子都流放到嶺南。房遺直由于父親的功勛免于治罪，免去爵位官職成為普通百姓。房玄齡的靈位也從太宗的廟堂里撤去了。
杜淹是杜如晦的同高祖叔父，字執禮。祖父名業，北周時官至豫州刺史。父親名征，北周時官至河內太守。杜淹聰慧，能言善辯，多才多藝。他年紀輕輕時就廣泛受到贊揚，跟同郡的韋福嗣結為知心朋友，一起商議說：“皇上喜歡任用隱退的人，蘇威就因為是隱士被召見，提拔成為高官。”于是一起進了太白山，宣揚自己隱居，實際上是想求得人們的傳頌。隋文帝楊堅聽說之后討厭他們，遣送到江南擔任守衛。后來回到老家，雍州司馬高孝基向朝廷呈遞奏表推薦他，他被任命為承奉郎。隋煬帝大業末年，官職做到御史中丞。王世充僭越稱帝時，把他安排在吏部，很受重用。太宗平定洛陽后，他開始沒被任用，就準備投靠隱太子李建成。當時封德彝負責選才任職工作，把這事告訴房玄齡，擔心李建成得到杜淹，助長了他的陰謀，于是急忙稟告太宗，把他聘任為天策府兵曹參軍、文學館學士。高祖武德八年(625)，慶州總管楊文干叛亂，供詞牽連到太子李建成的東宮，罪責追究到杜淹和王王圭、韋挺等人身上，一起流放到西南邊境的雋州。太宗知道杜淹沒有罪責，贈送三百兩黃金給他。太宗后來登上帝位，召他回京擔任御史大夫，封為安吉郡公，賜給收納四百戶租稅的實封。因為杜淹熟悉歷代典章制度，特地詔令東宮儀式簿領，一概聽取杜淹的節制調度。接著讓他兼任吏部尚書，參與商議朝廷政務，先后上表推薦四十多人，后來知名的很多。
杜淹曾經推薦刑部員外郎邸懷道，太宗乘機問杜淹“：邸懷道的才干品行怎么樣？”杜淹回答說“：邸懷道在隋朝任吏部主事，很有廉潔謹慎的名聲。再如煬帝準備到江都去時，召集百官征求去不去的意見。當時煬帝已拿定主意要去，朝中的大官們都阿諛逢迎請求他離京前往，邸懷道的官職極為低微，只他一個人說不行。這事是我親眼所見。”太宗問：“你那時同意哪種意見？”回答說：“我同意去。”太宗說：“侍奉君主的原則，即使冒犯了圣旨也不要隱瞞自己的真實觀點。你說邸懷道的意見正確，為什么你自己不發表正確的意見進行勸諫？”回答說“：我那時不是大臣，又明白勸也沒用，白白送死于事無補。”太宗說“：孔子講順從父母的命令，還不算孝子。所以父母應該有能勸諫自己的兒子，國家應該有能勸諫君主的臣子。如果認為君主無道，為何還是要在他的朝廷當官？既然拿了他的俸祿，怎能不糾正他的錯誤？”接著對臣子們說“：諸位就勸諫君主的問題談談想法怎么樣？”王王圭說：“昔日比干勸諫商紂王而被殺死，孔子贊揚他仁；春秋時的陳國大夫泄冶因勸諫而遭殺害，孔子說‘：民眾之中邪僻的多，不要去扶持邪僻的人來危害自己。’這就是說俸祿多的官員責任重，按理必須盡力勸諫；職位低的官員聲望小，應該允許隨和一些。”太宗又喊著杜淹的名字笑笑說“：你在隋朝的時候，可以因為人微言輕不多說話；后來當了王世充的親近官員，怎么不盡力勸諫？”杜淹回答說：“也勸諫過，但是他不聽。”太宗說“：王世充假如修養德性聽從勸諫，應當不會滅亡；既然他無道又拒絕勸諫，你怎么避免災禍？”杜淹無話可答。太宗又問：“你在今天，可以盡職盡責，還打算極力勸諫嗎？”回答說：“我在今天，一定以死忠諫不隱瞞觀點。再說春秋時的百里奚在虞國當官虞國滅亡了，到秦國當官秦國稱霸天下，我向他看齊。”太宗笑了。當時杜淹身兼兩職，卻沒有清正廉潔的聲譽，又一向跟長孫無忌不融洽，遭到人們的譏諷。后來生病，太宗親自到他家里慰問，賞賜絹帛三百匹。貞觀二年(628)去世，追認為尚書右仆射，謚號為襄。
兒子杜敬同繼承爵號，官職做到鴻臚少卿。杜敬同的兒子杜從則，中宗李顯在位時任蒲州刺史。