杜淹曾舉薦刑部員外郎郅懷道，并道：“懷道在隋朝擔(dān)任吏部主事時(shí)便有清慎之名。當(dāng)時(shí)煬帝下江都，百官都隨聲附和，唯獨(dú)懷道反對(duì)。”唐太宗問(wèn)道：“那你當(dāng)時(shí)的意見呢？”杜淹答道：“我同意去。”太宗道：“對(duì)待君主應(yīng)直言正諫，雖有冒犯也在所不顧。你既然認(rèn)為郅懷道的意見正確，為什么反而不勸諫呢？”杜淹道：“我官職卑微，而且就算進(jìn)諫皇帝也不會(huì)采納，白白送死于事無(wú)補(bǔ)。”太宗道：“如果認(rèn)為君主無(wú)道，為何還是要在他的朝廷做官？既然做官，又怎能不匡正他的過(guò)失？”

　　太宗又笑問(wèn)杜淹：“你在隋朝的時(shí)候，可以因?yàn)槿宋⒀暂p不去進(jìn)諫。那你后來(lái)在王世充的朝廷做官，為什么仍不勸諫？”杜淹道：“我勸諫過(guò)，他不肯采納。”太宗道：“王世充如果修德從善，應(yīng)當(dāng)不會(huì)滅亡；他既然無(wú)道拒諫，你又怎能免禍？”杜淹無(wú)言以對(duì)。

　　太宗再問(wèn)：“你現(xiàn)在是宰相，還能極力勸諫嗎？”杜淹道：“臣一定不會(huì)隱瞞自己的觀點(diǎn)，必極力勸諫。春秋時(shí)期，百里奚在虞國(guó)為官，虞國(guó)滅亡，后在秦國(guó)為官，卻輔佐秦國(guó)稱霸天下。臣一直以百里奚自比。”太宗大笑。

早年經(jīng)歷

　　杜淹年輕時(shí)聰慧明辨，學(xué)識(shí)廣博，頗有美譽(yù)，與同鄉(xiāng)韋福嗣是莫逆之交。他對(duì)韋福嗣道：“皇帝喜歡任用隱士，蘇威便是在隱居是被征辟為美職。”因此一同隱居在太白山，其實(shí)是在沽名釣譽(yù)。隋文帝聽聞，極為憎惡，將二人流放江南。后來(lái)，杜淹返回鄉(xiāng)里，得到雍州司馬高孝基的舉薦，授為承奉郎，累遷至御史中丞。

歸附唐朝

　　武德二年（619年），杜淹成為王世充的太尉府官屬。四月，王世充建立鄭國(guó)，任命杜淹為吏部尚書，對(duì)他非常信任。當(dāng)時(shí)，杜淹因與侄子杜如晦不睦，便在王世充面前進(jìn)讒，致使杜如晦的兄長(zhǎng)杜某（名不詳）被殺。杜如晦的弟弟杜楚客在鄭國(guó)為官，也遭到囚禁。

　　武德四年（621年），秦王李世民平定王世充，杜淹作為鄭國(guó)高官，被定為死罪。杜如晦以德報(bào)怨，向李世民求情，杜淹得以免死。后來(lái)，杜淹因久不升職，欲投靠太子李建成，被封德彝告知房玄齡。房玄齡知道杜淹擅長(zhǎng)陰謀，害怕李建成得到他會(huì)對(duì)李世民不利，便舉薦杜淹為天策府兵曹參軍、文學(xué)館學(xué)士。

　　武德七年（624年），慶州刺史楊文干起兵叛亂，李建成與李世民的矛盾加劇。唐高祖認(rèn)為杜淹未能勸導(dǎo)李世民，致使其兄弟失和，將他和東宮屬官王珪、韋挺一同流放巂州（今四川西昌）。李世民知道杜淹無(wú)罪，只是受到牽累而已，贈(zèng)他黃金三百兩。

擔(dān)任宰相

　　武德九年（626年），李世民繼位，是為唐太宗。杜淹被召回朝中，授為御史大夫，封安吉郡公，食實(shí)封四百戶。唐太宗知道杜淹熟知?dú)v代典制，讓他主持東宮儀式簿領(lǐng)的裁訂工作。

　　貞觀元年（627年），杜淹被任命為吏部尚書，參議朝政，成為宰相。他前后舉薦四十余人，后都成為知名官員。當(dāng)時(shí)，杜淹身兼二職，卻無(wú)清廉之譽(yù)，又和勛臣長(zhǎng)孫無(wú)忌不和，因此受到輿論的非議。

病重去世

　　貞觀二年（628年），杜淹患病，唐太宗親自前去探望，并賞賜絹帛三百匹。同年十月，杜淹病逝，追贈(zèng)尚書右仆射，謚號(hào)為襄。