由於魏徵能夠犯顏直諫,即使太宗在大怒之際,他也敢面折廷爭,從不退讓,所以,唐太宗有時對他也會產生敬畏之心。有一次,唐太宗想要去秦嶺山中打獵取樂,行裝都已準備停當,但卻遲遲未能成行。後來,魏徵問及此事,太宗笑著答道:「當初確有這個想法,但害怕你又要直言進諫,所以很快又打消了這個念頭。」還有一次太宗得到了一隻上好的鷂鷹,把牠放在自己的肩膀上,很是得意。但當他看見魏徵遠遠地向他走來時,便趕緊把鳥藏在懷中。魏徵故意奏事很久,致使鷂子悶死在懷中。
貞觀六年,群臣都請求太宗去泰山封禪。藉以炫耀功德和國家富強,只有魏徵表示反對。唐太宗覺得奇怪,便向魏徵問道:「你不主張進行封禪,是不是認為我的功勞不高、德行不尊、中國未安、四夷末服、年穀未豐、祥瑞末至嗎?」魏徵回答說:「陛下雖有以上六德,但自從隋末天下大亂以來,直到現在,戶口並未恢復,倉庫尚為空虛,而車駕東巡,千騎萬乘,耗費巨大,沿途百姓承受不了。況且陛下封禪,必然萬國咸集,遠夷君長也要扈從。而如今中原一帶,人煙稀少,灌木叢生,萬國使者和遠夷君長看到中國如此虛弱,豈不產生輕視之心?如果賞賜不周,就不會滿足這些遠人的欲望;免除賦役,也遠遠不能報償百姓的破費。如此僅圖虛名而受實害的事,陛下為甚麼要幹呢?」不久,正逢中原數州暴發了洪水,封禪之事從此停止。
貞觀七年(633),魏徵代王珪為侍中。同年底,中牟縣丞皇甫德參向太宗上書說:「修建洛陽宮,勞弊百姓;收取地租,數量太多;婦女喜梳高髻,宮中所化。」太宗接書大怒,對宰相們說:「德參想讓國家不役一人,不收地租,富人無髮,才符合他的心意。」想治皇甫德參誹謗之罪。魏徵諫道:「自古上書不偏激,不能觸動人主之心。所謂狂夫之言,聖人擇善而從。請陛下想想這個道理。」最後還強調說:「陛下最近不愛聽直言,雖勉強包涵,已不像從前那樣豁達自然。」唐太宗覺得魏徵說得入情入理,便轉怒為喜,不但沒有對皇甫德參治罪,還把他提陞為監察御史。
貞觀十年(636),魏徵奉命主持編寫的《隋書》、《周書》、《梁書》、《陝書》、《齊書》(時稱五代史)等,歷時七年,至此完稿。其中《隋書》的序論、《梁書》、《陳書》和《齊書》的總論都是魏徵所撰,時稱良史。同年六月,魏徵因患眼疾,請求解除侍中之職。唐太宗雖將其任為特進這一散職,但仍讓其主管門下省事務,其俸祿、賞賜等一切待遇都與侍中完全相同。
貞觀十二年(638),魏徵看到唐太宗逐漸怠惰,懶於政事,追求奢靡,便奏上著名的《十漸不克終疏》,列舉了唐太宗執政初到當前為政態度的十個變化。他還向太宗上了「十思」,即「見可欲則思知足,將興繕則思知止,處高危則思謙降,臨滿盈則思挹損,遇逸樂則思撙節,在宴安則思後患,防擁蔽則思延納,疾讒邪則思正己,行爵賞則思因喜而僭,施刑罰則思因怒而濫」。
貞觀十六年(642),魏徵染病臥床,唐太宗所遣探視的中使道路相望。魏徵一生節儉,家無正寢,唐太宗立即下令把為自己修建小殿的材料,全部為魏徵營構大屋。不久,魏徵病逝家中。太宗親臨弔唁,痛哭失聲,並說:「夫以銅為鏡,可以正衣冠;以古為鏡,可以知興替;以人為鏡,可以知得失。我常保此三鏡,以防己過。今魏徵殂逝,遂亡一鏡矣。」