贞观十七年正月，一代诤臣魏征重病难愈，眼看就要撒手人寰。唐太宗得知这个情况后，当即派遣使者到魏府慰问病情，并赐予良药，由于关心则乱，派去的使者过多，以致于占满了魏府前的过道。同时命中郎将李安俨侍奉魏征左右，如有魏征病情的最新消息，立马禀报。除此之外，李世民还赏下朴素的布帛、被褥等，以显魏征崇尚简朴。做完这些，唐太宗还是不放心，于是先后两次到魏家探视病情。
特别是在魏征病故前一天的二次探望时，唐太宗带领太子、公主一同来到魏征的病榻前，更是当场指婚，许诺将衡山公主嫁给魏征的儿子叔玉，希望借此来冲喜，让魏征的病好转。唐太宗站在床前，指着衡山公主对魏征说：“你这个做公公的，总得多看看你的儿媳妇吧”。要知道衡山公主可不是一般的公主，她是长孙皇后的幼女，既是嫡女又是幼女，自然很受唐太宗与长孙皇后的宠爱。一代帝王为了保住当朝大臣的性命，竟不惜用自己的嫡女与魏征联姻，可见唐太宗对魏征的重视。魏征当时激动万分，他卧床不起，不能谢恩，但在病床上不停落泪，场面一度令人动容。
只可惜，民间的冲喜也无法挽回魏征的生命，当上公公没多久，魏征就因重病不治去世了。噩耗传来，唐太宗悲痛万分，当即罢朝五日，下令让九品以上官员全部前来赴丧，同时追赠魏征司空、相州都督，谥文贞。本来唐太宗是要求对魏征风光大葬的，但魏征的妻子认为魏征一生崇尚简朴，如果得知自己的葬礼太过风光，恐怕不是他所希望的。或许是魏征生前直谏太狠，唐太宗对他妻子的话深以为然，于是用素车运送魏征灵柩。在灵柩下葬后，唐太宗久久不能平息，为寄托自己的对魏征的哀思，他时常登凌烟阁看望魏征的画像，更是亲自撰写碑文，要知道唐太宗一生只为两个人写过碑文，一人是皇后长孙氏，另一个就是魏征了。
但令人意想不到的是，在魏征死后不过数月，帝王对他的哀思就变成了厌恶。由于魏征在生前曾举荐杜正伦与侯君集为宰相，这本是人臣本分，毕竟这两个人都有为相之才。但杜正伦因为过失而遭罢官，侯君集又因为与太子李承乾谋划叛乱而被诛杀。更在这个时候，有人在唐太宗面前说魏征结党营私，唐太宗虽暂时置之未理，但已经龙颜不悦。过了不久，又有人说魏征竟然让史官褚遂良看过自己的谏诤文章，要知道唐太宗一生污点不多，最大的一个就是玄武门之变这一事件，因此他对国史的修编十分看重，特别是登基称帝前的这一段必须亲自过目，魏征的这一点无疑触犯了唐太宗的底线。
在这样的事实面前，唐太宗龙颜大怒，先是废除了横山公主与魏征儿子魏叔玉的婚事，随即又下令扑倒了自己亲手书写的魏征碑文，终结了自己与一代诤臣魏征之间为后人所神往的一段君臣佳话。
事实上，有人猜测唐太宗生前其实就很不喜魏征直谏的做派，只不过为了树立自己君王包容仁义，兼听则明的形象，不得不忍着杀人的心做着事与愿违的事。试想一朝做了君王不得一刻任性妄为，臣子为了自己死后高大的形象不惜以直谏这样的做派留名青史，换做任何一个帝王都会无法忍受，因此唐太宗在魏征死后的形象大转变，不过只是找了一个借口来教训一下魏征罢了。
