魏征在之后的一千多年中，都被认为是一个诤臣，他刚正不阿、不惧龙威、敢于犯颜直谏，直指唐太宗的问题，虽然有时也会惹得皇帝不高兴，但好在唐太宗李世民是一代名君，皇后更是一代贤后，李世民更是将之看做一面镜子，时刻检点自己的行为。他对魏征非常看重，将衡山公主下嫁给魏征的儿子魏叔玉为妻。魏征去世之后李世民还准备给魏征风光大葬，却遭到拒绝。葬礼上，悲痛不已的李世民亲自登上皇苑的西楼望着送葬的队伍哭泣，之后又亲自为魏征撰写了碑文并亲手为其写在了墓碑之上。但这样一位受后人敬仰的名臣，却被发现他所谓的刚正不阿、犯颜直谏都是假象。

贞观十七年，魏征推荐的两位大臣一个泄露君言，一个参与谋反，使得李世民开始怀疑魏征的忠心。而恰恰就在这时，一封针对魏征的小报告被秘密的呈现在了李世民的面前，原来，魏征每次在劝谏皇帝前，都会把自己的进谏书先拿给褚遂良看！

而褚遂良当时担任的官职叫做起居郎，专门负责记录李世民的言行起居，这就意味着魏征每次在进谏书上列举的李世民的众多缺点都会被一一写入史书，而历史上则留下了魏征敢于直谏的美名。看到这篇小报告，李世民愤怒不已，立即下令终止了衡山公主和魏征的儿子魏叔玉的婚约，并命人推倒了自己亲手为魏征书写的墓碑：“乃罢叔玉尚主，而踣所撰碑。”

但好在李世民在经历东征高句丽挫败后，回想起魏征的种种好，不禁感慨道：“魏征若在，不是我有是行也！”随后又命人重新树立起了两年前被推倒的魏征墓碑，并让人重新篆刻上了自己为魏征书写的墓志铭。只要是皇帝，多多少少都是有猜忌心的，尽管是明君李世民也不例外，不过后世依然留下了魏征千古第一诤臣的美名并流传至今，以至于魏征身后被李世民怀疑结党营私甚至于沽名钓誉的事情逐渐被人们所忽略甚至遗忘。