因病去世。
贞观十七年（643年），六十四岁的魏徵病重，将不久于人世。李世民闻讯后，亲自到魏徵家中探视，屏退左右侍从，与他交谈良久，方才回宫。后来，他带着太子李承乾和嫡女衡山公主（即新城公主）再次到魏徵家中。魏徵强撑病体，穿戴朝服，拖着带子。
李世民见状，悲从中来，一边抚摸着魏征一边流泪，问他有什么想说的，魏征说：“寡妇不愁织布的纬线少，而忧虑宗周的危亡（嫠不恤纬，而忧宗周之亡）。”李世民将衡山公主许配给魏徵的长子魏叔玉，指着衡山公主对他说：“魏公，睁开眼睛看看你的儿媳！”
但魏徵已经身体衰弱到无法起身谢恩了。数日后，李世民忽然在夜里梦见魏徵，如同平日里一样，到次日清晨，他就得到魏徵逝世的消息。
史书编撰
魏徵出任秘书监之职，主管国家藏书之事。上书言丧乱之后，典章纷杂。奏引学者校定四部图书。李世民令他领写四部群书。置雠校者20人，书手100人，校写秘阁图籍。数年之间，秘府图籍，灿然具备。他改职之后，与虞世南、颜师古等硕学名儒续任秘书监之职。
主撰《隋书》，其《经籍志》虽出于于之宁、李淳风等众人之手，但总领其书。
《隋书·经籍志》参考了阮孝绪《七录》体例，以《汉书·艺文志》之法，利用隋代遗书14466余部，89666余卷，与《隋大业正御书目录》核对，按经、史、子、集四部，下分40类，著录存书3127部，36708卷，佚书1064部，12759卷。对考南北朝、隋代的藏书有帮助。
在著录方法上，每类下录书名、卷数、作者、时代、官衔、内容提要、真伪、存亡或残缺。以究学术之发展、考流别之变迁。为我国现存最古的第二部史志目录，是研究古代书目史的重要文献。他在《隋书经籍志·总序》中，对古代藏书的兴亡更替作了历史的总结，丰富了藏书史研究的内容。
贞观十七年（643年）魏徵病死，李世民非常伤心，并为此废朝五天。追赠魏徵为司空、相州都督，谥“文贞”。同年二月，李世民命阎立本画二十四功臣像置入凌烟阁，魏徵位列第三。
魏徵死后，李世民经常对身边的侍臣说：“用铜镜可以端正自己的衣冠，以古史作为镜子，可以知晓兴衰更替，以人作为镜子，可以看清得失。我经常用这样的方式防止自己犯错，但现在魏徵去世，我少了一面镜子。
魏征主要成就：
政治
魏徵以直言敢谏而闻名，据《贞观政要》记载统计，魏徵向李世民面陈谏议有五十次，呈送给李世民的奏疏十一件，一生的谏诤多达“数十余万言”。其次数之多，言辞之激切，态度之坚定，都是其他大臣所难以伦比的。
文史
魏徵出任秘书监之职，主管国家藏书之事。上书言丧乱之后，典章纷杂。奏引学者校定四部图书。李世民令他领写四部群书。置雠校者20人，书手100人，校写秘阁图籍。数年之间，秘府图籍，灿然具备。他改职之后，与虞世南、颜师古等硕学名儒续任秘书监之职。
