散会后，王国维与诸位同学一一道别，之后随陈寅恪一同到南院的陈家，畅谈至傍晚才起身向自己的家中走去。在家中，学生姚名达、朱广福、冯国瑞正在等他，三人向王国维提了许多问题，王国维的回答照例简单而又精练。时间不知不觉过了一个小时，王家已经将晚餐摆好，同学们起身告辞，王国维像往常一样，将他们送到院子中。晚饭后，柏生与谢国桢前来向王国维询问阴阳五行的起源问题，并论到某位日本学者在研究干支时的得失。在谈话的间隙，涉及时局，王国维立刻呈现出黯然的神色。谁也没有想到，这是王国维最后一次和同学们谈话了。送走谢国桢等人，王国维又回到书房批阅试卷，批完后，写好遗书，放在怀里，像平常一样安睡了。
次日天清气朗，王国维起来后，按照惯例由夫人为他梳好发辫。上午8点钟，王国维已经坐在研究院的办公室里。他忽然想到学期结束，学生的成绩本忘在了家里，就让院内的一个听差回家去拿，自己则坐下和办公室秘书侯厚培闲聊，谈起了下学期招生安排的事情。平时少言寡语的王国维提出了很多建议，谈了大概一个小时，一向不随身带钱的他忽然向侯厚培借两元现洋，侯手头没现洋，便给了他五元纸币。王国维于是叫了洋车，出了门。王国维出门没多久，他的学生陆侃如兴冲冲地和魏聚贤拿着一张纸到王国维的办公室找他题签，发现人不在，桌上有一杯喝了一半尚有余温的茶。他们以为王国维是上厕所去了，结果等到中午12点，还不见回来，他们只好退了出来。当他们离开王国维的办公室时，桌上的那杯茶已经完全凉了，而此时，王国维湿漉漉的身体也已经躺在昆明湖旁，停止了呼吸。王国维在《人间词话》中曾经写道：“社会上之习惯，杀许多之善人。文学上之习惯，杀许多之天才。”
王国维怀内所揣遗书是写给三子贞明的：
“五十之年，只欠一死，经此世变，义无再辱。我死后当草草棺殓，即行藁葬于清华茔地。汝等不能南归，亦可暂移城内居住。汝兄亦不必奔丧。因道路不通，渠又不曾出门故也。书籍可托陈、吴二先生处理。家人自有人料理，必不至于不能南归。我虽无财产分文遗汝等，然苟谨慎勤俭，亦不必至饿死也。五月初二日父字。”
其中的陈、吴二先生指的是陈寅恪和吴宓。
噩耗传出，清华园内一片悲恸，吴宓、陈寅恪、梅贻琦、梁漱溟等人为其送行。其中一幕颇耐人寻味，面对王国维的遗体，当其他人都行鞠躬礼时，陈寅恪却行旧式的跪拜礼，吴宓、研究院的同学们于是纷纷仿效。已经离开清华的梁启超闻讯火速赶回，为王国维的丧事和抚恤金奔走，并说王国维“治学方法，极新极密，今年仅五十一岁，若再延十年，为中国学界发明，当不可限量”。罗振玉主持了王国维遗著的校理和编辑出版工作，晚年则说“静安以一死报知己，我负静安，静安不负我”。
王国维的遗书好友陈寅恪为王国维撰写碑文云：
“士之读书治学，盖将以脱心志于俗谛之桎梏，真理因得以发扬。思想而不自由，毋宁死耳。斯古今仁圣所同殉之精义，夫岂庸鄙之敢望？先生以一死见其独立自由之意志，非所论于一人之恩怨，一姓之兴亡。呜呼！树兹石于讲舍，系哀思而不忘；表哲人之奇节，诉真宰之茫茫，来世不可知者也。先生之著述，或有时而不章；先生之学说，或有时而可商；惟此独立之精神，自由之思想，历千万祀，与天壤而同久，共三光而永光。”
王国维纪念碑，碑式由梁启超之子梁思成设计陈寅恪为王国维纪念碑撰写的碑文。
