公元663年10月，在译完《大般若经》六百卷后，玄奘忽然感到体力不支。也许是预感生命将尽，玄奘停止了译经，开始终日诵经。他对自己的下葬也交代得很清楚：用草席包裹，置于山涧僻静处，勿近宫寺。玄奘也为自己的来世做着准备，向立在寺院周围的佛像作最后的告别；让人把他翻译的所有经书、请来的佛像、帮助过的穷人和指导过的信徒都一一列了清单；还请人专门做了一尊佛陀在菩提树下悟道的塑像，放在自己的床前。
正月初九，玄奘在肃成院过一小渠时，不慎跌倒，小腿受伤，被门人抬回卧室。这个小渠玄奘不知走过多少次，那一瞬间，他不明白到底是怎么发生的。到13日，他一卧不起，沉沉昏睡，偶有谵语。正月23日，昏迷十天的玄奘忽然醒来，向玉华僧众及同来的译经大德、弟子、卫士一一作了临终前的欢喜告别。
2月4日，玄奘合掌良久，之后右手撑头，左手放在左腿上，舒展两腿，右向侧卧，与释迦涅磐姿势相同，并以这个姿势持续五日五夜。他的弟子悄声问：“和尚决定得生为弥勒菩萨否？”“得生！”玄奘回答，之后呼吸渐趋微弱，不久气绝。
2月9日当高宗接到玄奘圆寂的报告时不禁泣道“朕失国宝！”敕命以官费安葬玄奘。
3月，玄奘弟子按照遗嘱，用草席作成灵车把玄奘带回长安，安置在大慈恩寺译经院。每日有成百上千他的弟子和长安市民泪流满面地来向他告别。4月14日，玄奘被安葬在白鹿原，那一天赶来送葬的有一百多万人，三万人为他守墓三天三夜。玄奘灵塔的左右两侧，分别是他的两位高足窥基和圆测的墓塔，师徒三人一如从前，相互陪伴，相互聆听，令身处此地的人都会油然而生出一份感动。
过去的一千多年里，兴教寺几次遭毁，舍利塔也在农民起义中被挖掘，玄奘的遗骨多次转移。迄今为止，确切的埋葬地点已经无法考证。我们知道的是，他的顶骨于北宋年间被移至南京。公元1942年被占领南京的日军发现，公元1944年将一部分带往日本。目前，玄奘的顶骨舍利分散在南京、西安、成都、台湾、日本和印度，这是除佛陀之外分布最广的舍利。
在终南山紫阁峪有一座无名塔，根据史料的记载，人们怀疑玄奘的部分遗骨很有可能被埋在这里。崎岖的山路把人带到杂草丛生的山顶，这里一片荒凉，各种昆虫的叫声不绝于耳，静静的草叶在风中自由地舞动，隆隆的水声就在不远处的山谷里，仿佛冥冥中应验了玄奘的遗愿，“我死之后，请用草席包裹，置于山涧僻静处，勿近宫寺，不净之身尽量屏远”……
