朱元璋赐给刘基的还乡诰《御赐归老青田诏书》，可看作对自己与刘基君臣一场的总结，这篇统共四百余字的诏书先引战国时乐毅报燕惠王书中的话，“君子绝交，恶言不出，忠臣去国，不洁其名”，指出为臣者宁可不洁己名也不议论君上的不是，然后大谈对刘基的恩赏，表示在谈洋事件之前，自己从未亏待过刘基。随后诏书谈到了对谈洋事件的处置，若按国法，则刘基罪不可恕，若按八议（即议亲、议故、议贤、议能、议功、议贵、议勤、议宾，属八议之列的官员，有罪可以减免刑罚），则刘基相从以来多有功勋，故而夺刘基诚意伯之禄而保留诚意伯之名，以示宽严得当。对刘基入朝后不作任何辩解，诏书也肯定他做到了“不洁其名”，所以决定放刘基南归，以尽天年。末了一句“禽鸟生于丛木，翎翅干而未去，时复顾恋旧巢，况人者乎”，以禽鸟喻大臣，未免轻忽，但通篇诏书语气虽冷，却也大体与事实相符。回想开国之初，君臣如鱼水欢投，到末了猜忌如此，刘基不免心灰意冷，到家月余就死了。
刘基的死因向来众说纷纭，除了病死之外，还有被胡惟庸毒死和朱元璋利用胡惟庸将之毒死两说。胡惟庸毒死刘基的说法是1379年“胡案”发生时出现的。1375年正月刘基卧病，胡惟庸奉诏前往探视，在吃了胡惟庸带去的医生开的药后，刘基腹中生出了一块大如拳头的积物，二月初离京，四月中旬就去世了。但彼时严厉处置胡党，什么脏水都在往胡惟庸身上泼，即便真是胡惟庸正月间下的毒，刘基还乡后四月十六日去世，什么样的毒药能让他存活两个月半再发作毙命？对此，明史专家黄云眉援引行状考证说，刘基饮药后觉着有异，曾向皇帝反映，“上亦未之省也”，惟庸之视疾，既出太祖诏，何以刘基告服药后之病况于太祖，而太祖不之省？要是这样的话，实录上说的“上以基病久，不疑基死”这些话，不是有意在为朱元璋开脱吗？后来吴晗也是这样的观点：“刘基被毒，出于明太祖之阴谋，胡惟庸旧与刘基有恨，不自觉被明太祖所利用。”
从染病到去世，刘基有长长的三个月时间回忆他一个多甲子的一生。在早年写下的著名的《郁离子》中，他曾说“君子之生于世也，为其所可为，不为其所不可为而已”，大限将至回顾平生，在为与不为之间，他会后悔当初的选择，还是会沾沾自得于襄建大明的功绩？入明在世七年有半，实际在职却不过两年余，那么他是否会懊恼在顺帝朝二十年小官的经历致使到头来都难免不忠的恶名？“身世且未保，况敢言功勋”，事实上，这个被同时代人称作“负气甚豪，恒不可一世士，常以倔强书生自命”的人，从入明的第一年起，就在担惊受怕中。所以当1375年春天临死之际，他对自己的一生已不想再说什么了，只是遗命子孙，再也不要走仕途。
