晚年朱元璋遭受的最大打击，就是长子朱标的英年早逝。朱标去世后，是年六十五岁的朱元璋，竟然在东角门外，当着群臣的面垂泣。一生严苛的朱元璋，有历史记录的两次流泪，一次是马皇后过世时，另一次就是朱标过世。一次为相濡以沫的发妻，一次为倾注心血的长子。
朱标死后，被立为“皇太孙”的朱允炆，正如朱元璋自己的遗诏中所说--仁明孝友。朱允炆最得朱元璋欣赏的，就是他的孝顺，朱标病危期间，十四岁的他日夜在身边服侍。朱标过世后，他又将三个年幼的弟弟接到身边照顾。那段时日里，朱允炆悲痛万分，甚至经常茶饭不思，最后连朱元璋也心疼了，亲自过来抚着孙儿的背说：“你不能这样啊，你要是身子骨坏了，你让我怎么办啊？”祖父劝说再三，朱允炆这才勉强进食。
朱允炆不只对祖父和父亲孝顺，即使成为“太孙”后，面对他未来的臣子们--那些身为藩王的叔叔们，也同样孝顺。洪武二十五年（1392）十月，朱允炆被正式册立为皇太孙，册封大典上，从各地藩镇赶来的“皇叔”们，集体对朱允炆行臣子礼。朱允炆却非常过意不去，在典礼结束后，他特意在内殿再次举行仪式，以子侄礼拜见各位藩王。
同当年朱标做接班人时一样，稍稍年长后的朱允炆，也开始帮助朱元璋处理政务。性格同样仁厚的他，也经常与朱元璋发生矛盾，尤其是司法方面，他也主张量刑从轻，尽量赦免无辜。但比起对儿子的苛刻，朱元璋对孙子却非常宽容。从前朱标这样做的时候，时常和朱元璋发生争吵，轮到朱允炆身上，朱元璋却是“龙心甚悦”。甚至在朱允炆的力主下，洪武二十八年（1395），明朝更修改刑律，早年《大诰》中如阉割、斩手之类的残暴刑罚，至此废除。
朱元璋晚年时期，史家纪录的较多的是他的诸多“残暴”。然而事实上，在他人生的最后五年，却也做了许多善举。朱标去世的同年年底，朱元璋修改律法，删除其中的部分酷刑条文。次年又昭告天下，将洪武二十年（1387）成立的著名特务组织--锦衣卫废除，其刑具全都毁掉（后在永乐皇帝朱棣时代重建）。即使在他将傅友德、王弼等功臣下狱的同时，洪武二十九（1396）九月，他还在南京召见了辞官武将两千多人，给予丰厚赏赐。在最后的几年里，他一直用自己的方式改弦更张，为年轻的朱允炆，营造一个良好的执政环境。
