在这一整套齿轮般紧密绞合的文官制度中，官员从九品到正一品分成九品十八级，升迁调用都有一定的法度。六部主官及地方军政首脑向皇帝负责，属吏向上级负责，系统分明，职权清楚。都督府管军不牧民，六部牧民不管军，各部门既有合作，又互相牵制，都察院则负责监视一切臣僚。在这样一种崭新的制度下，行政、军事、监察三种治权互不统属，由皇帝亲身总其成，也就是说，皇帝不仅是帝国这台大机器的主人，也是它的实际操纵者了。
这一套正式机构之外，朱元璋还培植了一个令人闻之丧胆的特务机构“锦衣卫”。这一机构的前身是“拱卫司”，下设“检校”，专主察听在京大小衙门官吏不公不法行为，但凡捕风捉影之事无不奉闻，用朱元璋的话来说，“有这几个人，譬如人家养了恶犬，则人怕”。1382年正式改名锦衣卫后，侦伺处刑之权也集中到了这个皇家私人机构，法外有法，刑外有刑，恶犬一下升级成了虎狼。
皇帝总揽六部，成了全天下最忙碌之人。据历史学家吴晗统计，仅洪武十七年（1384）九月十四日到二十一日的八天间，朱元璋收读的文件就达1 666件之多，所奏事项3 391件，平均每天看200多份文件，处理400多件事项。对朱元璋这样一个精力充沛之人来说，或许不以为苦，但对后世诸君来说，这实在是一个智力与体力的双重考量。为了从烦杂的政务中脱身，朱元璋任命了四辅官，即协助他处理政务的机要秘书。到了1382年，罢四辅官，设文渊阁、武英殿、文华殿诸大学士，秩正五品，职责是详看诸司奏章，兼司平驳，侍从左右，以备顾问，但这些被称为内阁学士的官员并不能参决政务，他们只是类似于皇帝顾问团中的一员，可予随时撤换。后来他的儿子明成祖朱棣作了一个变通，把大学士选拔到身边当值，军国大事皆在内阁办理，由是确立了通行整个明朝二百多年的内阁制度。
胡惟庸案发生后不久，朱元璋命令他的儿子燕王朱棣到北平就藩。在皇帝的诸多儿子中，朱棣被公认为最为能干的之一，皇帝希望他最信任的这个儿子把守从前元朝的都城，以此保证帝国北部边疆的安全。因为元顺帝虽已被赶往漠北，但时刻都在想着反攻。说是偌大一个帝国，在朱元璋看来就如同自家一份私产，为了让基业传之久远，他把兵权集中到了最能干的几个儿子手里。除了燕王之国北平，其他几个儿子，宁王封在热河，晋王封在山西，秦王封在陕西，辽王封在辽东，代王封在大同，肃王封在甘肃，这些有统兵之权的塞王基本上沿长城一线驻扎，担任着抵御蒙古骑兵入侵的重任。
事情到此远没有终结，胡惟庸的罪状在他死后还在不断升级，从“通倭通虏”到“谋反”，同时把一大批开国元勋都给株连了进去。
