朱元璋对文人的重视或许还出于这样的原因，他的事业是从元末的叛乱运动中产生的，起事之初，这个运动的基础是中国的秘密会社传统和宗教。当群雄肃清，朱元璋开始以天命自居时，他就要抛弃原先的“壳”，摘掉自己造反者的帽子，称自己“乐生于有元之世”，“取天下于群雄之手，不在元氏之手”，把自己纳入整个的儒家传统中去，以争取知识分子更多的支持。1367年冬天，朱元璋在和侍臣的一次讨论中以造房子砌墙为喻，谈到文臣治国的重要性：我以为建立基业，犹之盖大房子，剪伐斩削，要用武官，藻绘粉饰，就非文臣不可，用文而不用武，譬如连墙都未砌好，如何粉刷？用武而不用文，正如只有空间架，粗粗糙糙，不加粉刷彩画，不成体统，两样都不对，治天下要文武相资，才不会坏事。
1368年春节，农历正月初四，南京城里连日的雨雪停了，朱元璋率一干文武臣僚在奉天殿行礼如仪，正式宣布登基，定国号大明，建元洪武，以应天为都城。奉天殿受贺后，立妃马氏为皇后，世子标为皇太子，以李善长、徐达为左右丞相，其他各文武功臣也俱各加官晋爵。新政权充满着蓬勃的气象，京师一时满街都是新贵。
筹办开国大典期间，左丞相李善长是最忙碌的一个，祭祀大典、册立太子、后妃等，他要充大礼使，定六部官制、议官民丧服也都少不得他，其他诸如封建诸王、爵赏功臣，皇帝都委托给他与诸臣谋议行之。是以1370年大封功臣时，朱元璋称，善长虽无汗马军功，但功劳甚大，连汉时的萧何也不一定及得上他，于是授开国辅运推诚守正文臣、特进光禄大夫、左柱国、太师、中书左丞相，封韩国公。当时封公的，加上徐达、常遇春、李文忠、冯胜、邓愈共六人，其他几人都是凭着战场上出生入死军功卓著受封的，文臣仅李善长一人，可见圣眷之隆。
明代的官制承袭元朝，虽多有变更，但还是以中书省为军民大政之本，设立左右丞相为省长官。大将军徐达虽封右丞相、魏国公，但常年带兵在外，朝中实权实操于李善长之手。同时他还是朝中势力最大的淮西集团的首领。李善长能办事，权力欲强，史传说他的性格“外宽和，内多忮刻”，有谁对他的权力构成威胁，就毫不犹豫予以打击。朱元璋出于对淮西集团势力过于膨胀的忌惮，一度想撤换李善长予以遏制，但又决定不下换哪个人选为好，曾找御史中丞刘基商量此事。
刘基的官方传记记录了这场谈话。刘基劝朱元璋不要撤换李善长这位勋旧。朱元璋说，他数次想害你，你为什么还要帮着他说话呢？我决定让你来当丞相。刘基说，打个比方，一间大屋子要换根柱子，那也必须是换更大的木头，如果把小木头捆扎捆扎换上去，这屋子立马儿就坍塌了（“是如易柱，须得大木。若束小木为之，且立覆。”）。朱元璋问：杨宪如何？刘基认为此人不合适，因为他“有相才，无相器”，做不到“持心如水，以义理为权衡”。朱元璋又问：汪广洋如何？刘基答，这人比杨宪更加“褊浅”。朱元璋再问：胡惟庸如何？刘基说，这个人就好比一匹不听话的马，驾着他去拉车，说不定连车都会翻了哩！（“此小犊，将偾辕而破犁矣。”）朱元璋再次敦请刘基出任丞相一职，刘基还是推谢：臣疾恶太甚，又不耐繁剧，出任此职恐怕辜负了皇上的恩宠，天下何患无才，只要皇上悉心追求之，一定可以得到，不过您提到的那几位，在我看来真没一个可用的。（“目前诸人诚未见其可也。”）
