与此同时，杨坚还大行“机构改革”，从中央到地方简化机构，以“并小为大”为原则，废止了自汉朝开始的“州、郡、县”三级制，改为州县两级，州设刺史，县设县令，改变了自北魏开始的机构冗杂、人浮于事的局面，并废除了汉朝以来地方长官由本地士人担任的旧例，将地方官员的任命权收归中央。公元583年，杨坚修订刑法，颁布《开皇律》，这是中国封建社会法典中的集大成者，该法条目清简，废除了如宫刑、车裂等前朝酷刑，减死罪81条，流放罪154条，堪称“以仁德治国”。诸上成就，不因隋朝短命而被废止，相反却被后世王朝继续传承。
无论隋朝最后的结局怎样，相信隋文帝杨坚在世的时候，一定坚信自己已然开创盛世：隋朝初建时，全国有户410万，到隋炀帝在位时，已激增到890万，全国耕地数目在北魏末期是1900万顷，到隋炀帝登基时，更暴涨到5500万顷，这两项成就，不但远超了之前史家津津乐道的“文景之治”“光武中兴”，即使是后来李世民的“贞观盛世”也难相比，号称“盛唐”的大唐时代，直到唐玄宗李隆基在位的“开元盛世”时，才达到了隋王朝的这一经济盛况。与之相对应的，是隋王朝仓储的丰厚，隋朝的“官仓”储备连年剧增，到了杨坚在位的末期，竟然“府藏皆满，无所容”。在隋炀帝登基初期，全国的官仓储备，足够国家50年支用。甚至到了唐朝开国时，隋朝设立在关陇、洛阳、并州一带的官仓，其储备物资竟然还没有支用完。这段繁荣的时代，就是历史上有名的“开皇之治”，这是一个威服四夷、经济繁荣、政治清明、百姓安居的时代。
