克勤于邦，克俭于家，是中国人一贯提倡的节俭作风。山西人一直保持着俭约风尚。俭朴之风是山西人在艰苦中保护自身的“金钟罩”，也是山西人积累财富的“聚宝盆”。
山西商人把“勤俭为黄金本”作为他们的经营原则来看待。明人谢肇湖在《五杂俎》中称：富商“江南则推新安，江北则推山右……新安奢而山右俭也”。山右说的就是山西。康熙皇帝有一次南巡时说：“我一向听说东南有许多巨商大贾，但今天我走遍了江浙一带，仔细观察从商之人大多系是山西人，而当地人很少，应该是晋风多俭，积累易饶，南人习俗奢靡，家无储蓄的原因吧”。
山西人节俭，所以看人有钱没钱绝不能以貌取人。明人沈思孝在一本《晋录》中说：“晋中俗俭朴古，有唐虞夏之风，百金之家，夏无布帽；千金之家，冬无长衣；万金之家，食无兼味”。顾公燮也说：“山陕之人，富而若贫，江粤之人，贫而若富”。张四维《条农堂集》载：明代蒲州人王恩，尽管天南地北做生意，发了大财，但仍然量入为出，小心谨慎，“终其身未常有锱铢滥费”。乾隆《祁县志》记载：清代祁县人郭干诚，“虑家贫，以生殖致饶裕，性俭约，不喜奢华”。定襄邢渐达“十五岁而孤，……而自事生业，艰苦备尝，不辞劳瘁，自奉俭约……盖自服贾以还，一切货物往来，俱存宽厚”。这些例子也许说明俭约是山西人的一种天性吧。
勤俭能致富，奢侈则家败，在晋商中这样的事倒也很多。如包头广盛公商号，本是祁县乔、秦两家创立，但秦氏子弟奢侈浪费，把个家业搞得难以维持，而乔家发迹后，只是在旧院里盖了个四合院，他们深知，买卖有赚就有赔，既要赚得起也要赔得起，才能立于不败之地。在买卖兴隆时，他便把赚下的银子积存起来，以备不测。并且教导子女，要勤俭持家，绝不能奢侈浪费。在广盛公遇到商业不景气时，商号掌柜要东家投资，扩大生意，以扭转商号不景气状况，乔氏出银四万两，而秦氏一分没有。六年后，广盛公又获大利，将广盛公改名复盛公，股本中乔家共投入六万余两，秦家只余一万余两，这样乔家有11股，秦家只有三股。到后来，秦家因子弟不争气，只会花钱，从复盛公中抽股，而秦家抽一股，乔家补一股，最后秦家只剩下一厘二毫五了。
