与此同时，林则徐对一些拒不捐赈的有钱人采取了特别手段。原户部尚书潘世恩在水灾期间正丁忧在家，林则徐在探访他时，发现其家中有米万余石，就请求潘开仓发米。但潘世恩借口家中粮仓皆空，拒不发米。林则徐说，既然粮仓是空的，那就借用一下，用于储藏粮米，遂立即将各粮仓加江苏布政使封条。潘世恩的家人出来阻拦，林则徐说，潘大人说粮仓都是空仓，暂借一用又有何妨。几天后，林则徐将粮仓中的米粮下发饥民，潘世恩也无可奈何。
灾情出现，临时筹集捐赈虽然在一时一地有效，然颇费周折，其最终结果如何，实无定数。在长期的赈灾实践中，林则徐还摸索出了一些有备无患、计在长远的好办法，建立“义仓”就是其中之一。
1835年2月，江苏巡抚林则徐在抚署中建了一座大粮仓，取名为“丰备仓”，这座粮仓的作用是在丰年大量储积粮食，而到了灾荒之年则开仓济荒。建这座粮仓时，林则徐颇费了一番思量。那段时间，他正盘算着如何在平时做好救灾准备，以做到未雨绸缪，忽然抚署内多间年久失修的旧屋，引起了他的注意。这些旧屋虽然濒于倒塌，但加以修缮依然可以发挥作用，如果弃之不用，任其废弃，实在可惜。于是，林则徐产生了利用这些旧屋建立粮仓的想法。随后，他安排人力于2月7日兴工，对这些旧屋进行修葺，在短短十余天之内，就修完了十间，林则徐给这十间仓房取名为“重”“农”“崇”“本”“富”“积”“谷”“庆”“丰”“绥”，总称“丰备仓”。随后，便筹集资金，大量收购粮食，储于“丰备仓”。
林则徐究竟在“丰备仓”里储存了多少粮食，我们无从查考，但从他的日记中可以窥见储粮的情况。比如他在1835年3月26日的日记中写道：“于昨二十八日进谷三百石，今日进一千五百石。其谷买自无锡许庆丰行中，系周介堂承购，议定一石可作米五斗五升，由无锡运送至苏，船停盘门外吴县仓前，每石谷价并运脚洋钱一元四角，挑送进仓脚力每石二十四文。”3月28日的日记写道：“署后义仓进谷一千一百石。”4月8日的日记又写道：“署后义仓收贮两湖稻谷共八百余石，又无锡购来稻谷共四千余石。”仅这三天的记载，就达到七千七百余石。
林则徐的义举感动了许多人，也得到了当地士绅的支持。苏州士绅韩范了解了林则徐建立“义仓”的事迹后，立即表示：“今闻省城有创建义仓之举，情愿将父遗田亩坐落长洲县境田三百七亩零，元和县境田八百二十四亩零，尽数捐入义仓，官为收租，办粮存贮，以备歉岁公用。”在他的带动下，江宁士绅也踊跃捐助，建仓买谷。
