1946年5月4日，中共中央发出《关于清算减租及土地问题的指示》（即《五四指示》），将党在抗战时期实行的削弱封建的减租减息政策，改变为消灭封建实行“耕者有其田”的政策。《五四指示》指出：“解决解放区的土地问题是我党目前最基本的历史任务，是目前一切工作的最基本的环节。”晋察冀解放区迅速开展了土地制度改革运动。
丁玲敏锐感觉到，这是我党土地政策的重大转变，是改变农民命运的大事，这将是一场翻天覆地的变革！东北暂时去不了，她跟陈明商量：我们去参加土改吧！7月，他们把11岁的祖慧寄放在边区妇联主任李宝光家里，参加晋察冀中央局组织的土改工作队下乡去了。
从7月到9月，他们先后参加了三个村子的土改。
第一个是怀来县的辛庄，那个村子很大，土地肥沃，盛产大蒜。晋察冀边区农会主席郭强带队，他是老农会干部，很有经验，告诉丁玲、陈明：你们什么也不用干，跟着我看就是了。郭强一到村里就开大会，把裤腿撩起来，给农民看地主家狗咬的伤口，一下就把农民的情绪煽动起来了。但丁玲不愿光是跟着跑跟着看，想亲身参加工作。
过了两个星期，他们转到怀来县东八里村，正式参加土改工作。在东八里村只住了一个多星期，但是丁玲产生了写一部小说的想法。
丁玲说过，到了张家口之后，她忽然“深深怀念起陕北的农民们来了，一个一个熟人涌上我的心头”，这时才发现“我是这样的爱他们，同他们如此的难舍难离”。她把对于陕北农民的感情转移到察南农民身上，在土改中接触了几个人物之后，触发了写小说的念头。
第一个人物是小说里的黑妮。那时还在辛庄，土改工作组住在地主家的大院子里，地主住北房，他们住南屋。有一天，丁玲看见地主家一个十来岁的女孩子从外面跑进来，穿一件花布衫，神情有些慌乱，挑起竹帘子跨进北房去了。丁玲立刻对她的命运产生了忧虑：“她生活在那个阶级里，但她并不属于那个阶级，土改中不应该把她划到那个阶级，因为她在那个阶级里没有地位，没有参与剥削，她也是受压迫的。”“就这么一点影子，却在作家的脑子里晃动了”，而丁玲“一刹那时间的印象和联想”，源于她始自莎菲的、一贯对于女性命运的关注与同情，甚至在潜意识里唤起她自己童年生活境遇的某种回忆（她也是饱尝世态变迁的地主的女儿），她以这种情感创造出钱文贵的女儿（以后又改为侄女）黑妮，也成为这部小说的原始创作动力之一。
在东八里村虽然住的时间很短，但丁玲又抓住两个人物。有一个富农，开大会叫他上台献地，他衣衫不整，一双破鞋，上台一解裤腰带，是一截一截破绳子接起来的。丁玲认为这样的人顶多是富裕中农，土地都是辛苦劳动换来的，不该分他的地。还有一个人，“这人不是什么大地主，但是在官面上说得上话。村干部都怕他，说，你们一走，国民党一回来，我们都得掉脑袋。这个人有个弟弟，是个贫农，还是土改斗争的英雄，他就这样说：我的哥哥不好，应该枪毙”。这两个人，前者演化成《太阳照在桑干河上》里的顾涌，后者成为钱文贵。关于钱文贵，丁玲1954年在谈创作体会时说，她对“要写个什么样的地主”考虑过很久，最初“想写一个恶霸官僚地主，这样在书里还会更突出，更热闹些”，后来“认为还是写一个虽然不声不响的，但仍是一个最坏的地主吧”，因为“在我的经验中，知道最普遍存在的地主，是在政治上统治一个村，而那些强奸妇女、无恶不作的恶霸地主，是不大多见的。看看我们土改的几个村，和华北这一带的地主，也多是这类情况。这是因为大地主早已清算光了，剩下的就是这些人了”。
