20世纪初，洛克菲勒和安德鲁·卡内基正在为世界首富的称号而比试高下。与此同时，法德两国之间也爆出了口角——双方都声称自己才是洛克菲勒祖辈生活的地方！大大小小的家谱学家见到有利可图，纷纷摩拳擦掌，要为这位石油大亨搞出一个高贵出身。“我可没有什么攀龙附凤的打算，”洛克菲勒坦言相告，“当一个美国人让我很知足。”最大胆的研究结果认为，洛克菲勒的先祖是法国的罗克弗伊尔家族。据认为，公元9世纪时，该家族生活在法国南部朗格多克的一座城堡里（不过，这个美丽的故事在近年遭到驳斥）。另一种说法认为，洛克菲勒的德国先祖最早于17世纪初期在莱因河谷定居。
大约在1723年前后，磨坊主约翰·彼得·洛克菲勒带着妻子和5个孩子横跨大西洋来到费城，先后定居于新泽西的萨默维尔和阿姆韦尔。他赚了不少钱，置办下大片土地。十多年之后，他的堂弟代尔·洛克菲勒离开位于德国西南部的家乡，定居于纽约州的日尔曼敦。代尔的孙女克丽丝蒂娜嫁给威廉，威廉的爷爷则是约翰的远亲。威廉和克丽丝蒂娜育有一子——戈弗雷·洛克菲勒。他就是石油大王的祖父，却也是家族后人最不愿提及的祖先。戈弗雷在1806年迎娶了马萨诸塞州大巴林顿的露西·埃弗里为妻，但女方家人对这桩婚事很不满意。在埃弗里家看来，露西是屈身俯就。露西的祖先在1630年前后随着清教徒西迁的大潮来到马萨诸塞的塞勒姆。这个家族的成员一向多才多艺，涌现出众多牧师、军人、民权领袖、探险家和商人。独立战争期间，11位埃弗里家族成员在格罗顿战役中捐躯。如果洛克菲勒家族想要为其“贵族”血统再添几分光彩，露西可以有凭有据地声称自己是在1016年加冕的英国国王“勇敢者”埃德蒙的后裔。
非常遗憾，戈弗雷·洛克菲勒配不上这位精明强干的妻子。他的个头矮小，容貌也很鄙陋，一副一事无成的潦倒模样。个头高过丈夫的露西是个虔诚的浸信会教徒，一双蓝眸炯炯有神，身材削瘦，步履矫健。她以前当过教师，受教育程度胜过自己的丈夫。一向不愿批评自家人的约翰·D·洛克菲勒也婉转地承认：“祖母是个要强的女人，祖父真是不如她。”如果说戈弗雷给洛克菲勒家族的后人留下了色彩——蓝灰色的眼睛和浅褐色的头发，那么，露西把修长的身材传给了儿孙们，洛克菲勒家的男人尤其体现出上述特点。露西身体健壮，先后产下10个孩子，老三就是1810年出生在纽约州格兰杰的威廉·埃弗里·洛克菲勒。
戈弗雷在务农的同时也作些生意，却又在生意场上栽了好几次跟头，害得一家人跟着他遭罪。他们先是被迫搬到纽约州的格兰杰和安克拉姆，后来又移居大巴林顿，最后跑到利文斯顿安身。年少时的约翰·D·洛克菲勒大概见过很多这种性格懦弱、事业失败的男人，戈弗雷必定被当作一个反面典型而被反复提及。大家都认为戈弗雷爷爷是个品性善良、热情快活的人，只可惜嗜酒如命。戈弗雷爷爷使约翰·D·洛克菲勒在心里把乐天知命同放纵懒散划了等号。在他看来，世上的男人个个都应当头脑清醒，有坚强意志和良好的自控能力。
洛克菲勒的档案解释了戈弗雷和露西缘何要在1832年至1834年间驾着塞满家当的大篷车前往西部。其中一个说法是，洛克菲勒家和几个邻居在一场土地纠纷中落败，所有的土地都被英国投资者夺走；另一种说法是，一个卑鄙的商人哄骗戈弗雷拿自己的农场去换取泰奥加县所谓更加肥沃的草场。还有几位亲戚说，戈弗雷真正想去的是密歇根州，但遭到露西的坚决反对。她不愿背井离乡去密歇根荒原上安家，更乐意留在纽约州北部，留在新英格兰的氛围之中。
不管出于何种原因，洛克菲勒家还是像许多美国拓荒者一样走上了寻找新机遇的征途。19世纪30年代期间，许多来自马萨诸塞和康涅狄格州的拓荒者怀着兴奋的心情走入纽约州的西部荒野。托克维尔把这次大移民形容为“一场争夺机遇的大赛”，人们追寻着“由此带来的激情以及丰厚的物质回报”。19世纪20年代开通的伊利运河使许多拓荒者得以来到这个地区，戈弗雷和露西也把家当装到一辆大篷牛车上，奔向那片人烟稀少的土地。牛车在尘土飞扬的奥尔巴尼－卡茨基尔公路上跋涉了整整两个星期，缓缓地穿过一片又一片幽深黑暗的森林。由于行李占据了车上的大部分空间，大家在大部分时间里只能徒步而行，露西和孩子们在累了之后便轮换着在车上坐一会儿。全家人终于接近了目的地——纽约州的里奇福德，最后的3英里半路程却格外难走。公牛在乱石嶙峋、车辙交错的小路上一步步地挪动，受尽主人的狠命抽打，才挣扎着爬上一个近乎垂直的陡坡。目的地终于到了，洛克菲勒一家得到了60英亩土地。根据洛克菲勒家族代代相传的说法，戈弗雷下了车，步履沉重地爬上那片土地的最高处，四下环顾一番，忍不住嘟囔道：“这和去密歇根有什么区别？！”
