在美国早期，市场的扩张不是借助于各种新的通讯或运输手段，而是完全靠商人四处推销。不知道西部的荒野有什么磁力，居然使老比尔毅然决然地放弃兴旺发达的美国东海岸，前往这个遥远的边疆地带。1853年初，洛克菲勒一家再次收拾家当，迁往克利夫兰西南部的草原小镇斯特朗茨维尔。
在里奇福德、摩拉维亚和奥韦戈时，伊莱扎和孩子们总算有一个自己的家，还能保留些许尊严。这一回，比尔干脆把他们丢给自己的妹妹萨拉·安和妹夫和威廉·休密斯顿，一年付给他们300美元作为照料自己妻儿的费用。母子6人一直没有过上几天安生日子，现在被抛在俄亥俄州的一个陌生小镇上，重又跌回社会的最底层。
比尔当时似乎并不缺钱，却宁肯得让伊莱扎母子6人与休密斯顿一家挤在一所小房子里。尽管休密斯顿夫妇满心佩服伊莱扎的灵活头脑和节俭持家，但两家人还是生出不少冲突。休密斯顿的儿子在回忆中说，威廉和弗兰克没完没了地吵闹，约翰则是个道学先生。他说：“约翰明明是个小孩子，却觉得自己是个大人，假的很！”还好，洛克菲勒一家过了不久便搬出去，在斯特朗茨维尔附近的一个小村子里安顿下来。
现在的比尔不再对木材业或其他固定居所的生意感兴趣，一心要当一个江湖郎中。在斯特朗茨维尔生活的头一年里，他只回过三四家。1853年秋天，也就是全家搬到斯特朗茨维尔8个月之后，比尔认为约翰和威廉应该继续上学，便把他俩带到克利夫兰，寄宿在伊利大街上的伍丁太太家。由于老是随着家人搬来搬去，约翰在克利夫兰的几所学校里都不得不留级。他在1923年留下目前惟一有关此事的记录：“那时我刚从纽约州来到这里，至今还记得被迫在老克林顿街中学再读一学期的羞辱感！其实我已经在奥韦戈中学读了好几年……满以为自己可以直接进高中而不是继续读初中。”在这段艰难的岁月里，留级无疑是自尊心很强的约翰忍受的许多羞辱当中的又一个。
1854年，15岁的约翰终于进入中心高中读书。这所学校十分重视作文，约翰必须根据“教育”“自由”“圣帕特里克的品格”和“往事回忆”这4个题目完成4篇作文才能升入上一级。这一时期，美国人围绕是否在新获得的土地上推行奴隶制而陷入严重分歧，国会在1854年5月通过的《堪萨斯－内布拉斯加法案》就是分歧的焦点之一。洛克菲勒的作文表明他是一个民主主义者和立场鲜明的废奴主义者。他在《自由》一文中指出，“人奴役人既违反我国的法律，也违背上帝的戒律”。他预言，奴隶制若得不到抑制，“终将毁灭我们的国家”。
洛克菲勒不光能写出条理清晰、用词精确的文章，还是一个很不错的辩手。平时寡言少语的他在阐述自己的观点时却头头是道。每次演讲时，他的开场白总是“本人既荣幸又遗憾”，把同学们逗得直乐，因而得了个绰号“既荣幸又遗憾先生”。
尽管有几分孤僻，约翰·D·洛克菲勒一直有自己的朋友圈。马克·汉纳和达尔文·琼斯是他的最好玩伴。马克·汉纳的祖上几代都是富裕的杂货商和商品经纪人，他自己后来成为国会参议员、共和党领袖。琼斯在回忆汉纳和洛克菲勒之间的鲜明对比时说：“马克的精力非常充沛，喜欢参加各种各样的体育活动；约翰·洛克菲勒总是一副开心的样子，但是话不多，喜欢埋头学习。就是有天大的喜事，约翰也能沉得住气，不过微笑一下而已！”
约翰在少年时代的严肃模样让许多大人喜爱，却也让一些人讨厌。一位明显有厌恶情绪的高中老师把他形容为“最冷血、最不露声色、最老谋深算的家伙”。即便自己只是一个10多岁的孩子，洛克菲勒就要求别人像对待成人一样对待自己。他在回忆校长埃默森·E·怀特博士时说道：“怀特先生是一位绅士，他待我也像待绅士一样——他待所有的男孩子都这样！”洛克菲勒非常敏感，讨厌那些不尊重自己的成年人。既然在家里承担了那么多责任，他觉着自己就应该被当作大人。比尔甚至为他在银行里开了户头，所以他过着远比同学们更独立的生活。
这个坚强、有自制力的孩子没有什么叛逆性格。他把自己的学业视为一种功利性的事情，尽管学习勤奋，却没有从中体会到什么动脑筋的乐趣。他回忆道：“我不慌不忙、也很有干劲地为承担生活重任准备着！”他在高中阶段再度显示出令人惊叹的数学天赋。“他最感兴趣的就是数学，”露西·斯佩尔曼说，“因为他在家就学会了精准计算收支盈亏。”
刚刚步入青春期的约翰·D·洛克菲勒对音乐产生极为浓厚兴趣。他甚至一度想作一名音乐家。在奥韦戈的时候，他每天用多达6个小时的时间练习钢琴，嘈杂的琴声甚至让伊莱扎都无法忍耐。钢琴在当时可是正统中产家庭的象征，他对钢琴的兴趣也许恰好表露了他对进入上流社会的渴望。他不喜欢其他艺术形式，认为它们有悖道德，是在宣泄人类难以自持的情感和鼓动异教徒的纵欲愿望。唯有音乐可以让人在不违背教规的前提下得到美妙的享受。
对这个十几岁的孩子而言，伍丁太太家就是一个接受教育的不错场所。伍丁太太的女儿马萨比约翰和威廉年长几岁。他们就许多话题展开热烈的讨论，伍丁太太也不时加入进来。他们争论最多的话题就是借给别人的钱是否应该收利息。当时年仅15岁的约翰根据一项特殊安排，借给父亲一笔数额不大的钱。他对生意上的事从不感情用事，因此要向父亲收利息，当然这些利息至多够支付交通费，比尔本人很可能非常欣赏儿子的做法。洛克菲勒就是这样，对经营方法和道德的兴趣远远胜过课本里那些深奥的东西。
