1860年，仅仅在德雷克上校在皮特霍尔发现石油的一年后，宾夕法尼亚州西部就开办了至少15家炼厂，此外在匹兹堡还有5家。石油通过管道流入油罐火车，火车再将其运往炼厂。1863年，随着铁路修到克利夫兰，这个城市也参与到炼油的竞争中。同年，24岁的洛克菲勒与他的合伙人用他们的战争补偿金买下了克利夫兰地区最大的30家炼厂。两年后，洛克菲勒买下了合伙人的股份，建立了当时第二大的炼厂。
很快，洛克菲勒就走上了大规模兼并石油企业的道路。他购买用来制作油桶的木材、用来运输石油的油罐车和轮船，以及用来存放石油的仓库。在最初阶段，他并未涉足石油开采的领域，认为这个行业风险太大，又是粗人干的活儿，不对他的胃口。
19世纪60年代末期，他遇到了一个问题，这个问题在日后的20世纪80年代将继续困扰标准石油公司的后裔，那就是供过于求。太多的开采者生产出太多的原油，太多的炼厂加工了太多的成品油，因此产品的价格就太低了。为此，他找到了解决办法，即通过控制整个炼油行业来减少成品油的产量并消除竞争。后来的石油巨头们也沿用了这一办法。洛克菲勒决定建立属于自己的、大规模的炼油和油品营销业务，充当成品油独家的买方和卖方，这使得他能够控制供应链和油价。
1870年，他与四名合伙人在俄亥俄州创办了标准石油公司，很快便展开收购竞争者的行动。洛克菲勒希望尽可能地保持低调，使他本人和标准石油及其对公共事业的操纵不为公众所知。他极少在公众面前抛头露面，开口讲话就更少了。他的代理人说话都用暗语，而且假装是在为独立石油公司而非标准石油公司工作。正如一位评论家在1883年所说的那样：“如果这个国家真的存在一样事物，它本身和它采取的手段都会左躲右闪、神秘兮兮、遮遮掩掩、不为人知又有人庇护，那就是标准石油公司。”
标准石油之所以名声不好，一来是由于它的残酷，二来是由于它的成功。如果一家炼厂不愿意与其联手或被收购，标准石油就会压价，必要时不惜低过成本价，以此迫使它无法经营下去。一旦竞争者被打倒了，标准石油的价格就又提上来了。如果这家炼厂负隅顽抗、拒不妥协，标准石油就会导演一出“油桶荒”，即买下市面上所有的油桶，让竞争者没的可用。为了达到目的，标准石油会使出很多伎俩，它诱导、威胁、压榨、撒谎、欺骗、偷盗，有时甚至纵火。就像炼油商罗伯特·汉纳（Robert Hanna）解释的那样：“标准石油的威胁是赤裸裸的；要么乖乖卖厂，要么自取灭亡。”
除了占有炼厂这一招，洛克菲勒还企图通过把持运输业来控制供给。他没有能力像买下小炼厂一样收购铁路行业的企业巨头，但是他能够而且的确也做到了把这些企业拉下水，成为他的同谋。1871年，洛克菲勒联合了几家他相中的炼厂与标准石油一道加入一家名为“南方开发公司”的组织，以此推进一项庞大的补贴计划。这一组织承诺为铁路部门提供充足的油品供其运输；作为回报，铁路部门对非该组织成员交运的油品征收双倍运费。那些支付不起这种高运费的炼油商和采油商就被挤出了市场。
在一次针对该项补贴计划的司法调查中，有人问当地铁路公司的副总裁：“这个计划是不是意味着对石油运输领域实行完全的垄断？”
