古尔德原本打算把宾夕法尼亚也收入囊中，但是，随着他的西部战略遭受致命性的打击，再加上媒体的金融新闻头条都在揭露他在黄金囤积案中破坏市场的行为，宾夕法尼亚和俄亥俄两个州的立法机构都迅速地让他的这一希望破灭了。宾夕法尼亚铁路逃脱古尔德的夜袭也标志着汤姆·斯科特获得支配地位的最后一步——1874年，他接替J.埃德加·汤姆森成为了宾夕法尼亚铁路的总裁。与保守的汤姆森正好相反，斯科特是一个铁路总裁兼投机商的典范。在他的强力扭转之下，宾夕法尼亚铁路董事会从原来狭隘内向的路线转而拟定了一个几乎不计后果的扩张和圈地计划，旨在把宾夕法尼亚铁路变成在全国范围内拥有支配性地位的铁路。
从那时起，美国的铁路战争就像是中国的围棋游戏一样：棋手通过侧冀包围和圈占对手的地盘来获胜。在这场领地优势争夺战中，新的铁路线的规划建设远远早于运输业务的需要，但通常又被拖延甚至最终放弃。但是铁路的运载率却持续下跌，经常低到不可思议的水平，所以铁路的扩张只能通过掺假的资产负债表和欺骗债券持有人的方式来筹集资金。在19世纪剩余的那段时间里，扼制古尔德“直奔要害”的竞争方式成为了皮尔蓬·摩根的伟大事业。到他最后成功的时候，美国的铁路已经为整个美洲大陆的经济迅猛增长提供了动力，而这一增长也成为那段时期的一个标志。
古尔德在伊利铁路公司又干了两年，多多少少又做了些铁路总裁的工作——规划了一些延伸线路，研究了钢轨的优点，也参与了一些旨在对付一个不配合的分支机构的股市强盗行为。但是，多年的臭名、大肆盗用公款的行为以及可耻的背叛行为都让股东，甚至是那些非常冷静的欧洲股东对他彻底失去了耐心。
威廉·邓肯——朱尼厄斯·摩根在邓肯·谢尔曼的公司里的长期同事，此时正在计划公开介入伊利铁路公司。他找到了古尔德，并提出了一个方案，那就是用一个能够重新赢得海外投资者信心的董事会来取代现有的董事会。古尔德向朱尼厄斯征求意见，朱尼厄斯也极力敦促他在1870年进行公开的董事会选举。（有人怀疑朱尼厄斯是在玩两面派，他知道他给古尔德提的建议会让他败落。）与此同时，古尔德先前在伊利铁路西线上的一个盟友詹姆斯·麦克亨利也决定发起一场“政变”。他联合了一家持有大量伊利股票的重要的德国银行比朔夫海默-戈德施密特，并且开始在伦敦和柏林到处搜寻伊利公司的股票以发起一场对抗活动。伊利公司的律师富兰克林·雷恩——与古尔德和菲斯克一起组成伊利公司三人执行委员会的第三人——也悄悄地与麦克亨利结成了联盟，但同时还假装保持着对古尔德的忠诚。
1871年夏天，古尔德又遭受了一个打击：一份泄露出去的备忘录暴露了特威德一伙人侵吞纽约市的大量公款这一事实。让所有人都感到吃惊的是，一股改革的旋风让特威德在那年秋天的选举中就下了台。特威德逃离了美国，古尔德豢养的法官也被赶下了法官席。
接下来，古尔德又失去了吉姆·菲斯克。在菲斯克、约西·曼斯菲尔德和内德·斯托克斯——曼斯菲尔德的另外一个情人——之间发生的一场混乱的三角恋爱闹上了法庭，哄动了媒体。菲斯克显然是受害的一方——曼斯菲尔德正在把他的钱转移给斯托克斯，而且两个人还试图勒索菲斯克。斯托克斯先前已经提起了一项针对菲斯克的控诉，但当案子转而对他自己不利时，1872年1月，他在他的旅馆里伏击并射杀了菲斯克。旁观者吃惊地看到古尔德在菲斯克的床前情不自禁地失声痛哭。没有人能够理解这两个人之间的关系，但是自从菲斯克死后，古尔德在应对海外股东的攻击时好像莫名其妙地显得非常被动。
古尔德被颠覆的细节说明伊利铁路遭到了一些卑鄙的魔鬼的诅咒。比朔夫海默组织了一个贿赂行动，把董事会里忠诚于古尔德的人全部收买了。有两个不同的代理人来竞争这次贿赂行动的中间人的角色，还有一些狡猾的家伙在争抢这次预期的夺食大战中掉下的残渣。西蒙·史蒂文斯，也就是皮尔蓬·摩根还年轻时和他一起在内战中把自己的霍尔来复枪卖给政府的爱国人士，此时作为一个重要的中间人突然出现了。在被州立法机构的一个委员会问到股东们反叛的原因时，史蒂文斯回答得非常简单：“他们已经听到了最令人难以置信的报告，说控制铁路的官员从铁路上拿了巨额的钱，还想把他们的朋友拉进来。”古尔德离开后，比朔夫海默最终与伊利铁路签署了一个非同寻常的投资银行合同——一个为期50年的服务合同，承诺的服务费率非常高，而且实际上不用承担任何义务。该公司毫不避讳地说，这个合同就是为了补偿其高额的贿赂支出。
