不仅这次销售取得了巨大成功，摩根还因此成为这些持有纽约中央铁路股票的英国股民的总代理人，被授权为他们代理投票，于是他成为纽约中央铁路代表这些英国股民利益的一名董事—他也顺理成章地成为铁路业的一个重要人物。他开始计划如何利用自己的影响给混乱不堪的美国铁路业建立新秩序。就像我们前面看到的那样，在这之前的50年，美国的铁路系统（如果可以称得上是系统的话）一直以混乱无序的方式发展着，大一点的主干线都是由小的地方铁路拼凑而成的，铁路公司的资本和公司结构也因此千奇百怪。
铁路是人类历史上第一批经营管理权和所有权分离的企业—即经营这些铁路的管理层中大多数人并不拥有这些铁路的股权。尽管按道理讲，这些管理层理应完全代表股东的利益，但这时候，几乎还没有什么法律手段可以强制他们为股东利益的最大化而工作。因此，管理人员可以为自己谋求私利并损害股东甚至是顾客的利益，实际上，他们也常常这么做，动产信贷公司计划就是其中最臭名昭著的一个例子。许多铁路公司的管理层甚至会去建造一条与另一条已经存在的铁路竞争的铁路，唯一的目的是为了让那一条铁路出钱买断自己。
到了19世纪80年代中期，虽然整个国家呈现出一片繁荣发展的景象，但由于恶性价格战、过度建设和经营不善，整个铁路行业的利润急剧下降。甚至管理良好的纽约中央铁路和宾夕法尼亚铁路也在相互残杀，各自在对方的领地内建造了与之竞争的铁路线。摩根说服小范德比尔特，使其确信他能为两家铁路公司找到和解方案。他邀请双方的管理层共同坐上他的“海盗号”游艇（Corsair），豪华的游艇在加里森和桑迪胡克之间的哈德逊河上来回航行，直到摩根促成双方达成协议。按照协议，纽约中央铁路买下和它隔河相望的哈德逊河西岸的铁路线，宾夕法尼亚铁路则把正在建设的从哈里斯堡到匹兹堡的铁路线买下来，并立刻停止建设。（为修建该铁路而开凿的穿山隧道随即被废弃，直到几十年后修建宾夕法尼亚高速公路时才被重新启用。）
这一协议被称为“海盗协议”，它的成功签订使摩根在商业界和华尔街声名鹊起，生意源源不断地流向了他的公司。虽然他只是华尔街的一名银行家，并不专营铁路，但在19世纪的最后20年里，他实际上是美国铁路工业最有影响力的人物，他的公司为诸如巴尔的摩铁路、俄亥俄铁路、切萨皮克铁路、伊利铁路等铁路公司成功地进行重组，并推行了合理化的改革。
当摩根和其他投资银行家把此前华尔街明显缺失的诚信带到华尔街之后，华尔街在美国经济和世界经济中的地位大大提高了。此前大多数美国人提起华尔街，都认为它和赌场没什么差别，现在华尔街开始赢得良好的声誉。在这一过程中，摩根的个性和作为所起的影响不可低估。和老范德比尔特一样，身高米的他远远超出那个时代的平均身高。因为他不喜欢锻炼身体，所以他缺乏锻炼，也因此比一般人胖得多。但他给人印象最深的还是那双炯炯有神的淡褐色眼睛。摄影家爱德华·斯泰肯（Edwards Steichen）曾经拍过摩根最著名的一张照片，他说，与摩根的目光对视就像正视一列向你驶来的高速列车闪亮的前灯。“如果你有幸能逃离‘铁轨’，”一个作家补充道，“你会觉得那双眼睛只是令人敬畏；但如果不能，那就太恐怖了。”
