俾斯麦虽已想尽方法来安抚法国，但他又知道要想使法国人彻底放弃复仇的观念，那几乎是不可能，所以，必须采取恩威并用的战略。换言之，应使法国人明了其实力绝对无法向德国挑战，于是假以时日，此种民族仇恨也许才有逐渐消失的可能。仅凭法国本身的力量，是永远不够资格击败德国，因此，一切关键在于阻止法国建立一个反德同盟。如果有一天法国自认可以获得俄国的援助（也许还加上英国）则战祸将终难幸免。因此，在其执政期间，俾斯麦一直都是用尽心思来维持德俄之间的友好关系，简言之，其外交政策的基本原则即为联俄制法。
俾斯麦又深知人都有欺善怕恶的劣根性，所以若遇事顺从沙皇的愿望，则结果反而不能获得俄国的友谊，要想争取俄国的合作，最好的方法就是与其在东欧的劲敌奥匈帝国加紧勾结。1879年德奥两国签订一项防御同盟，但俾斯麦又同时向俄国示好，并劝告奥国应允许俄国向君士坦丁堡发展，这样就能促使英国与之为敌。因为英国绝对不希望俄国的势力接近苏伊士运河。德奥同盟果然使俄国大感恐慌，于是由于俾斯麦的斡旋，德、奥、俄三国在1881年6月居然在柏林缔结所谓《三帝同盟》。其主要内容有二：（1）三国中任何一国若与第四大国发生战争，则其他两国应守善意中立以使战争局部化。这所指当然不仅为法国，连英国或土耳其也都包括在内；（2）俄国承认奥国在巴尔干的地位，另订秘密附约以来规定德俄双方在巴尔干的势力范围。
三帝同盟是俾斯麦在外交上的杰作，但可惜只维持了六年。此后，俄国因反对奥国的巴尔干政策而拒绝续约，不过，俄国还是愿意维持其与德国的友善关系，于是双方在1887年签订所谓《再保险条约》（Reinsurance Treaty），俾斯麦不但不怕奥国反对，反而把条约内容告诉奥国政府以吓阻其轻举妄动。
意大利早已要求加入德奥同盟，于是在1882年终于组成德、奥、意三国同盟，罗马尼亚不久也加入，甚至于塞尔维亚也曾一度加入。西班牙国王则亲自向俾斯麦保证，若德法交战，西班牙将帮助德国。俾斯麦似乎意犹未尽，他又促成英、奥、意三国在1887年组成一个地中海同盟，以保证维持此一地区的现状，不久西班牙也加入。若法国尝试吞并摩洛哥，则四国将起而干涉。俾斯麦的外交政策是一方面与俄国亲善，另一方面又造成对俄国略有不利的国际形势，以使俄国更珍惜德国的友谊。
19世纪中叶，在欧洲彼此敌对的是德法两国，而在全球上争霸的却是英俄两国。这两大帝国在近东、中亚和远东都已发生权力冲突，俾斯麦对他们之间的争执尽量置身事外，但他却一方面鼓励俄国向欧洲以外的地区求发展，另一方面又与英国保持极友好的关系。当英国首相获知德奥缔结同盟时，曾说：“这是值得欢迎的好消息。”在19世纪80年代，英国常被称为“三国同盟的海权”，而三国同盟则被称为“英国的陆权”。俾斯麦深知德国为地理所限，既不能成为伟大的海权，更不能建立全球帝国。所以在这两方面他宁愿退让，以便既可获致英国的友谊，而又能集中全力来在欧洲建立霸权。
