有了等效原理这一理论工具，爱因斯坦的相对论研究取得了很大进展。这篇题为《相对论原理及其推论》的文章于1907年12月4日寄达斯塔特手中，它为爱因斯坦从狭义相对论走向广义相对论迈出了非常关键的一步。所谓等效原理，举例而言，指的是在一个封闭空间中的人无法判断他是否处在引力作用之下，还是在引力之外由非引力的某种力量推动下作加速运动，即引力作用下物体的运动与其他力作用于同样质量物体作加速运动的效果是相等的。这种情况使得爱因斯坦能够用数学来表述他的想法而不必担心复杂的引力分析。他现在所要做的就是用数学方法来描述一个作匀加速运动的参照系，然后根据等效原理，所得的结果就是引力作用下的结果。
爱因斯坦把问题继续追问下去，即当两个钟表相对作变速运动时，它们的走时会有什么不同？当确认两个钟表将发生走时差异时，他把方程进行反推，把加速度代之以引力，则可推理出光线在引力场的作用下会变得更红，这一现象即为引力作用之下的红外位移现象，是广义相对论接受实验检验的主要对象。更进一步，他探讨麦克斯韦的电磁方程，这一方程描述了光的性质。爱因斯坦弄清了一个作加速运动的参照系的内涵，并得出结论认为引力场将使光线的运行路线发生弯曲。光线的偏斜也是实验验证广义相对论的主要对象。1907年的圣诞节前夜，爱因斯坦在寄出这篇文章后不久又想到了另外一个挑战性题目。他给好朋友康拉德·哈比希特的信中说，他试图揭示水星近日点变动的原因。此后的四年，爱因斯坦在这方面的研究陷入僵局，在广义相对论上没有作出什么显著的进展。
当威廉·维恩在《物理学纪事》当编辑的时候，刊登了爱因斯坦1911年在布拉格写成的重要论文《万有引力对光的传播的影响》。早在1907年，爱因斯坦便开始尝试将牛顿的万有引力整合到他的狭义相对论中。1911年的论文意味着他超越这个目标并更深入地迈进了一步，开始利用等效原理为基础，构建一个新的引力理论。不过当他决定这么做时也预见到了将会遇到一些问题。他给同事雅各布·劳尔勃的信中提及此事时说：“用相对论的观点来处理万有引力产生许多大麻烦。”他开始怀疑支撑狭义相对论的基石之一——即光的速度是恒定的——这个假设只有在引力也不变的情况下才成立。1911年的论文与1907年的论文所涉及的问题基本上一样，爱因斯坦再次声称引力作用下将发生红外位移现象并预言通过太阳附近的光线将发生细微的偏斜，大约偏斜0.08弧秒。爱因斯坦写道，“非常迫切需要天文学家对本文所述问题予以充分注意，必要的关注目前基本上还没有或远远不够”。他当时尚不知道，几年以后，当所倡导的实验一旦证实这个猜想，将给他带来世界性的声誉。
广义相对论的开创性研究是一项艰苦的进程。1912年，爱因斯坦给物理学家阿诺德·索梅菲尔德的信中提到，“这是我有生以来最艰苦的工作，还没有比这更苦的”；而在另一封写给米歇尔·贝索的信中大吐苦水说，“研究工作每进展一步都异常艰苦”。不久，当爱因斯坦最终弄清楚，产生困难的原因在于自己用了错误的数学方法构建这个理论，马上改变策略，许多困难因此迎刃而解。刚开始时他很自然地用中学时就学过的欧几里德几何作为工具，这一几何分支一般只能解决平面物体的问题如直线、平行线永不相交等等，也称为欧式几何或平面几何。用这种数学工具显然无法解决纷繁复杂的万有引力问题。
在欧式几何中，两点之间直线距离是最短距离。你打开地图，在伦敦和纽约之间划一条直线，那么这条直线将大部分经过大西洋的湛蓝的海水。现在，你再拿出一个地球仪，在上述两地间的球面上拉一条能伸缩的线。因为地球是个球体，这两点之间最短的线不是直线，而是一段与球形的一部分相对应的曲线，航空公司对此应该非常清楚。英国航空公司的飞机从伦敦起飞，途经爱尔兰最南角，并经过格陵兰岛的一角，飞过加拿大新斯科舍省和美国波士顿，最后降落在纽约昆斯区的约翰·肯尼迪机场。航空公司使用这条航线就是因为这一线路是最短路程，因而也是最快和最便宜的选择。物理学家也知道光线的传播也是遵循最短路线的原则，就如飞机一样，一个光子在曲面上的传播路线与在平面上的传播路线是不同的。曲面的形状通常由所谓的“度规”（metric）决定，概括地说，度规显示了球面上两点间的距离。球面上两个分开的点之间的最短距离称为“最短程线”（geodesic）。在平面上，最短程线即为直线，而在球体上，最短程线是大圆弧。爱因斯坦需要补习一些数学技巧来处理最短程线和度规的问题，以此来进行非平面几何上的研究。
在学生时代，爱因斯坦有一个特别要好的朋友，即后来成为著名数学家的马赛尔·格罗斯曼。格罗斯曼的专业就是研究几何学，他在博士论文中证明了一些非平面的一些性质。爱因斯坦从布拉格回到苏黎世，恳求格罗斯曼说：“你千万要帮帮我，不然我就要疯了。”很快，在格罗斯曼的努力相助下，爱因斯坦找到了解决问题的数学方法：黎曼几何。爱因斯坦对此十分感激，他给索梅菲尔德写信说道：“我开始对数学产生了极大的敬畏，以我的驽钝，若能从中领会到它的精妙之处，对我都近乎是一种奢侈的赏赐”。爱因斯坦和格罗斯曼在广义相对论研究中同心协力，还共同发表论文把黎曼几何这个工具介绍到物理学研究中。1913年，他们俩合作将麦克斯韦电磁方程在曲面上进行重新推导。一年以后，爱因斯坦发现了一个方程可以把曲面上最短路线，即最短程线，与曲面的曲率联系起来。如果知道一个曲面的曲率是多少，那么最短程线将决定曲面的轨道，假设该曲面有行星绕着旋转的话。
