1979年，施密特从普林斯顿大学取得了电气工程专业的科学学士学位，并在1982年从加州大学伯克利分校取得硕士和博士学位。他的研究生院的夏天是在施乐公司帕洛阿尔托研究中心（XeroxPARC）的工作中度过的，这一享有盛名的实验室成为创建计算机工作站的地方，并历尽艰辛打造了转化成鼠标、激光打印机和互联网的技术。从伯克利毕业之后，施密特加盟施乐公司帕洛阿尔托研究中心，成为一名研究人员，并和像比尔·乔伊（BillJoy）这样的软件先驱（他后来成为太阳微系统公司的4名创始人之一）以及查尔斯·西蒙尼（CharlesSimonyi，后来曾监督指导MicrosoftWord和Excel的发展）并肩工作。
施密特参加的第一份工作是1983年在太阳微系统公司。在此后的14年里，施密特将会展现出他全部的个人才能：无论是作为一个曾雇用和监督10000名工程师的经理人，还是作为一个培育出创新程序语言Java的科学家，抑或是作为太阳微系统公司的首席技术官。施密特于1997年离开太阳微系统公司，并成为了诺维尔公司的首席执行官。他承认，自己接手这份工作之前并没有作好充分的吃苦准备。他说：“当你在一家运转良好的公司成长起来时，你很难想象一家运转不良的公司是什么情况。”诺维尔就是一家运转不良的公司。施密特刚到该公司时，诺维尔的季度报告显示其亏损已达1460万美元，而且公司管理人员打算动用公司备用金来掩盖亏损。于是施密特选择向公众报告亏损，于是诺维尔的股票出现了跳水。“濒于倒闭的边缘对成就一名强悍的首席执行官是一种相当有益的历练。”施密特说。回顾自己在诺维尔的经历，施密特坦承：“我的工作干得并不怎么出色。”
尽管如此，施密特的技能和性情仍然对佩奇和布林颇具吸引力。接下来他们又进行了一系列的谈话，2001年2月，佩奇和布林决定聘用施密特为首席执行官。直到诺维尔被兼并完成，施密特才接受了这份工作，同年3月，他被任命为谷歌董事会主席，并在8月担任首席执行官。佩奇被任命为负责产品的总裁，布林则被任命为负责技术的总裁。根据谷歌上市时提交给美国证券交易委员会的文件，施密特的收入包括25万美元工资以及年度业绩奖金，并以每股30美分的价格授予他
14331708股B级普通股和以每股2.34美元的价格配售给他426892股C级优先股。从此，佩奇和布林有了一位强有力的伙伴。
这一任命受到了一些质疑。批评施密特的人说，他几乎不能从诺维尔全身而退。他们对施密特驾驶的奔驰车、他穿的衣服和系的领带冷嘲热讽，他们怀疑施密特在技术上是否真有一套。“与他共事过的人，”一位对施密特非常了解的内部人士说，“没有谁会说埃里克是个给人灵感的领导者、一个了不起的演讲者和推销员，或者像英特尔的保罗·奥特里尼（PaulOtellini）、欧特克（Autodesk）的卡罗尔·巴茨（CarolBartz）或者思科的约翰·钱伯斯（JohnChambers）那样是能够掌控一切的领导者。” 对施密特的怀疑由于谷歌对外宣布的管理结构而得到强化。尽管施密特被任命为首席执行官，但存在一种非同寻常的权力划分。施密特、布林和佩奇将作为一个团队工作，如果两位创始人对日常决定出现分歧的话，施密特将扮演打破僵局的人。“我们同意，对于任何重大决定，我们三人必须达成一致。”施密特说。当施密特来到谷歌开始全职工作的时候，有人嘘他是个奴才。“施密特并没有高大的自我，”风险投资家以及前《财富》杂志专栏作家斯图尔特·艾尔索普（StewartAlsop）告诉《GQ》杂志，“他心甘情愿地承受着当一个宠物总裁的无数小侮辱。”当有人提到这是让他名誉受损的事情时，施密特拒绝对号入座，他顿了顿说道：“我想对我而言，评论自己是不合适的……自我报告常常是有嫌疑的。”他的低调风范，他的单调声音，还有他那圆形的、有着学者派头的无框眼镜，都被一些人看做胆怯的迹象。但随着时间的推移，批评者开始欣赏施密特的能力，他的成熟、他的谦逊也同样让人们的看法发生改变。他不久就脱下习惯穿的西装，换上了谷歌的制服：卡其裤配上带有谷歌标志的白色或黑色高尔夫T恤。他在建立信任。施密特被分配去了一小间放着两张桌子的办公室，但在他来之前，一名正找地方的工程师看中了这间污迹斑斑的空办公室并搬了进来。据拉吉夫·莫特瓦尼这位不停地给斯坦福门生提忠告的人说，当施密特到达时他已经对形势作了评估，静静地选择了第二张桌子。“他们成了办公室伙伴。你能想象在一家公司里，工程师能搬进首席执行官的办公室办公吗？这件事能够让你对施密特以及谷歌公司了解很多。他明白了公司的DNA就是：你的重要性取决于你做了什么。”
然而施密特并不认为他来到谷歌是为修补一家支离破碎的公司，他知道谷歌的管理系统只是运转不良，施密特还知道，他需要做的是慢慢改变。施密特看到佩奇和布林想继续把重心放在技术和产品上，而且对到处插手的官僚心怀厌恶。施密特着手让谷歌创始人和工程师们确信，优秀的经理人将会给工程师更多的自由、更少的官僚主义，建立起能够更好分配资源的经得起审计的财务制度并提供更多的创始人常常提到的字眼——透明度。“他找到了一个方法，既能带来公司运作需要的行为准则，又不失去它的魔法。”欧米德·科蒂斯坦尼说。
施密特灵巧地摆脱了一些旧的做法。西尔弗斯坦回忆道，“每周大约12名管理人员可以自由参加的会议已经不太实用。可是不邀请人们参加也很困难。”于是施密特仅仅说会议太过庞大就把它取消了，因为他没有用另外的会议来代替，“并没有人因此感到受排斥。”西尔弗斯坦说。只是不久后，施密特确实设立了自己的每周管理会议。
