桓温没有轻易进军，没有利用士气高涨的机会一鼓作气消灭前秦。桓温有他自己的想法，当然也有客观原因，比如出兵子午谷的司马勋被前秦丞相苻雄候个正着，打了败仗，这使桓温动摇了取胜的信心。
桓温在这次北伐中止步不前的表现备受史学家们的诟病，他们最大的依据就是当时尚为旁观者、来到桓温营中探听口风的王猛捏着虱子说的那段话：“明公不远千里，深入敌军境内，现在长安近在咫尺，您却不渡灞水，关中的豪杰不知您心里想些什么，所以都不来见您啊。”一向盛气凌人的桓温对这句问话的反应竟是默然无语，半晌才顾左右而感慨：“江东没有像先生这样的人物啊！”
桓温当然不是不想平定北方（自西晋灭亡以来，东晋和北方各国一直以仇人相视，十六国中向东晋称藩或一直保持友好的国家，也只有汉人政权“前凉”等为数不多的几个，说桓温不想灭秦，毫无道理。何况桓温可是“不能流芳百世，也要遗臭万年”的好大喜功之辈），但北方不是说搞就搞得定的，苻健、苻雄兄弟绝非等闲之辈，初战的失利，多与准备不足和轻敌有关，一旦被逼入长安城中，他们自然摆出背水一战的誓死架势，在这样的情况下，不如暂且保存实力，做出可进可退的长远打算为妙。因为桓温的后方东晋原不是铁板一块，北伐打到这个份上，对桓温来说正是恰如其分（在这一点上桓温显得比岳飞要“聪明”，对敌我情况的了解要透彻得多）。
实际的战局很快对东晋不利起来，桓温与苻雄再度在白鹿原展开大战，晋兵死伤惨重。攻打陈仓的王擢也是得而复失，逃回凉州。桓温与苻健抢收关中小麦，又被秦人先了一步。桓温没有了军粮，呆不下去，只能退兵回到襄阳，桓温的第一次北伐以先胜后败而告终。
（桓温三次北伐的情况与诸葛亮六出祁山也差不太多，蜀军大概败得好看一点，加上桓温又被刻划成王莽、曹操式的奸臣，所以并不被人称道，但对比中国历朝历代，北伐的战争本就少有胜绩，桓温的北伐也没有过分的劳民伤财，虽然成效不大，但却能向北方分裂的各国表明南方政府的态度，在汉文化对中原少数民族政权的影响方面也是有一定作用的。）
桓温对这样的结果自是不满，河洛一带正好又出现混战，原来冉闵手下投降东晋的大将周成据守洛阳再次谋反。击败殷浩的羌人姚襄在自称大单于，占领了许昌之后，也打起洛阳的主意，他围攻洛阳，却一个多月未能攻克。
桓温又看到恢复北方的契机，便于晋穆帝永和十二年（公元356年）第二次从江陵出发北伐，迅速到达了伊水。
姚襄赶紧把围攻洛阳的军队撤回，将精兵强将藏匿在伊水以北的树林中，派使者对桓温说：“将军亲率王师前来，我姚襄情愿归顺，请你的军队稍稍退却，我与手下人一起到路上拜迎大驾。”
桓温心细，严词拒绝道：“我此行是来收复中原，拜谒帝陵的，与你无干。要来就来见，反正就在眼前，还派什么使者，多此一举！”说着轰走使者，径自进军。
姚襄见桓温果然比殷浩强得多，不中自己的圈套，便拒守伊水与桓温进行决战，结果战败，死伤数千人，姚襄率军退往洛阳北山。
（尽管姚襄屡遭败绩，但由于他既勇猛又爱护百姓，当地人民仍然扶老携幼的追随他，不愿离去。他的部属杨亮曾向询问姚襄为人的桓温感慨道：“姚襄神明器度，乃是孙策一类的人物，而雄健勇武则超过孙策。”巧合的是姚襄也真成了孙策第二，一年以后对自己力量仍然估计不足的姚襄想从前秦手中夺取关中，终于遭受了他平生最后一次惨败，被秦军大将苻黄眉斩杀。他把匡复羌族伟业的期望留给了投降前秦的弟弟姚苌，而姚苌日后成为羌人的“孙权”，其掌握的军事力量，也多半是姚襄时代打下的。）
洛阳城中的周成已被姚襄围攻得疲惫不堪，一见东晋大军来到，乖乖地出城投降。桓温进占洛阳，修葺了西晋帝后的陵墓，鉴于上一次作战孤军深入的失败教训，他没有再继续北进，只是向朝廷表奏征西将军谢尚都督司州（即洛阳一带）的军事，镇守洛阳，就匆匆南回了。
桓温凭借两次北伐的武功，在东晋朝廷确立了一把手的地位，南方在军事上重新采取守势，直至十三年后的第三次北伐。在这期间里，北方两大强国的地位却逐渐发生了逆转。
前秦在桓温的第一次北伐中虽然保住了长安，但苻健的太子苻苌却因伤重而死，三子苻生在与桓温的战斗中表现得异常勇猛，被苻健立为皇太子。
皇始五年（公元355年），苻健死去，苻生成为前秦皇帝。对前秦臣民而言，这是最暗无天日的三年，苻生杀人之多，手段之残忍，后赵暴君石虎与他相比，只能徒叹“后生可畏”。
苻生生来就瞎了一个眼睛，他的祖父苻洪曾经戏弄他，对手下人说：“我听说瞎孩子只有一只眼睛流泪，是吧？”
左右应声说：“不错。”
苻生大怒，拔出腰间的佩刀刺在自己的脸上，鲜血顿时流了出来，他说：“这也是眼泪！”
苻洪惊怖，用鞭子抽打他，苻生居然说：“我生性只受刀斧，不受鞭锤。”
苻洪气恼地说：“你再这样子，我让你终身为奴！”
