双方在意大利半岛北部的河边大打出手。第一战，罗马人打算趁汉尼拔方面军心正疲时一举败之，但一交上手便发现远不是想象中那样，罗马人大败。第二次战斗中，汉尼拔佯装败退，将4万罗马士兵引入包围圈，歼其大部。
吃了大亏的罗马人不再与汉尼拔直接对话，而是建起一道道堡垒，在工事中坚守。汉尼拔巧施引蛇出洞计，调出堡垒中的罗马人，在特拉西梅诺湖的谷地中摆下口袋阵。公元前217年6月，罗马四个军团约3万人落入阵中，死伤大半。
此战后，罗马就在汉尼拔眼前。
不过，汉尼拔毕竟是远征之师，需要给养，而打罗马必然是一场长期的消耗战。为此，汉尼拔并不着急直接攻入罗马，而是着手从政治方面瓦解罗马的同盟者，在孤立罗马之后，再一举灭之。
而此时的罗马人陷入200年以来最严重的危机之中，自知硬扛不是办法，便采用了牛皮糖式的消耗战，四个军团紧紧跟在汉尼拔屁股后头，一路骚扰。
但这套战术显然对汉尼拔作用不大，大军在意大利半岛横冲直撞，指哪儿打哪儿，并在公元前216年春天，攻下了罗马人的粮食补给重地——坎尼。
重压之下的罗马人，只能用一场殊死决斗来找回尊严，否则就得活活困死。
公元前216年8月，双方在坎尼城附近摆开架势。罗马有步兵8万人、骑兵6000人，汉尼拔有步兵4万人、骑兵14000人。
罗马人将8万名步兵排成70列，组成强大的方阵。汉尼拔避其锋芒，布阵为新月形，凸面顶在最前面，而且把战斗力较弱的步兵放在那儿，与罗马的8万名步兵直接对话。至于14000名骑兵，则放在两侧。
兵力占优的罗马人首先发难，冲击迦太基人的中央部队。迦太基人缓缓后撤，等凸新月形变成凹新月形时，迦太基的重装步兵由两侧向中间夹攻拥进来的罗马步兵。迦太基的优势骑兵杀退罗马骑兵后，转身冲击罗马步兵方阵。罗马方阵大乱，至暮，迦太基人大胜。此役罗马人阵亡54000人，被俘18000人，而汉尼拔仅损失6000余人，属西方古战史上少有的以少胜多的经典之战。汉尼拔“战神”之名由此奠定。
陷入恐慌的罗马城丢失了大量的同盟城邦，仅余半岛中部的拉丁城邦仍是其死党。不久，罗马人意识到与正在兴头上的汉尼拔直接对话太有难度，便启用了游击骚扰战，并组织起了人数超过迦太基人的军队。
几年之后，游击战术奏效，罗马人渐渐缓过神来，于公元前213年攻陷叙拉古。次年，罗马人围攻已经投降汉尼拔的卡普亚。汉尼拔前来解围，未果，遂北上攻打罗马，欲以此举来解卡普亚之围——事实上，这时汉尼拔已经失去了攻击罗马的最佳时机，如果在坎尼之战后迅速围困罗马，也许整个西方历史就将因此而改变。
罗马人不但没有撤掉卡普亚之围，并且还牢牢守住了罗马。汉尼拔一通攻打无果，只得向南撤回，而这时卡普亚城已经粮绝而降。公元前209年，罗马军队攻陷投降汉尼拔的塔兰托，汉尼拔在意大利半岛的局势每况愈下。
此时，当年从陆路杀向西班牙半岛的那支罗马部队，在与汉尼拔留守的弟弟进行了一番较量之后，于公元前209年拿下了新迦太基城。汉尼拔的弟弟自知不敌，领着3万兵马向北翻过阿尔卑斯山，欲与一别多年的汉尼拔相会，一起端掉罗马人的老窝。
双方约定在翁布里亚会师，但这消息被罗马人探知。罗马人分兵急行军，抢在汉尼拔弟弟之前，布下伏击圈，将其全歼。
此战后，汉尼拔自知拿下罗马已然不可能，遂退往意大利半岛最南端等待来自北非老家的增援。
而此时，西班牙半岛上的迦太基守军彻底战败，罗马人征服了整个西班牙半岛。
大胜后的罗马人，对汉尼拔还是心有余悸——即使他退守半岛南端一隅。他们决定，绕过汉尼拔，先打迦太基的老窝。
公元前204年，罗马人从西西里募集到25000名士兵，直奔北非。两次大战中，北非的迦太基人一败涂地，决定召汉尼拔回国。此时，汉尼拔已经在意大利半岛拼杀了15年。
历史惊人的相似——这时的中国，正处在楚汉相争的关键时刻。
公元前202年，汉尼拔和罗马主帅斯奇奥比在北非迦太基城南面布阵。但这一次，汉尼拔遇到的对手远比当年在意大利半岛上的对手要牛。这一次是汉尼拔第一次战败，也是最后一次。第二年，迦太基与罗马人签订城下之盟，条约之中，尽是耻辱之词，如“不经罗马人同意不得与邻国开战”、“交出几乎全部战船”、“50年内付出10万塔兰特”。
至此，罗马人完全控制了地中海西部地区，包括地中海出海口。
