智家的大夫智伯瑶特别骄横，想占有其他三家的土地，就对其他三家大夫赵襄子、魏桓子、韩康子说：“晋国本来是中原霸主，后来被吴、越两国夺去了霸主地位。为了使晋国强大起来，我主张每家都拿出一些土地和人口来归给国君。”三家大夫都知道智伯瑶存心不良，想以国君的名义来压他们交出土地。可是三家并不团结，韩康子首先把部分土地和一万户人口割让给智家；魏桓子不愿得罪智伯，也送了一些土地、人口。智伯瑶又向赵襄子要土地，赵襄子却不答应，说：“土地是上代留下来的产业，说什么也不能送人。”智伯瑶一看赵襄子不听招呼，马上号令韩、魏两家一起发兵攻打赵家。公元前455年，智伯瑶自己率领中军，韩家的军队担任右路军，魏家的军队担任左路军，三队人马杀奔赵家地盘。赵襄子自知寡不敌众，就带着赵家兵马退守晋阳（今山西太原市）。智伯瑶率领三家人马把晋阳城团团围住。赵襄子吩咐将士们坚守，不与三家交战。每当三家兵士攻城的时候，城头上便用弓箭防御，使三家人马没法前进一步。晋阳城凭着弓箭死守了一年多。三家兵马始终没有能把它攻下来。
有一次，智伯瑶在城外察看地形，忽然看到晋阳城东北的晋水，想出了一个好主意：晋水绕过晋阳城往下游流去，要是把晋水引到西南边来，晋阳城不就被淹了吗？他马上吩咐兵士在晋水旁边另外挖一条河，一直通到晋阳，又在上游筑起坝，拦住上游的水。这时候正赶上雨季，水坝上的水满了。智伯瑶命令兵士在水坝上挖开了个豁口。这样，大水就直冲晋阳，灌到城里去了。城里的房子被淹了，老百姓不得不跑到房顶上去避难，炉灶也被淹在水里，人们不得不把锅挂起来做饭。晋阳城的老百姓恨透了智伯瑶，宁可淹死，也不肯投降。
为了炫耀自己的杰作，智伯瑶约韩康子、魏桓子一起去察看水势。他指着晋阳城得意地对他们两人说：“你们看，晋阳不是马上就快完了吗？我看姓赵的还能撑几天！没想到水攻这么有效，轻而易举就把赵氏给灭掉了！”
