布拉诺夫在法庭上曾经这样指控亚戈达，他声称亚戈达担心叶若夫知道他组织杀死了基洛夫，所以要斩草除根，把叶若夫干掉。布拉诺夫描绘得绘声绘色，他说亚戈达被撤销职务之后，就在叶若夫工作和生活的区域喷洒毒药。布拉诺夫声称亚戈达要求他本人把汞和酸兑起来，然后另外一名同伙萨沃莱年，则把这些溶液喷洒在叶若夫办公的窗户、桌子、走廊、地毯上。
不过也有一种说法是叶若夫自己用这种溶液，把自己的地盘洒了个遍，然后他把可出入自己办公室的萨沃莱年一顿毒打，最后屈打成招，萨沃莱年终于承认是亚戈达指使他这么干了。
叶若夫还指使布拉诺夫证明亚戈达是一名间谍，用布拉诺夫的话来说，亚戈达对希特勒《我的奋斗》这本书赞誉不绝，而且他说，布哈林在他手下将不会比戈培尔差，如果有这样一个戈培尔式的秘书和完全听命于他的中央，他作为人民委员会主席将会按照自己的意愿管理国家。这相当于直接说亚戈达不但是间谍而且有篡权的想法。
权倾一时的叶若夫只用这两个证据就足以将亚戈达拿下了。亚戈达听了这些指控之后，曾经请求斯大林对其宽恕，他向法官们表明，自己付出了多少努力，做了多少重大项目，但是这一切已经徒劳无益了，斯大林做了决定的事情，很难有回旋的余地了。
1938年3月15日凌晨，亚戈达被枪决。一起被枪决的还有从事密码工作，负责军中反间谍工作，打击运输业破坏活动，打击工业破坏活动，打击敌对政党，负责保卫政治局、跟踪、逮捕和搜查工作的一干人等。
但是，事情还没有完。
亚戈达的妻子被判处6年劳改，他的父母也受到牵连。在那个红色恐怖盛行的岁月，几乎人人自危。亚戈达的一家在这件案子中都受到了牵连。而在几年前，他还是那么风光。他的家族中，哥哥和弟弟都死于非命，他的父亲也一直在为布尔什维克做贡献。亚戈达的父亲在亚戈达被枪决之后，给斯大林写过信，要跟亚戈达撇清关系。当然政治不是儿戏，他父亲要求“在幸福的苏维埃国家里平静地度过自己现在已经不长的余生”的请求，也被驳回了。亚戈达的父母亲也被捕了。
几个月后，被判处6年劳改的亚戈达妻子，又被改判直接枪决。而亚戈达的父母亲则在监禁期间死亡。
不过总的来说，亚戈达虽然悲哀，但是叶若夫也没有什么值得自豪的，他们两个也不过都是斯大林制度的牺牲者。亚戈达被枪决之后不久，也就是1938年4月8日，叶若夫兼任水运人民委员。这个岗位比起叶若夫之前担任的重要岗位而言，是次要岗位了。这就像个魔咒一样，当你从主要岗位调动到次要岗位，那么意味着时日不早了。那是一个大大的漩涡，意味着灭亡，这在意料之外，又在情理之中。
