然而，天主教在日本的传播如同昙花一般，只灿烂了短短一个世纪就退出了历史舞台。这和日本的两代统治者：丰臣秀吉和德川家康对天主教的态度有密切的关系。丰臣秀吉本人并不喜欢天主教的“一夫一妻”主张，对天主教说不上有什么好感，所以不会像对洋枪和贸易有着浓厚兴趣的织田信长那样支持天主教的传播。在获得日本政权后，丰臣秀吉于1587年发布了著名的《伴天连追放令》，宣布日本为神国，故天主教违反天下御法度，是为非法，所有传教士二十日内必须离开日本不得再来。但允许和“南蛮”人保持商业上的往来。事实上，在这一著名命令后，天主教禁教还不是很严厉，丰臣秀吉当然不想丢掉和“南蛮”人贸易的巨大利润，也不希望引起切支丹大名的叛乱，因此对西班牙圣方济各会的传教睁一只眼闭一只眼。但就在此时，庆长元年（1596），发生了“圣菲利浦”号事件，从而引发日本天主教史上著名的“庆长大殉教”。
1596年，一艘西班牙商船“圣菲利浦”号遇海难飘到土佐，增田长盛作为日本方的使节上船处理，扣押了所有船员。在审讯时，船长供出了西班牙人是如何利用天主教作为先锋，在取得当地的信任后建立殖民地的。这一供状让丰臣秀吉惊恐万状，他早就担心天主教徒会像国内的“一向宗”一样造反。现在他看到了天主教更大的威胁，毅然决定全面禁教。第二年，他把各地的天主教信徒和传教士26人逮捕，处死于长崎。
德川家康建立江户幕府后，出于经济上的原因，再次放松了对天主教传教的控制。圣方济各会等天主教修会的传教士再次进入日本进行传教。庆长十八年（1613），伊达政宗甚至还派遣家臣支仓常长出使罗马，觐见教皇。但就在支仓常长前往罗马的时候，日本国内却发生了大变化。新教国家荷兰的崛起使德川找到了不利用传教的贸易对象。而导致德川幕府禁教的导火线则是“冈本大八事件”。庆长十四年（1609），信仰天主教的大名有马晴信手下人与葡萄牙商船船夫发生械斗，造成流血事件。为报复，有马晴信申请将该船击沉并向幕府邀功。他重金贿赂家康的近臣本多正纯的家臣冈本大八，希望能通过他获得家康的赏赐，恢复有马家的旧领地。冈本大八却是个贪官，收了钱就中饱私囊不给办事。有马晴信就找到他上司本多正纯，双方一对质，本多正纯对此事愕然不知，事情败露。冈本大八伪造家康的朱印文件诈取钱财，被处以火刑；有马晴信被流放后责令自裁。元和六年（1620）又发生了“平山常陈事件”，平山常陈是一艘“朱印船”的船长，是拿着德川幕府颁发的许可证“朱印状”从事海外贸易的，在外海被英国船只俘获并与英荷船只一同被拖进了日本平户港。平山常陈遂向日本官方控诉英国人的“海盗行为”。不幸的是，在他的船只中搜查发现了两名西班牙传教士，这就使事件的性质变化了。因为传教士已经被幕府禁止进入日本，而英荷作为新兴殖民国家，与西葡两个传统殖民国家在亚洲有着利益冲突，他们抓住这一事件大做文章。英荷与西葡互相攻讦，令幕府大动肝火。两年后，将平山常陈与其船员一并处斩，并开始大肆搜捕天主教徒和传教士。元和八年（1622）八月五日，幕府在长崎将55名教徒分别判处火刑和斩首，史称“元和大殉教”。嗣后，幕府厉行禁教并宣布锁国。
但天主教在战国时期的传播速度使它在日本民间有了很大的影响，所以从家康开始的德川三代将军的野蛮禁教引起了民间的不满。宽永十四年（1637），在天主教的传播中心九州北部爆发了天主教徒的大规模起义，史称“岛原之乱”。岛原当地的农民以天主教信仰为旗帜，共推天草四郎为首领，德川幕府付出了重大的代价，终于在荷兰人的协助下把起义镇压下去。这次起义，也让幕府看到了天主教信徒力量的恐怖，于是更坚定了幕府严格执行锁国政策的决心。天主教信仰从16世纪中叶开始萌芽，到此逐渐衰亡，犹如昙花一现，在创造了一个辉煌的“切支丹世纪”以后退出了日本的历史舞台，天主教信仰也从此转入地下，直到明治维新前夜。
