胡佛在担任联邦调查局局长期间，为打击美国犯罪活动做出了很大的努力，在打击黑社会组织和抢劫犯罪团伙方面，在收集情报和反间谍活动方面，都取得了一些成绩，获得了美国公众的好评。比如在二战期间的1942年，德国派遣到美国的8名间谍就一举被美国联邦调查局抓获。
但是美国的许多批评者认为，胡佛的行为已经超出了联邦调查局的职责范围。如，他利用联邦调查局调查与骚扰政治异见者和政治活动分子，使用非法手段收集整理政治领袖的秘密档案，被联邦调查局秘密调查的疑似颠覆者和激进人士达数万人。
1945年，美国政府以美国国内工人频繁发动罢工是因为工会被共产党渗透为由，在全国开展了清除美国国内的所谓共产主义意识形态的行动。美国联邦调查局趁机对一些媒体进行了查抄，并逮捕了一些编辑。从1947年12月开始，杜鲁门政府在美国进行所谓“忠诚调查”，大约有2000多万美国人受到联邦调查局的审查。令人啼笑皆非的是，美国学校的教师在上课时，必须咒骂前苏联和共产主义，以表明自己的政治立场；参加角逐美国小姐的候选人，必须陈述她们对卡尔·马克思的看法。在朝鲜战争爆发时，胡佛向杜鲁门总统提交了一份有1.2万名对美国不忠的嫌疑人名单。
20世纪50年代初，名噪一时的美国参议员麦卡锡，在胡佛的支持下，把反共运动推向了高潮。在麦卡锡的煽动下，包括史沫特莱在内的美国75位作家的书籍被列为禁书，连马克·吐温的作品也被列入“危险书籍”，美国一些城市和学校的图书馆纷纷查禁或焚毁“任何可疑的书籍和杂志”，甚至包括爱因斯坦的《相对论》，被剔除的书籍总数约200万册。中国人民的老朋友埃德加·斯诺在“麦卡锡主义”的迫害下，不得不离开美国前往瑞士定居。一批电影界和文艺界的人士受到联邦调查局的审查或被逮捕，著名演员卓别林被从美国扫地出门。
由于美国联邦调查局对爱因斯坦赞同共产主义理想、支持民权运动感到不安，特别担心爱因斯坦这样的名人批评美国政府在社会上产生的负面影响，美国联邦调查局对爱因斯坦进行了严密的监视。为了找到把爱因斯坦驱逐出境的罪证，秘密建立了爱因斯坦长达1400多页的档案，上面记录着美国联邦调查局调查爱因斯坦的各项内容。
另一方面，为了阻止在美国的一些华人科学家回国参加新中国的建设，美国联邦调查局千方百计陷害想要回国的这些人员。美国联邦调查局非法拘留钱学森，不让钱学森离开美国，并派遣特工闯入钱学森研究室及住宅进行破坏行动，就是典型的例子。
联邦调查局的调查手段包括渗透、监视、窃听、伪造文件和散布针对目标的谣言，乃至使用暴力和谋杀。
1961年7月2日，美国著名作家海明威因不堪忍受美国联邦调查局长期对他的监视，在家中开枪自尽。
美国联邦调查局对外国外交官和其他外国人员的监视活动远远早于美国国家安全局。美国《外交政策》杂志报道，在2006年至2009年期间，在美国首都华盛顿西北部中国新大使馆建设工地上，每天都有直升机在上空盘旋，拍摄中国新大使馆建筑工地的照片。这些直升机就隶属于联邦调查局，目的是为了确定中国大使馆的通信中心位置。针对美方的监视行为，中方建筑人员用帆布将工地蒙了起来。
