他回国不久，麦卡锡主义在美国国内掀起了反共浪潮，追究“是谁丢失了中国”，追查国务院中“通共”的驻华外交官。他和谢伟思、戴维斯、文森特等几个驻中国的外交官，都受到了美国非美活动委员会的审查和迫害，蒙受了冤案。
朝鲜战争开始后，在中央情报局未能料到中国军队出兵朝鲜而被指责失职的情况下，由于柯乐布竟然能准确地预测新中国出兵朝鲜，被怀疑有“通共”嫌疑而被列入特别调查的黑名单。
1951年6月间，美国国务院的忠诚审查委员会给了柯乐布一张具体指控清单。清单中开列了多种“通共”的罪行的指控，并都标明有“证据确凿”的字样。清单中有这样的内容：
1. 在1931年至1934年间，在中国汉口与共产党人有交往；
2. 从1932年至1934年间，以赞同的态度看待共产主义的某些方面；
3. 从1934年至1935年间，在中国北平，有明显的“粉红色”倾向；
4. 在30年代初期，对某些共产主义原则有明显的偏爱；
5. 从1935年至1937年，对苏联和共产主义持友好态度；
6. 1940年，在中国上海，百分之百地亲共；
7. 同下述各类人有（或有过）密切的和惯常的交往：安娜?路易丝?斯特朗、史沫特莱、埃德加?斯诺、马海德、符拉基米尔?米基耶夫、克劳德?巴斯等。
以上说的都是所谓“证据确凿”的，他被迫去翻那些发黄的旧报纸写材料，也被迫交出了自己的日记。当然，他为此写了好些文字来进行解释。
这份指控清单中也有一部分是属于“尚待证实”的，其中有一条，就是指控他1949年在北平担任总领事期间，在“维护美国的权利和财产不受共产党人侵害方面不力”。
当时新中国中央新闻纪录片厂的摄影师拍了一段原美国驻北平总领事馆降旗仪式的纪录片，镜头中有中美双方有关人员在场。他的日记中记述了他在离开北平的总领事馆时，“将每个房间的钥匙都插在锁眼里，并事先降下了国旗，拒绝在共产党提供的移交房产声明上签字”等等。
这段纪录片与这段文字给问罪者留下了把柄。
他只好在给审查委员会的解释中说，北京纪录片里“降旗仪式中的柯乐布，不知道是谁扮演的”。他自己并解释说，在共产党占领北平后，他在维护美国权利和资财上只是“太缺乏灵活性了”。
他曾经请同时期在北平的武官包瑞德上校作证，看他（柯乐布）是不是一个可靠的人物。包瑞德虽说已经比他提前两个月，于1950年2月间离开北京回国，当然无法参加总领事馆的降旗仪式，就对审查委员会作证说：
“我一向认为他这个人可靠，只是可靠到了令人讨厌的地步。”
原美国驻北平总领事埃德蒙?柯乐布先生，一个曾经忠于职守的美国驻华外交官，经过了使他战战兢兢而为期半年多的审查，终于在1951年底得到了一件“圣诞礼物”：国务院忠诚审查委员会声称，虽然没有理由怀疑他的忠诚，但是委员会已经断定他是一个危险人物，因此须离开驻外处这个国务院的重要机构。
柯乐布被迫退休了，但并没有闲着，经历、学识和勤奋使他成为一个历史学家与中国问题专家，并普遍受人尊敬。在华盛顿有评论说：“他的著作《二十世纪的中国》以及《中国和俄国》，使一切严肃的学者所涉足的图书馆的书架都为之生色不少。”
1972年尼克松总统访华之后，美国外交学会于1973年1月30日，在国务院八楼庄严的富兰克林大厅举行午餐会，宴请在40年代曾经如实地报告情况的诚实正直的外交官。有人说：“想想以前，现在在电视与照片上看到尼克松总统和毛泽东主席双双坐在一对沙发上，怎能不由衷地意识到，事实确实比虚构更加不可思议吗？”
71岁的柯乐布也到会了，他感慨万分，在掌声中说：“到这里来我很高兴。我必须坦诚地说，对这种可能性我以前连想都没有想过。”
