最初，在1927年6月，中共江苏省委机关的会议刚散，便被国民党特务包围，使陈独秀之子、中共江苏省委书记陈延年被捕。紧接着，又因原共产主义青年团江苏省委宣传部长兼秘书长韩步先和上海总工会书记张保臣的叛变，使继任者、中共江苏省委代理书记赵世炎被捕。
陈延年和赵世炎双双遭杀，促使中共考虑成立一个专门的机构，去对付国民党的特务，对付叛徒和内奸。于是，中共江苏省委便建立了一支“红队”。
不久，中共中央机关从武汉迁来上海，也建立了“红队”。
1928年秋，周恩来把这两支“红队”合并在一起，成立了一支“红色恐怖队”。
这支队伍最初由从苏联学习回来的谭保全负责。
“红队”，又称特务工作科，科长为顾顺章，直属中共中央军委领导。据当时参加过这一工作的周惠年回忆，特务工作科下属四个股，即特务股、情报股、保卫股和打击土匪的土匪股 。
特务工作科后来简称特科。
1928年11月14日，中共中央常委会作出决定，成立由向忠发、周恩来、顾顺章三人组成的“中共中央特别委员会”，专门负责反奸工作和中共中央机关保卫工作。
中共中央特科改由中共中央特别委员会领导，由周恩来直接指挥，顾顺章负责。
这时的特科，下分四个科：
第一科为总务科，负责总务，例如租住房、选择会议地址和掌管财务等。
