联邦学习实战（全彩）

　　数据孤岛和隐私保护已经成为制约人工智能发展的关键因素。联邦学习作为一种新型的隐私 保护计算方案，在数据不出本地的前提下，能有效联合各参与方联合建模，从而实现“共同富裕”， 成为当下人工智能领域备受关注的热点。 本书以实战为主（包括对应用案例的深入讲解和代码分析），兼顾对理论知识的系统总结。 全书由五部分共19 章构成。第一部分简要介绍了联邦学习的理论知识；第二部分介绍如何使用 Python 和FATE 进行简单的联邦学习建模；第三部分是联邦学习的案例分析，筛选了经典案例进 行讲解，部分案例用Python 代码实现，部分案例采用FATE 实现；第四部分主要介绍和联邦学习 相关的高级知识点，包括联邦学习的架构和训练的加速方法等；第五部分是回顾与展望。 本书适合对联邦学习和隐私保护感兴趣的高校研究者、企业研发人员阅读。

　　杨强教授 微众银行首席人工智能官（CAIO）和香港科技大学（HKUST）计算机科学与工程系讲席教授。曾任香港科技大学计算机科学与工程系系主任。研究兴趣包括人工智能、机器学习和数据挖掘，特别是迁移学习、自动规划、联邦学习和基于案例的推理。 当选多个国际协会会士（Fellow），包括ACM、AAAI、IEEE、IAPR， CAAI和AAAS。 1982 年获北京大学天体物理学学士学位，并分别于1987年和1989 年获马里兰大学帕克分校计算机科学系硕士学位和博士学位。曾在滑铁卢大学（University of Waterloo，1989-1995 年）和西蒙弗雷泽大学（Simon Fraser University， 1995-2001 年）担任教授。 ACM TIST 和IEEE TBD 创始主编，国际人工智能联合会议（IJCAI）理事长（2017-2019 年）和国际人工智能促进学会（AAAI）的执行委员会成员（2016-2020 年）， 香港人工智能学会的理事长，曾任AAAI 2021大会主席。 曾获多个奖项，包括2004/2005 ACM KDDCUP 冠军、ACM SIGKDD 卓越服务奖（2017）、AAAI 创新人工智能应用奖（2018， 2020）和吴文俊人工智能杰出贡献奖（2019）。 华为诺亚方舟实验室的创始主任（2012-2014 年）和第四范式（AI 平台公司）的共同创始人。 著有多本书籍：《智能规划》 Intelligent Planning （Springer）、《学术研究，你的成功之路》 （清华大学出版社） Crafting Your Research Future （Morgan & Claypool）、《迁移学习》 （机械工业出版社华章公司）Transfer Learning （Cambridge University Press）、《联邦学习》（电子工业出版社）Federated Learning （Morgan Claypool），Constraint-based Design Recovery for Software Engineering（Springer）。 黄安埠微众银行AI项目组资深研究员，毕业于清华大学。在机器学习、隐私保护安全计算、推荐系统和计算机视觉等领域有丰富的研究和落地经验。 已申请和拥有30多项国内和PCT国际专利，学术成果发表在AAAI、ACM TIST、IEEE BigData、AI Magazine等国际学术会议期刊上； 获得AAAI人工智能创新应用奖（2020年）；著有《深入浅出深度学习》（电子工业出版社，2017年）一书。 在加入微众银行之前曾任职于腾讯，期间领导创建了服务于亿级用户、全球较大的中文音乐流媒体在线推荐平台。 刘 洋 微众银行AI项目组资深研究员、研究团队负责人。 研究兴趣包括机器学习、联邦学习、迁移学习、多智能体系统、统计力学以及这些技术的产业应用。 2012年获得普林斯顿大学博士学位，2007年获得清华大学学士学位。 拥有多项国际发明专利，研究成果曾发表于Nature、IJCAI、AAAI和ACM TIST等科研刊物和会议上； 曾获得AAAI人工智能创新应用奖、IJCAI创新应用奖和CCF科技成果奖等多个奖项；《联邦学习》一书的主要作者之一。 陈天健微众银行AI项目组副总经理，目前负责构建基于联邦学习技术的银行智能生态系统。 拥有超过15年的大规模分布式智能系统设计经验，并在Web搜索引擎、对等网络存储、计算基因组学、个性化推荐系统、数字银行等多个应用领域中实现了技术创新。 现居中国深圳，与工作伙伴一起建设和推广联邦学习开源项目FATE。 在加入微众银行之前曾担任百度金融首席架构师（同时也是百度的主任架构师）。

第一部分联邦学习基础

第1章 联邦学习概述/3
1.1 数据资产的重要性/4
1.2 联邦学习提出的背景/5
1.3 联邦学习的定义/7
1.4 联邦学习的分类/10
1.5 联邦学习算法现状/12

第2章 联邦学习的安全机制/15
2.1 基于同态加密的安全机制/16
2.1.1 同态加密的定义/16
2.1.2 同态加密的分类/18
2.2 基于差分隐私的安全机制/20
2.2.1 差分隐私的定义/20
2.2.2 差分隐私的实现机制/23
2.3 基于安全多方计算的安全机制/26
2.3.1 秘密共享/26
2.3.2 不经意传输/28
2.3.3 混淆电路/29
2.4 安全机制的性能效率对比/30
2.5 基于Python 的安全计算库/31

第二部分联邦学习快速入门

第3章 用Python 从零实现横向联邦图像分类/35
3.1 环境配置/36
3.2 PyTorch 基础/37
3.2.1 创建Tensor /37
3.2.2 Tensor 与Python 数据结构的转换/38
3.2.3 数据操作/39
3.2.4 自动求导/41
3.3 用Python 实现横向联邦图像分类/41
3.3.1 配置信息/41
3.3.2 训练数据集/42
3.3.3 服务端/43
3.3.4 客户端/45
3.3.5 整合/46
3.4 联邦训练的模型效果/47
3.4.1 联邦训练与集中式训练的效果对比/47
3.4.2 联邦模型与单点训练模型的对比/48

第4章 微众银行FATE 平台/51
4.1 FATE 平台架构概述/52
4.2 FATE 安装与部署/53
4.2.1 单机部署/53
4.2.2 集群部署/54
4.2.3 KubeFATE 部署/55
4.3 FATE 编程范式/55
4.4 FATE 应用案例/57

第5章 用FATE 从零实现横向逻辑回归/59
5.1 数据集的获取与描述/60
5.2 逻辑回归/60
5.3 横向数据集切分/61
5.4 横向联邦模型训练/62
5.4.1 数据输入/63
5.4.2 模型训练/65
5.4.3 模型评估/67
5.5 多参与方环境配置/71

第6章 用FATE 从零实现纵向线性回归/73
6.1 数据集的获取与描述/74
6.2 纵向数据集切分/74
6.3 纵向联邦训练/76
6.3.1 数据输入/76
6.3.2 样本对齐/78
6.3.3 模型训练/78
6.3.4 模型评估/81

第7章 联邦学习实战资源/85
7.1 FATE 帮助文档/86
7.2 本书配套的代码/86
7.3 其他联邦学习平台/86
7.3.1 TensorFlow-Federated /86
7.3.2 OpenMined PySyft /87
7.3.3 NVIDIA Clara 联邦学习平台/88
7.3.4 百度PaddleFL /89
7.3.5 腾讯AngelFL /90
7.3.6 同盾知识联邦平台/90

第三部分联邦学习案例实战详解

第8章 联邦学习在金融保险领域的应用案例/95
8.1 概述/96
8.2 基于纵向联邦学习的保险个性化定价案例/97
8.2.1 案例描述/97
8.2.2 保险个性化定价的纵向联邦建模/98
8.2.3 效果对比/102
8.3 基于横向联邦的银行间反洗钱模型案例/103
8.3.1 案例描述/103
8.3.2 反洗钱模型的横向联邦建模/104
8.3.3 效果对比/105
8.4 金融领域的联邦建模难点/106
8.4.1 数据不平衡/106
8.4.2 可解析性/107

第9章 联邦个性化推荐案例/109
9.1 传统的集中式个性化推荐/110
9.1.1 矩阵分解/110
9.1.2 因子分解机/112
9.2 联邦矩阵分解/114
9.2.1 算法详解/114
9.2.2 详细实现/116
9.3 联邦因子分解机/119
9.3.1 算法详解/119
9.3.2 详细实现/122
9.4 其他联邦推荐算法/126
9.5 联邦推荐云服务使用/127

第10章 联邦学习视觉案例/129
10.1 概述/130
10.2 案例描述/131
10.3 目标检测算法概述/131
10.3.1 边界框与锚框/132
10.3.2 交并比/133
10.3.3 基于候选区域的目标检测算法/133
10.3.4 单阶段目标检测/134
10.4 基于联邦学习的目标检测网络/136
10.4.1 动机/136
10.4.2 FedVision-联邦视觉产品/137
10.5 方法实现/138
10.5.1 Flask-SocketIO 基础/138
10.5.2 服务端设计/141
10.5.3 客户端设计/143
10.5.4 模型和数据集/145
10.5.5 性能分析/146

第11章 联邦学习在智能物联网中的应用案例/149
11.1 案例的背景与动机/150
11.2 历史数据分析/152
11.3 出行时间预测模型/153
11.3.1 问题定义/153
11.3.2 构造训练数据集/154
11.3.3 模型结构/155
11.4 联邦学习实现/156
11.4.1 服务端设计/157
11.4.2 客户端设计/158
11.4.3 性能分析/159

第12 章联邦学习医疗健康应用案例/161
12.1 医疗健康数据概述/162
12.2 联邦医疗大数据与脑卒中预测/164
12.2.1 脑卒中预测案例概述/164
12.2.2 联邦数据预处理/164
12.2.3 联邦学习脑卒中预测系统/165
12.3 联邦学习在医疗影像中的应用/169
12.3.1 肺结节案例描述/170
12.3.2 数据概述/170
12.3.3 模型设计/171
12.3.4 联邦学习的效果/173

第13章 联邦学习智能用工案例/175
13.1 智能用工简介/176
13.2 智能用工平台/176
13.2.1 智能用工的架构设计/176
13.2.2 智能用工的算法设计/177
13.3 利用横向联邦提升智能用工模型/180
13.4 设计联邦激励机制，提升联邦学习系统的可持续性/180
13.4.1 FedGame 系统架构/181
13.4.2 FedGame 设计原理/182
13.5 系统设置/183

第14章 构建公平的大数据交易市场/185
14.1 大数据交易/187
14.1.1 数据交易的定义/187
14.1.2 数据确权/188
14.1.3 数据定价/189
14.2 基于联邦学习构建新一代大数据交易市场/189
14.3 联邦学习激励机制助力数据交易/190
14.4 联邦学习激励机制的问题描述/191
14.5 FedCoin 支付系统设计/192
14.5.1 PoSap 共识算法/193
14.5.2 支付方案/197
14.6 FedCoin 的安全分析/198
14.7 实例演示/199
14.7.1 演示系统的实现/199
14.7.2 效果展示/200

第15 章联邦学习攻防实战/203
15.1 后门攻击/204
15.1.1 问题定义/204
15.1.2 后门攻击策略/205
15.1.3 详细实现/207
15.2 差分隐私/210
15.2.1 集中式差分隐私/211
15.2.2 联邦差分隐私/213
15.2.3 详细实现/215
15.3 模型压缩/217
15.3.1 参数稀疏化/217
15.3.2 按层敏感度传输/219
15.4 同态加密/222
15.4.1 Paillier 半同态加密算法/222
15.4.2 加密损失函数计算/222
15.4.3 详细实现/224

第四部分联邦学习进阶

第16 章联邦学习系统的通信机制/231
16.1 联邦学习系统架构/232
16.1.1 客户–服务器架构/232
16.1.2 对等网络架构/233
16.1.3 环状架构/234
16.2 网络通信协议简介/235
16.3 基于socket 的通信机制/237
16.3.1 socket 介绍/237
16.3.2 基于Python 内置socket 库的实现/238
16.3.3 基于Python-SocketIO 的实现/239
16.3.4 基于Flask-SocketIO 的实现/241
16.4 基于RPC 的通信机制/241
16.4.1 RPC 介绍/241
16.4.2 基于gRPC 的实现/243
16.4.3 基于ICE 的实现/244
16.5 基于RMI 的通信机制/248
16.5.1 RMI 介绍/248
16.5.2 在Python 环境下使用RMI /249
16.6 基于MPI 的通信机制/249
16.6.1 MPI 简介/249
16.6.2 在Python 环境下使用MPI /249
16.7 本章小结/250

第17 章联邦学习加速方法/251
17.1 同步参数更新的加速方法/252
17.1.1 增加通信间隔/253
17.1.2 减少传输内容/254
17.1.3 非对称的推送和获取/256
17.1.4 计算和传输重叠/256
17.2 异步参数更新的加速方法/257
17.3 基于模型集成的加速方法/258
17.3.1 One-Shot 联邦学习/258
17.3.2 基于学习的联邦模型集成/260
17.4 硬件加速/261
17.4.1 使用GPU 加速计算/261
17.4.2 使用FPGA 加速计算/263
17.4.3 混合精度训练/264

第18章 联邦学习与其他前沿技术/267
18.1 联邦学习与Split Learning /268
18.1.1 Split Learning 设计模式/268
18.1.2 Split Learning 与联邦学习的异同/270
18.2 联邦学习与区块链/271
18.2.1 区块链技术原理/271
18.2.2 联邦学习与区块链的异同点/275
18.3 联邦学习与边缘计算/277
18.3.1 边缘计算综述/277
18.3.2 联邦学习与边缘计算的异同点/279

第五部分 回顾与展望

第19 章总结与展望/283
19.1 联邦学习进展总结/287
19.1.1 联邦学习标准建设/287
19.1.2 理论研究总结/288
19.1.3 落地应用进展总结/290
19.2 未来展望/292
19.2.1 联邦学习的可解析性/293
19.2.2 联邦学习的安全性/295
19.2.3 联邦学习的公平性激励机制/296
19.2.4 联邦学习的模型收敛性和性能效率/297
参考文献/299