人工智能伦理与治理：未来视角

　　当前，有很多关于人工智能（AI），并和人类生产、生活关系紧密的议题被广泛讨论，包括“如何避免大数据时代个人隐私形同虚设”“代码是否具有道德”等。这些现实议题背后，是两个根本问题：何为“AI伦理”？何为“AI治理”？ 本书汇聚众多专家的观点，对这两个根本问题进行了深入探讨，涉及人工智能、计算机、法律、社会学等多个领域，覆盖社会和个人、生产和生活的诸多方面。　本书是根据未来论坛“AI伦理与治理”系列研讨会的成果总结、整理而来，分为AI向善的理论与实践、AI的公平性、AI与风险治理、AI决策的可靠性和可解释性、用户数据隐私、包容性的AI这6个专题方向。每个专题方向均汇集了各领域中一线专家经充分思辨讨论后形成的观点。　本书适合人工智能领域学者、工程师、管理者、创业人员和相关专业学生，法律、社会学等领域的专业人士，以及政府相关部门人员阅读。

　　未来论坛，成立于2015 年，是由一群崇尚科学、热心公益的科学家、企业家和投资人共同发起创立的科学公益组织。未来论坛致力于通过民间公益力量，以科学激励、科学交流、科学传播的方式促进科学发展，推动社会进步。

导论　人工智能的伦理和治理——挑战与应对/ 1

第1章　AI向善的理论与实践/ 9

1．1　导语/ 9

1．2　主题对话：AI伦理与治理的根本问题/ 12

1．2．1　技术改变世界，世界需要治理/ 16

1．2．2　技术恶果源于人类自身，人工智能带来了哪些挑战/ 18

1．2．3　“技术替代”甚嚣尘上，通用人工智能在哪里/ 20

1．2．4　技术发展不断向前，人工智能如何治理/ 23

1．2．5　前沿技术结合行业应用，如何明确治理责任/ 25

第2章　AI的公平性/ 29

2．1　导语/ 29

2．2　主题分享/ 31

2．2．1　全球AI治理进展和新动态/ 32

2．2．2　人工智能与数据治理/ 40

2．2．3　法律如何保障AI应用的公平性/ 47

2．3　主题对话：AI 公平性的现状和趋势/ 52

2．3．1　技术提升公平性，根源在于“人心”/ 54

2．3．2　公平是动态概念，多重因素决定评估标准/ 55

2．3．3　技术“偏见”为中性，解决方案基于社会语境/ 57

2．3．4　技术标准和光同尘，AI 现实求同存异/ 58

第3 章　AI 与风险治理/ 62

3．1　导语/ 62

3．2　主题分享/ 66

3．2．1　自动驾驶中的技术、风险与法律/ 67

3．2．2　（AI）风险的事实、幻象与感知/ 69

3．2．3　道阻且长，行则将至——进入深水区的AI 安全与企业实践/ 72

3．2．4　AI 系统安全风险分析/ 76

3．3　主题对话： AI 是把双刃剑，风险和价值“皆在场”/ 80

3．3．1　风险不只是概率，也具有社会维度/ 80

3．3．2　AI 的能力越大，责任越大/ 84

3．3．3　AI 正在代替人类决策，但可解释AI 任重而道远/ 86

第4章　AI 决策的可靠性和可解释性/ 89

4．1　导语/ 89

4．2　主题分享/ 91

4．2．1　从可解释AI 到可理解AI ：基于算法治理的视角/ 92

4．2．2　人工智能：从“知其然”到“知其所以然”/ 98

4．2．3　AI 可靠性和可解释性：软件工程视角/ 102

4．3　主题对话：AI 决策的可靠性和可解释性/ 106

4．3．1　为何需要可解释与可靠性/ 109

4．3．2　面对AI 风险，公众有哪些诉求/ 110

4．3．3　AI 可靠性和可解释性有什么样的关系/ 111

4．3．4　可信人工智能在实际应用中面临哪些挑战/ 114

4．3．5　各方如何共同参与AI 可靠性的发展/ 116

4．3．6　强监管环境下，政府和企业如何联动/ 117

第5章　用户数据隐私/ 119

5．1　导语/ 119

5．2　主题分享/ 121

5．2．1　“伦理即服务”视角下的AI 数据伦理治理/ 122

5．2．2　人脸识别技术的法律规制框架/ 128

5．2．3　算法中的“人”——基于“个人信息保护法”的观察/ 131

5．3　主题对话：新时代的用户数据隐私/ 133

5．3．1　宏观视角下的数据隐私/ 136

5．3．2　如何看待用户和平台之间的关系/ 138

5．3．3　价值最大化条件下，如何减少对用户数据隐私的侵犯/ 138

5．3．4　如何定义隐私/ 140

5．3．5　如何保护个人数据隐私/ 140

5．3．6　普通民众如何影响相关的政策制定/ 142

第6章　包容性的AI/ 143

6．1　导语/ 143

6．2　主题分享/ 146

6．2．1　无障碍与平等参与/ 147

6．2．2　从爱到AI 的变与不变：残障何以作为“人”的尺度/ 151

6．2．3　面向无障碍应用的创新设计/ 157

6．2．4　无形的障碍与包容性人工智能/ 161

6．2．5　人工智能创新发展与伦理治理/ 165

6．3　主题对话：包容性AI——以人为本/ 168

6．3．1　什么是包容性AI/ 169

6．3．2　如何考虑包容性AI 的成本效益/ 170

6．3．3　人和AI 到底应该是什么样的关系/ 172

“AI 伦理与治理”系列研讨会嘉宾/ 174