创新工场讲AI课：从知识到实践

　　创新工场于2017年发起了面向高校在校生的DeeCamp人工智能训练营（简称DeeCamp训练营），训练营内容涵盖学术界与产业界领军人物带来的全新AI知识体系和来自产业界的真实实践课题，旨在提升高校AI人才在行业应用中的实践能力，以及推进产学研深度结合。本书以近两年DeeCamp训练营培训内容为基础，精选部分导师的授课课程及有代表性的学员参赛项目，以文字形式再现训练营“知识课程+产业实战”的教学模式和内容。全书共分为9章，第1章、第2章分别介绍AI赋能时代的创业、AI的产品化和工程化挑战；第3章至第8章聚焦于AI理论与产业实践的结合，内容涵盖机器学习、自然语言处理、计算机视觉、深度学习模型的压缩与加速等；第9章介绍了 4 个优秀实践课题，涉及自然语言处理和计算机视觉两个方向。本书适合AI相关专业的高校在校生及AI行业的工程师使用，可作为他们了解AI产业和开拓视野的读物。

　　★★主要作者（按章节顺序排序）★★★李开复★ 李开复博士于2009年创立创新工场，担任董事长兼首席执行官，专注于科技创新型的投资理念与最前沿的技术趋势。十多年来创新工场已经投资逾400个创业项目，管理总额约160亿人民币的双币基金。2016年秋季创办创新工场人工智能工程院，致力于利用最前沿的AI技术为企业提供人工智能产品与解决方案。在此之前，李开复博士曾是谷歌中国全球副总裁兼大中华区总裁，担任微软全球副总裁期间开创了微软亚洲研究院，并曾服务于苹果、SGI等知名科技企业。李开复在美国哥伦比亚大学取得计算机科学学士学位，以zui gao荣誉毕业于卡耐基梅隆大学获得博士学位。同时，李开复获得香港城市大学、卡耐基梅隆大学荣誉博士学位。李开复获选为美国电机电子工程师学会（IEEE）的院士，并被《时代》杂志评选为2013影响全球100位年度人物之一，《Wired 连线》本世纪推动科技全球25位标杆人物，2018亚洲商界领袖奖等殊荣，并出任世界经济论坛第四次工业革命中心的AI委员会联席主席。李开复博士发明过十项美国专利，发表逾百篇专业期刊或会议论文，并出版过十本中文畅销书。★王咏刚★ 王咏刚，现任创新工场CTO人工智能工程院执行院长，加入创新工场前担任谷歌主任工程师和高级技术经理超过十年，在谷歌参与或负责研发的项目包括桌面搜索、谷歌拼音输入法、产品搜索、知识图谱、谷歌首页涂鸦（Doodles）等，在知识图谱、分布式系统、自然语言处理、HTML5动画和游戏引擎等领域拥有丰富的工程研发经验。目前专注于人工智能前沿科技的工程化与商业化，以及人工智能高端人才的培养，作为联合创始人，创立了人工智能商业化公司创新奇智，同时也是人工智能高端应用型人才培养项目DeeCamp的发起者。★张潼★ 张潼博士，机器学习领域国际著名专家，拥有美国康奈尔大学数学和计算机双学士学位，以及斯坦福大学计算机硕士和博士学位，在香港科技大学数学系和计算机系任教。曾经担任美国新泽西州立大学终身教授，IBM研究院研究员和雅虎研究院主任科学家，百度研究院副院长和大数据实验室负责人，腾讯AI Lab主任。他曾参加美国国家科学院大数据专家委员会，负责过多个美国国家科学基金资助的大数据研究项目，此外还是美国统计学会和国际数理统计学会fellow，并担任NIPS、ICML、COLT等国际顶级机器学习会议主席或领域主席，以及PAMI， JMLR， 和Machine Learning Journal等国际一流人工智能期刊编委。★宋彦★ 宋彦博士，香港中文大学（深圳） 数据科学学院副教授，创新工场大湾区研究院首席科学家。历任微软、腾讯研究员及首席研究员，创新工场大湾区研究院执行院长等职，是 “微软小冰”项目的创始团队成员之一，其研究方向包括自然语言处理、信息检索和抽取、文本表征学习等。★屠可伟★ 屠可伟博士，上海科技大学信息科学与技术学院长聘副教授、研究员、博士生导师。研究方向包括自然语言处理、机器学习、知识表示、计算机视觉等人工智能领域，侧重于研究语言结构的表示、学习与应用。★张发恩★ 张发恩，创新奇智联合创始人，创新奇智公司CTO， 宁波诺丁汉大学客座教授。2008年毕业于中国科学院软件研究所，同年加入微软，负责Office相关软件产品的研发工作；2010年，入职Google，作为核心研发人员，主导和参与Google搜索引擎、Google知识图谱等相关工作；2015年，加入百度，作为百度云早期创始团队成员之一，曾任百度云计算事业部技术委员会主席，百度云计算事业部大数据和人工智能主任架构师。他在IT行业拥有十几年技术研发和管理经验，涉及企业级软件、室内地图定位与导航、互联网搜索引擎、全领域知识图谱、大数据计算与存储、机器学习、深度学习、机器视觉等众多领域。工作期间获得10余项美国专利，70余项中国专利，发表过多篇顶级会议学术论文。★唐剑★ 唐剑博士，滴滴智能控制首席科学家，AI Labs 负责人兼算法委员会主席，IEEE Fellow和ACM杰出科学家，领导滴滴在智能物联网、计算机视觉和自动驾驶方向上的研发。 他在国际顶级期刊和会议上发表了160多篇学术论文，拥有多项发明专利，在边缘智能、AI驱动的系统控制和群智感知方向上做出开创性贡献，并多次获得最佳论文奖， 其中包括通信网络领域的zui gao论文奖2019 年度IEEE 通信学会William R. Bennett Prize和IEEE车载技术学会2016年度最佳车载电子论文奖。目前还担任中国电子学会物联网专委会专家委员、新一代人工智能产业技术创新战略联盟专家委员会委员、IEEE车载技术学会杰出演讲人、以及IEEE通信学会交换和路由技术委员会主席。 ★张弥★ 张弥博士，现任密歇根州立大学副教授，2006年毕业于北京大学，2013年获得美国南加州大学博士学位，2013-2014年在美国康奈尔大学任博士后。主要研究领域包括终端深度学习、自动机器学习、联邦学习和机器学习系统。本人及其研究团队在2019年Google MicroNet Challenge 全球竞赛中获得CIFAR-100赛道第四名 （北美第yi名），在 2017年NSF Hearables Challenge全球竞赛中获得第三名，在2016年NIH Pill Image Recognition Challenge全球竞赛中获得冠军。★吴佳洪★ 吴佳洪，创新奇智高级研究员，2017年毕业于北京大学。曾带队获得Pascal Voc 世界冠军、Cityscapes 实例分割冠军、ADE20K物体分割冠军等；曾负责创新奇智无人货柜项目的算法工作，专注于计算机视觉领域，发表过多篇CVPR论文。★刘宁★ 刘宁博士，滴滴资深研究员，毕业于美国东北大学计算机工程系。研究领域包括深度增强学习、深度模型压缩与加速、边缘计算等。在国际顶级期刊和会议AAAI， MICRO， ASPLOS，ISCA等发表学术论文20余篇，发表多项发明专利。

★第1章 AI赋能时代的创业★
1.1　中国AI如何弯道超车
1.2 AI从“发明期”进入“应用期”
1.2.1 深度学习助推AI进入“应用期”
1.2.2 To B创业迎来黄金发展期
1.2.3 “传统产业+AI”将创造巨大价值
1.2.4 AI赋能传统行业四部曲
1.3 AI赋能时代的创业特点
1.3.1 海外科技巨头成功因素解析
1.3.2 科学家创业的优势和短板
1.3.3 四因素降低AI产品化、商业化门槛
1.4 给未来AI人才的建议

★第2章 AI的产品化和工程化挑战★
2.1 从AI科研到AI商业化
2.2 产品经理视角—数据驱动的产品研发
2.2.1 数据驱动
2.2.2 典型C端产品的设计和管理
2.2.3 典型B端产品解决方案的设计和管理
2.2.4 AI技术的产品化
2.3 架构设计师视角—典型AI架构
2.3.1 为什么要重视系统架构
2.3.2 与AI相关的典型系统架构
2.4 写在本章最后的几句话
本章参考文献

★第3章 机器学习的发展现状及前沿进展★
3.1 机器学习的发展现状
3.2 机器学习的前沿进展
3.2.1 复杂模型
3.2.2 表示学习
3.2.3 自动机器学习

★第4章 自然语言理解概述及主流任务★
4.1 自然语言理解概述
4.2 NLP主流任务
4.2.1 中文分词
4.2.2 指代消解
4.2.3 文本分类
4.2.4 关键词（短语）的抽取与生成
4.2.5 文本摘要
4.2.6 情感分析
本章参考文献

★第5章 机器学习在NLP领域的应用及产业实践★
5.1 自然语言句法分析
5.1.1 自然语言句法分析的含义与背景
5.1.2 研究句法分析的几个要素
5.1.3 句法分析模型举例
5.2 深度学习在句法分析模型参数估计中的应用
5.2.1 符号嵌入
5.2.2 上下文符号嵌入
本章参考文献

★第6章 计算机视觉前沿进展及实践★
6.1 计算机视觉概念
6.2 计算机视觉认知过程
6.2.1 从低层次到高层次的理解
6.2.2 基本任务及主流任务
6.3 计算机视觉技术的前沿进展
6.3.1 图像分类任务
6.3.2 目标检测任务
6.3.3 图像分割任务
6.3.4 主流任务的前沿进展
6.4 基于机器学习的计算机视觉实践
6.4.1 目标检测比赛
6.4.2 蛋筒质检
6.4.3 智能货柜
本章参考文献

★第7章 深度学习模型压缩与加速的技术发展与应用★
7.1 深度学习的应用领域及面临的挑战
7.1.1 深度学习的应用领域
7.1.2 深度学习面临的挑战
7.2 深度学习模型的压缩和加速方法
7.2.1 主流压缩和加速方法概述
7.2.2 权重剪枝
7.2.3 权重量化
7.2.4 知识蒸馏
7.2.5 权重量化与权重剪枝结合并泛化
7.3 模型压缩与加速的应用场景
7.3.1 驾驶员安全检测系统
7.3.2 高级驾驶辅助系统
7.3.3 车路协同系统
本章参考文献

★第8章 终端深度学习基础、挑战和工程实践★
8.1 终端深度学习的技术成就及面临的核心问题
8.1.1 终端深度学习的技术成就
8.1.2 终端深度学习面临的核心问题
8.2 在冗余条件下减少资源需求的方法
8.3 在非冗余条件下减少资源需求的方法
8.3.1 特殊化模型
8.3.2 动态模型
8.4 深度学习系统的设计
8.4.1 实际应用场景中的挑战
8.4.2 实际应用场景中的问题解决
8.4.3 案例分析
本章参考文献

★第9章 DeeCamp训练营最佳商业项目实战★
9.1 方仔照相馆—AI辅助单张图像生成积木方头仔
9.1.1 让“AI方头仔”触手可及
9.1.2 理论支撑：BiSeNet和Mask R-CNN
9.1.3 任务分解：从图像分析到积木生成的实现
9.1.4 团队协作与时间安排
9.2 AI科幻世界—基于预训练语言模型的科幻小说生成系统
9.2.1 打造人机协作的科幻小说作家
9.2.2 理论支撑：语言模型、Transformer模型和GPT2预训练模型
9.2.3 从“找小说”到“写小说”的实现步骤
9.2.4 团队协作与时间安排
9.3 宠物健康识别—基于图像表征学习的宠物肥胖度在线检测系统
9.3.1 人人都能做“养宠达人”
9.3.2 理论支撑：表征学习、人脸识别原理和ArcFace损失函数
9.3.3 任务分解：从数据收集到肥胖度检测
9.3.4 团队协作与时间安排
9.4 商品文案生成—基于检索和生成的智能文案系统
9.4.1 智能内容生成
9.4.2 理论支撑：Word2Vec词嵌入、预训练语言模型BERT和Seq2Seq文本生成
9.4.3 任务分解：“寻章摘句”和“文不加点”
9.4.4 团队协作与时间安排
本章参考文献