Spark大数据分析技术与实战

　　Spark作为下一代大数据处理引擎，经过短短几年的飞跃式发展，正在以燎原之势席卷业界，现已成为大数据产业中的一股中坚力量。本书着重讲解了Spark内核、Spark GraphX、Spark SQL、Spark Streaming和Spark MLlib的核心概念与理论框架，并提供了相应的示例与解析。全书共分8章，其中前4章介绍Spark内核，主要包括Spark简介、集群部署、工作原理、核心概念与操作等；后4章分别介绍Spark内核上的核心组件，每章系统地介绍Spark的一个组件，并附以相应的案例分析。本书适合作为高等院校计算机相关专业的研究生学习参考资料，也适合大数据技术初学者阅读，还适合于所有愿意对大数据技术有所了解并想要将大数据技术应用于本职工作的读者阅读。

　　经管之家（www.jg.com.cn）：原人大经济论坛，于2003年成立，致力于推动经管学科的进步，传播优秀教育资源，目前已经发展成为国内优秀的经济、管理、金融、统计类的在线教育和咨询网站，也是国内活跃和具影响力的经管类网络社区。经管之家从2006年起在国内开展数据分析培训，累计培训学员数万人。在大数据的趋势背景下，创新“CDA数据分析师”品牌，致力于为社会各界数据分析爱好者提供优质、科学、系统的数据分析教育。截至2016年3月已成功举办40多期系统培训，培训学员达3千余名；CDA认证考试已成功举办三届，报考人数上千人；中国数据分析师俱乐部（CDA CLUB），每周线下免费沙龙活动，已举力40多期，累积会员2千余名；中国数据分析师行业峰会（CDA　Summit），一年两届，参会人数皆达2千余名，在大数据领域影响力超前。“CDA数据分析师”队伍在业界不断壮大，对数据分析人才产业起到了巨大的推动作用。

第1章 Spark导论\t1
1．1 Spark的发展\t2
1．2 什么是Spark\t3
1．3 Spark主要特征\t3
1．3．1 快速\t3
1．3．2 简洁易用\t5
1．3．3 通用\t6
1．3．4 多种运行模式\t8
第2章 Spark集群部署\t9
2．1 运行环境说明\t9
2．1．1 软硬件环境\t9
2．1．2 集群网络环境\t10
2．2 安装VMware Workstation 11\t10
2．3 安装CentOS 6\t16
2．4 安装Hadoop\t21
2．4．1 克隆并启动虚拟机\t21
2．4．2 网络基本配置\t24
2．4．3 安装JDK\t27
2．4．4 免密钥登录配置\t28
2．4．5 Hadoop配置\t29
2．4．6 配置从节点\t33
2．4．7 配置系统文件\t33
2．4．8 启动Hadoop集群\t33
2．5 安装Scala\t35
2．6 安装Spark\t36
2．6．1 下载并解压Spark安装包\t36
2．6．2 配置Spark-env．sh\t37
2．6．3 配置Spark-defaults．conf\t37
2．6．4 配置Slaves\t38
2．6．5 配置环境变量\t38
2．6．6 发送至Slave1、Slave2\t39
2．7 启动Spark\t39
第3章 RDD编程\t42
3．1 RDD定义\t42
3．2 RDD的特性\t43
3．2．1 分区\t43
3．2．2 依赖\t44
3．2．3 计算\t45
3．2．4 分区函数\t45
3．2．5 优先位置\t46
3．3 创建操作\t46
3．3．1 基于集合的创建操作\t47
3．3．2 基于外部存储的创建操作\t47
3．4 常见执行操作\t49
3．5 常见转换操作\t49
3．5．1 一元转换操作\t50
3．5．2 二元转换操作\t53
3．6 持久化操作\t56
3．7 存储操作\t58
第4章 Spark调度管理与应用程序开发\t59
4．1 Spark调度管理基本概念\t59
4．2 作业调度流程\t60
4．2．1 作业的生成与提交\t61
4．2．2 阶段的划分\t62
4．2．3 调度阶段的提交\t62
4．2．4 任务的提交与执行\t62
4．3 基于IntelliJ IDEA构建Spark应用程序\t64
4．3．1 安装IntelliJ IDEA\t64
4．3．2 创建Spark应用程序\t70
4．3．3 集群模式运行Spark应用程序\t81
第5章 GraphX\t87
5．1 GraphX概述\t87
5．2 GraphX基本原理\t89
5．2．1 图计算模型处理流程\t89
5．2．2 GraphX定义\t90
5．2．3 GraphX的特点\t90
5．3 GraphX设计与实现\t91
5．3．1 弹性分布式属性图\t91
5．3．2 图的数据模型\t92
5．3．3 图的存储模型\t94
5．3．4 GraphX模型框架\t97
5．4 GraphX操作\t97
5．4．1 创建图\t97
5．4．2 基本属性操作\t100
5．4．3 结构操作\t102
5．4．4 转换操作\t103
5．4．5 连接操作\t105
5．4．6 聚合操作\t106
5．5 GraphX案例解析\t107
5．5．1 PageRank算法与案例解析\t107
5．5．2 Triangle Count算法与案例解析\t110
第6章 Spark SQL\t113
6．1 Spark SQL概述\t113
6．2 Spark SQL逻辑架构\t116
6．2．1 SQL执行流程\t116
6．2．2 Catalyst\t117
6．3 Spark SQL CLI\t117
6．3．1 硬软件环境\t117
6．3．2 集群环境\t118
6．3．3 结合Hive\t118
6．3．4 启动Hive\t118
6．4 DataFrame编程模型\t119
6．4．1 DataFrame简介\t119
6．4．2 创建DataFrames\t120
6．4．3 保存DataFrames\t126
6．5 DataFrame常见操作\t127
6．5．1 数据展示\t127
6．5．2 常用列操作\t128
6．5．3 过滤\t131
6．5．4 排序\t132
6．5．5 其他常见操作\t134
6．6 基于Hive的学生信息管理系统的SQL查询案例与解析\t137
6．6．1 Spark SQL整合Hive\t137
6．6．2 构建数据仓库\t138
6．6．3 加载数据\t141
6．6．4 查询数据\t142
第7章 Spark Streaming\t146
7．1 Spark Streaming概述\t146
7．2 Spark Streaming基础概念\t147
7．2．1 批处理时间间隔\t147
7．2．2 窗口时间间隔\t148
7．2．3 滑动时间间隔\t148
7．3 DStream基本概念\t149
7．4 DStream的基本操作\t150
7．4．1 无状态转换操作\t150
7．4．2 有状态转换操作\t152
7．4．3 输出操作\t153
7．4．4 持久化操作\t154
7．5 数据源\t154
7．5．1 基础数据源\t154
7．5．2 高级数据源\t155
7．6 Spark Streaming编程模式与案例分析\t156
7．6．1 Spark Streaming编程模式\t156
7．6．2 文本文件数据处理案例（一）\t157
7．6．3 文本文件数据处理案例（二）\t160
7．6．4 网络数据处理案例（一）\t164
7．6．5 网络数据处理案例（二）\t171
7．6．6 stateful应用案例\t175
7．6．7 window应用案例\t180
7．7 性能考量\t185
7．7．1 运行时间优化\t185
7．7．2 内存使用与垃圾回收\t186
第8章 Spark MLlib\t187
8．1 Spark MLlib概述\t187
8．1．1 机器学习介绍\t187
8．1．2 Spark MLlib简介\t189
8．2 MLlib向量与矩阵\t190
8．2．1 MLlib向量\t190
8．2．2 MLlib矩阵\t192
8．3 Spark MLlib分类算法\t196
8．3．1 贝叶斯分类算法\t197
8．3．2 支持向量机算法\t201
8．3．3 决策树算法\t204
8．4 MLlib线性回归算法\t208
8．5 MLlib聚类算法\t212
8．6 MLlib协同过滤\t215