Storm为分布式实时计算提供了一组通用原语,可被用于“流处理”之中,实时处理消息并更新数据库。这是管理队列及工作者集群的另一种方式。 Storm也可被用于“连续计算”(continuous computation),对数据流做连续查询,在计算时就将结果以流的形式输出给用户。它还可被用于“分布式RPC”,以并行的方式运行昂贵的运算。
本课程从大数据流式处理技术以及Storm实战的角度,理论和实践相结合,全方位地介绍Storm大数据流式处理工具的原理和内核。以案例分析的方式来帮助学员了解如何用BDAS系列工具来解决具体的问题,并介绍了从大数据中挖掘出有价值的信息的关键。
本课程不是一个泛泛的理论性、概念性的介绍课程,而是针对问题讨论解决方案的深入课程。教师对于上述领域有深入的理论研究与实践经验,在课程中将会针对这些问题与学员一起进行研究,在关键点上演示、实践,以加深对于这些解决方案的理解。通过本课程学习,希望推动大数据相关的项目开发上升到一个新水平。
证书
培训结束,颁发中科院计算所职业培训中心“Storm大数据流式处理技术”结业证书。
培训对象
1,系统架构师、系统分析师、高级程序员、资深开发人员。
2,牵涉到大数据处理的数据中心运行、规划、设计负责人。
3,政府机关,金融保险、移动和互联网等大数据来源单位的负责人。
4,高校、科研院所牵涉到大数据与分布式数据处理的项目负责人。
学员基础
1,对IT系统设计有一定的理论与实践经验。
2,有一定的数据仓库与大数据流式处理基础知识。
第一讲 Storm大数据处理介绍
1) 什么是Storm
2) Storm的诞生
3) Storm的成长
4) Storm的优势
5) Storm的应用现状和发展趋势
第二讲 Storm配置和容错机制
1) Storm基本概念
2) Storm的配置
3) 序列化(Serialization)
4) 容错机制
第三讲 Storm可靠性及消息传输
3) 消息传输机制
4) Storm生产与开发环境
第四讲 Storm拓扑及流分组
1) 什么是拓扑
2) TopologyBuilder
3) 流分组
4) 不同模式下运行拓扑
5) 拓扑的常见模式
第五讲 Spout和Bolt详解
1) 可靠的与不可靠的消息
2) Spout获取数据的方式
3) Bolt数据处理概述
4) 可靠的与不可靠的Bolt
5) 复合流与复合Anchoring
第六讲 分布式DPRC
1) DRPC TopologyBuilder
2) 本地模式的DRPC
3) 远程模式的DRPC
4) 一个复杂的DRPC例子
5) 非线性DRPC
第七讲 Storm事务拓扑
1) 什么是事务拓扑
2) 事务拓扑的设计细节
3) 事务拓扑的实现细节
4) 事务拓扑API
第八讲 Storm中的Trident
1) Trident概述
2) Trident API
3) Trident的操作
第九讲 Trident的状态
1)Trident的状态
2) 实现Trident Spout
3) Spout与State的联系
第十讲 Storm企业应用
1) Storm应用在互联网企业
2) Storm在Twitter的应用
3) Storm其它企业的应用
4) 小结
汇款、现金、支票、刷卡
名 称:北京市海淀区中科院计算所职业技能培训学校
开户行:北京银行中关村支行
帐 号:01090302900120105445661