
宋杰
本书从数据查询、数据分析和迭代计算平台3个方面对大数据处理平台的体系结构、基本原理、主流技术、国内外研究进展和成果进行了全面、深入的阐述,对大数据实时处理平台的架构和核心技术进行了展望。企业技术人员可参考本书选择合适的技术构建大数据处理平台或对现有平台进行优化;高校院所的科研人员可参考本书了解大数据管理的基本原理和现有研究成果;学生读者可通过学习本书全面了解大数据处理平台。同时,本书也适用于对大数据技术拥有浓厚兴趣的读者。
针对Lambda架构组件的选型,数据流存储可选用基于不可变日志的分布式消息系统Kafka;Batch层数据集的存储可选用Hadoop的HDFS,或者是阿里云的ODPS;Batch视图的预计算可以选用MapReduce或Spark;Batch视图自身结果数据的存储可使用My SQL(查询少量的最近结果数据),或HBase(查询大量的历史结果数据);Speed层增量数据的处理可选用Storm或Spark Streaming;实时视图增量结果数据集为了满足实时更新的效率,可选用Redis的内存NoSQL。