套装三册:
HBase权威指南
Hive编程指南
Hadoop权威指南:大数据的存储与分析(第4版)修订版
9787302465133 9787115333834 9787115318893
本书结合理论和实践,由浅入深,全方位介绍了Hadoop这一高性能的海量数据处理和分析平台。全书5部分24章,第Ⅰ部分介绍Hadoop基础知识,主题涉及Hadoop、MapReduce、Hadoop分布式文件系统、YARN、Hadoop的I/O操作。第Ⅱ部分介绍MapReduce,主题包括MapReduce应用开发;MapReduce的工作机制、MapReduce的类型与格式、MapReduce的特性。第Ⅲ部分介绍Hadoop的运维,主题涉及构建Hadoop集群、管理Hadoop。第Ⅳ部分介绍Hadoop相关开源项目,主题涉及Avro、Parquet、Flume、Sqoop、Pig、Hive、Crunch、Spark、HBase、ZooKeeper。第Ⅴ部分提供了三个案例,分别来自医疗卫生信息技术服务商塞纳(Cerner)、微软的人工智能项目ADAM(一种大规模分布式深度学习框架)和开源项目Cascading(一个新的针对MapReduce的数据处理API)。
本书是一本专业、全面的Hadoop参考书和工具书,阐述了Hadoop生态圈的新发展和应用,程序员可以从中探索海量数据集的存储和分析,管理员可以从中了解Hadoop集群的安装和运维。
第Ⅰ部分Hadoop基础知识
第1章初识Hadoop3
1.1数据!数据!3
1.2数据的存储与分析5
1.3查询所有数据6
1.4不仅仅是批处理7
1.5相较于其他系统的优势8
1.6ApacheHadoop发展简史12
1.7本书包含的内容16
第2章关于MapReduce19
2.1气象数据集19
2.2使用Unix工具来分析数据21
2.3使用Hadoop来分析数据22
2.4横向扩展31
2.5HadoopStreaming37
第3章Hadoop分布式文件系统42
3.1HDFS的设计42
3.2HDFS的概念44
3.3命令行接口50
3.4Hadoop文件系统52
3.5Java接口56
3.6数据流68
3.7通过distcp并行复制76
第4章关于YARN78
4.1剖析YARN应用运行机制79
4.2YARN与MapReduce1相比82
4.3YARN中的调度85
4.4延伸阅读95
第5章Hadoop的I/O操作96
5.1数据完整性96
5.2压缩99
5.3序列化109
5.4基于文件的数据结构127
第Ⅱ部分关于MapReduce
第6章MapReduce应用开发141
6.1用于配置的API142
6.2配置开发环境144
6.3用MRUnit来写单元测试152
6.4本地运行测试数据156
6.5在集群上运行160
6.6作业调优174
6.7MapReduce的工作流176
第7章MapReduce的工作机制184
7.1剖析MapReduce作业运行
机制184
7.2失败191
7.3shuffle和排序195
7.4任务的执行201
第8章MapReduce的
类型与格式207
8.1MapReduce的类型207
8.2输入格式218
8.3输出格式236
第9章MapReduce的特性243
9.1计数器243
9.2排序252
9.3连接264
9.4边数据分布270
9.5MapReduce库类276
第Ⅲ部分Hadoop的操作
第10章构建Hadoop集群279
10.1集群规范280
10.2集群的构建和安装284
10.3Hadoop配置288
10.4安全性305
10.5利用基准评测程序测试
Hadoop集群311
第11章管理Hadoop314
11.1HDFS314
11.2监控327
11.3维护329
第Ⅳ部分Hadoop相关开源项目
第12章关于Avro341
12.1Avro数据类型和模式342
12.2内存中的序列化和
反序列化特定API347
12.3Avro数据文件349
12.4互操作性351
12.5模式解析352
12.6排列顺序354
12.7关于AvroMapReduce356
12.8使用AvroMapReduce
进行排序359
12.9其他语言的Avro362
第13章关于Parquet363
13.1数据模型364
13.2Parquet文件格式367
13.3Parquet的配置368
13.4Parquet文件的读/写369
13.5ParquetMapReduce374
第14章关于Flume377
14.1安装Flume378
14.2示例378
14.3事务和可靠性380
14.4HDFSSink382
14.5扇出385
14.6通过代理层分发387
14.7Sink组391
14.8Flume与应用程序的集成395
14.9组件编目395
14.10延伸阅读397
第15章关于Sqoop398
15.1获取Sqoop398
15.2Sqoop连接器400
15.3一个导入的例子401
15.4生成代码404
15.5深入了解数据库导入405
15.6使用导入的数据409
15.7导入大对象412
15.8执行导出414
15.9深入了解导出功能416
15.10延伸阅读419
第16章关于Pig420
16.1安装与运行Pig421
16.2示例425
16.3与数据库进行比较428
16.4PigLatin429
16.5用户自定义函数446
16.6数据处理操作455
16.7Pig实战465
16.8延伸阅读468
第17章关于Hive469
17.1安装Hive470
17.2示例472
17.3运行Hive473
17.4Hive与传统数据库相比480
17.5HiveQL483
17.6表488
17.7查询数据501
17.8用户定义函数508
17.9延伸阅读516
第18章关于Crunch517
18.1示例518
18.2Crunch核心API521
18.3管线执行537
18.4Crunch库545
18.5延伸阅读547
第19章关于Spark548
19.1安装Spark549
19.2示例549
19.3弹性分布式数据集555
19.4共享变量564
19.5剖析Spark作业运行机制565
19.6执行器和集群管理器570
19.7延伸阅读574
第20章关于HBase575
20.1HBase基础575
20.2概念576
20.3安装581
20.4客户端584
20.5创建在线查询应用589
20.6HBase和RDBMS的比较598
20.7Praxis601
20.8延伸阅读602
第21章关于ZooKeeper604
21.1安装和运行ZooKeeper605
21.2示例607
21.3ZooKeeper服务615
21.4使用ZooKeeper来构建
应用629
21.5生产环境中的ZooKeeper640
21.6延伸阅读643
第Ⅴ部分案例学习
第22章医疗公司塞纳(Cerner)
0........
书名:HBase权威指南(“十二五”国家重点图书出版规划项目)
原价:89.00元
作者:[美]Lars George 著
出版社:人民邮电出版社
出版日期:2013-10-1
ISBN:9787115318893
字数:646000
页码:476
版次:1
装帧:平装
开本:16开
编辑推荐
Apache HBase项目管理委员会主席Michael Stack作序推荐。
作者Lars George是HBase Committer,HBase文档的主要贡献者,Cloudera公司解决方案架构师,主要为Hadoop和HBase提供技术支持、咨询和培训工作。
这是一本介绍HBase内部机制的书,是·权威的HBase开发指南。
目录
目 录
第1章 简介 1
1.1 海量数据的黎明 1
1.2 关系数据库系统的问题 5
1.3 非关系型数据库系统Not-Only-SQL(简称NoSQL) 7
1.3.1 维度 9
1.3.2 可扩展性 12
1.3.3 数据库的范式化和反范式化 12
1.4 结构 15
1.4.1 背景 15
1.4.2 表、行、列和单元格 16
1.4.3 自动分区 20
1.4.4 存储API 21
1.4.5 实现 22
1.4.6 小结 25
1.5 HBase:Hadoop数据库 25
1.5.1 历史 26
1.5.2 命名 27
1.5.3 小结 27
第2章 安装 28
2.1 快速启动指南 28
2.2 必备条件 31
2.2.1 硬件 31
2.2.2 软件 37
2.3 HBase使用的文件系统 47
2.3.1 本地模式 48
2.3.2 HDFS 49
2.3.3 S3 49
2.3.4 其他文件系统 50
2.4 安装选项 50
2.4.1 Apache二进制发布包 50
2.4.2 编译源码 52
2.5 运行模式 53
2.5.1 单机模式 53
2.5.2 分布式模式 53
2.6 配置 57
2.6.1 hbase-site.xml与hbase-default.xml 58
2.6.2 hbase-env.sh 59
2.6.3 regionserver 59
2.6.4 log4j.properties 59
2.6.5 配置示例 59
2.6.6 客户端配置 61
2.7 部署 61
2.7.1 基于脚本 62
2.7.2 Apache Whirr 63
2.7.3 Puppet与Chef 63
2.8 操作集群 64
2.8.1 确定安装运行 64
2.8.2 Web UI介绍 65
2.8.3 Shell介绍 66
2.8.4 关闭集群 66
第3章 客户端API:基础知识 68
3.1 概述 68
3.2 CRUD操作 69
3.2.1 put方法 69
3.2.2 get方法 87
3.2.3 删除方法 97
3.3 批量处理操作 107
3.4 行锁 110
3.5 扫描 114
3.5.1 介绍 114
3.5.2 ResultScanner类 117
3.5.3 缓存与批量处理 119
3.6 各种特性 125
3.6.1 HTable的实用方法 125
3.6.2 Bytes类 127
第4章 客户端API:高级特性 129
4.1 过滤器 129
4.1.1 过滤器简介 129
4.1.2 比较过滤器 132
4.1.3 专用过滤器 139
4.1.4 附加过滤器 147
4.1.5 FilterList 151
4.1.6 自定义过滤器 153
4.1.7 过滤器总结 159
4.2 计数器 160
4.2.1 计数器简介 160
4.2.2 单计数器 163
4.2.3 多计数器 164
4.3 协处理器 166
4.3.1 协处理器简介 167
4.3.2 Coprocessor类 168
4.3.3 协处理器加载 171
4.3.4 RegionObserver类 174
4.3.5 MasterObserver类 180
4.3.6 endpoint 184
4.4 HTablePool 190
4.5 连接管理 194
第5章 客户端API:管理功能 197
5.1 模式定义 197
5.1.1 表 197
5.1.2 表属性 199
5.1.3 列族 202
5.2 HBaseAdmin 207
5.2.1 基本操作 208
5.2.2 表操作 209
5.2.3 模式操作 217
5.2.4 集群管理 219
5.2.5 集群状态信息 222
第6章 可用客户端 230
6.1 REST、Thrift和Avro的介绍 230
6.2 交互客户端 233
6.2.1 原生Java 233
6.2.2 REST 233
6.2.3 Thrift 240
6.2.4 Avro 244
6.2.5 其他客户端 245
6.3 批处理客户端 246
6.3.1 MapReduce 246
6.3.2 Hive 246
6.3.3 Pig 252
6.3.4 Cascading 256
6.4 Shell 257
6.4.1 基础 257
6.4.2 命令 259
6.4.3 脚本 263
6.5 基于Web的UI 265
6.5.1 master的UI 265
6.5.2 region服务器的UI 270
6.5.3 共享页面 272
第7章 与MapReduce集成 275
7.1 框架 275
7.1.1 MapReduce介绍 275
7.1.2 类 276
7.1.3 支撑类 279
7.1.4 MapReduce的执行地点 279
7.1.5 表拆分 280
7.2 在HBase之上的MapReduce 281
7.2.1 准备 281
7.2.2 数据流向 286
7.2.3 数据源 291
7.2.4 数据源与数据流向 293
7.2.5 自定义处理 296
第8章 架构 299
8.1 数据查找和传输 299
8.1.1 B 树 299
8.1.2 LSM树 300
8.2 存储 302
8.2.1 概览 303
8.2.2 写路径 304
8.2.3 文件 305
8.2.4 HFile格式 313
8.2.5 KeyValue格式 316
8.3 WAL 316
8.3.1 概述 317
8.3.2 HLog类 318
8.3.3 HLogKey类 319
8.3.4 WALEdit类 319
8.3.5 LogSyncer类 319
8.3.6 LogRoller类 320
8.3.7 回放 321
8.3.8 持久性 324
8.4 读路径 325
8.5 region查找 328
8.6 region生命周期 330
8.7 ZooKeeper 330
8.8 复制 333
8.8.1 Log Edit的生命周期 334
8.8.2 内部机制 335
第9章 高级用法 339
9.1 行键设计 339
9.1.1 概念 339
9.1.2 高表与宽表 341
9.1.3 部分键扫描 342
9.1.4 分页 343
9.1.5 时间序列 344
9.1.6 时间顺序关系 348
9.2 高级模式 350
9.3 辅助索引 350
9.4 搜索集成 354
9.5 事务 357
9.6 布隆过滤器 358
9.7 版本管理 361
9.7.1 隐式版本控制 361
9.7.2 自定义版本控制 364
第10章 集群监控 366
10.1 介绍 366
10.2 监控框架 367
10.2.1 上下文、记录和监控指标 367
10.2.2 master监控指标 372
10.2.3 region服务器监控指标 373
10.2.4 RPC监控指标 375
10.2.5 JVM监控指标 376
10.2.6 info监控指标 377
10.3 Ganglia 378
10.3.1 安装 379
10.3.2 用法 383
10.4 JMX 386
10.4.1 JConsole 388
10.4.2 JMX远程API 390
10.5 Nagios 394
第11章 性能优化 395
11.1 垃圾回收优化 395
11.2 本地memstore分配缓冲区 398
11.3 压缩 399
11.3.1 可用的编解码器 400
11.3.2 验证安装 401
11.3.3 启用压缩 403
11.4 优化拆分和合并 404
11.4.1 管理拆分 404
11.4.2 region热点 405
11.4.3 预拆分region 406
11.5 负载均衡 407
11.6 合并region 408
| 商品名称: | Hive编程指南 | 开本: | |
| 作者: | (美)卡普廖洛//万普勒//卢森格林|译者:曹坤 | 页数: | |
| 定价: | 69 | 出版时间: | 2013-12-01 |
| ISBN号: | 9787115333834 | 印刷时间: | 2013-12-01 |
| 出版社: | 人民邮电 | 版次: | 1 |
| 商品类型: | 图书 | 印次: | 1 |
坦白说,我是在一个偶然的机会下了解到这本书的。当时我正在为项目中的大数据处理问题而头疼,尝试了很多方法效果都不理想。朋友推荐了这本《Hadoop权威指南》,说它对Hadoop的存储和分析有非常深入的讲解。拿到书后,我被它的内容所震撼。HDFS的部分,不仅仅是概念的罗列,而是深入到其架构设计、数据写入流程、读取流程以及故障恢复机制等细节。作者甚至还探讨了HDFS的读写性能优化策略,这对于我们这种需要处理海量数据的场景来说,简直是雪中送炭。MapReduce的讲解更是细致入微,从最基本的Map和Reduce函数的作用,到更高级的Join操作、数据倾斜的解决办法,都进行了详细的阐述。我特别喜欢书中关于如何设计高效MapReduce程序的指导,这能够帮助我们避免走弯路,少踩坑。整体而言,这本书的内容非常扎实,理论与实践并重,能够帮助读者真正掌握Hadoop的核心技术,解决实际工作中的问题。
评分作为一名长期从事数据挖掘工作的工程师,我一直在寻找能够全面深入理解Hadoop技术栈的资料。这本书无疑满足了我的需求。它不仅仅是技术手册,更像是一本深入浅出的技术论著。在HDFS方面,作者对NameNode和DataNode的交互机制、副本策略以及一致性模型进行了详尽的剖析,这对于理解大规模数据存储的稳定性和可靠性至关重要。而对于MapReduce,书中详细讲解了Shuffle过程、Combiner和Partitioner的使用,以及如何优化MapReduce作业以提高性能,这些都是实际工作中提升效率的关键。特别是YARN的部分,作者对资源调度器(如Capacity Scheduler和Fair Scheduler)的内部原理和配置进行了细致的讲解,这对于管理和优化Hadoop集群资源非常有帮助。书中穿插的案例分析和代码示例,能够帮助读者将理论知识与实际应用相结合,更好地理解Hadoop的工作流程和最佳实践。我尤其欣赏作者在讲解复杂概念时,能够用通俗易懂的语言进行解释,并辅以恰当的比喻,使得学习过程不至于枯燥乏味。
评分这本书对于想要深入理解Hadoop生态系统的开发者和架构师来说,是一本不可多得的宝藏。从HDFS的分布式存储到MapReduce的计算模型,再到YARN的资源管理,作者都进行了全面而深入的探讨。我尤其赞赏书中关于HDFS的容错机制和数据一致性模型讲解的部分,这对于理解大数据系统的稳定运行至关重要。而在MapReduce编程方面,作者不仅仅是讲解了基本的Map和Reduce函数,还深入讨论了数据倾斜、内存调优等实际工作中经常遇到的问题,并提供了有效的解决方案。书中的案例分析非常贴合实际应用场景,能够帮助读者更好地理解Hadoop技术在解决实际问题中的作用。此外,作者在讲解过程中,也充分考虑到了读者的不同背景,无论是初学者还是有一定经验的开发者,都能从中找到有价值的信息。阅读这本书的过程,就像是在进行一次深入的Hadoop技术探索之旅,让我对大数据处理有了更深刻的认识和更全面的掌握。
评分这本书的封面设计和排版非常专业,给人一种厚重感和权威感。翻开第一页,纸张的质感也相当不错,阅读起来非常舒适。我本来对大数据这个领域只是略知一二,抱着学习和探索的心态购入的这本书。虽然还没有深入阅读,但从目录和前几章的介绍来看,它系统地涵盖了Hadoop生态系统的核心组件,从HDFS的分布式存储原理,到MapReduce的编程模型,再到YARN的资源管理,都有非常详尽的阐述。我尤其对HDFS的部分很感兴趣,理解其分布式存储的容错机制和数据块的划分方式,对于后续的数据分析至关重要。作者在讲解时,逻辑清晰,循序渐进,即使是初学者也能逐步理解其中的奥秘。虽然书中包含大量的技术术语和概念,但通过图文并茂的方式,大大降低了学习门槛。我期待在后续的学习中,能够将这些理论知识转化为实际操作能力,真正掌握大数据存储和分析的精髓。这本书的深度和广度都令人印象深刻,相信它能成为我大数据学习之路上的重要伙伴。
评分作为一名初涉Hadoop领域的学生,我发现这本书是我学习路上的一个非常好的起点。从HDFS的分布式文件系统原理开始,它就以一种非常清晰和结构化的方式进行讲解,让我能够快速建立起对Hadoop存储体系的整体认识。书中的插图和流程图更是起到了画龙点睛的作用,让那些抽象的概念变得具体可见。在深入到MapReduce编程模型时,作者循序渐进地介绍了Map和Reduce函数的编写,以及如何利用它们进行数据处理。最令我感到兴奋的是,书中提供了大量的代码示例,并且这些示例都经过了精心设计,能够很好地演示Hadoop的实际应用。我尝试着跟着书中的步骤进行实践,发现自己能够逐步理解其中的逻辑,并且能够成功运行一些简单的MapReduce程序。这本书在讲解YARN部分时,也给我留下了深刻的印象,它让我理解了Hadoop集群是如何管理和分配资源的,这对于我以后管理和部署Hadoop集群非常有帮助。
本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度,google,bing,sogou 等
© 2025 book.coffeedeals.club All Rights Reserved. 静流书站 版权所有