请选择 进入手机版 | 继续访问电脑版
设为首页收藏本站

可可云计算

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

搜索
查看: 1640|回复: 4

2016年9月20号晚上8点半HBase轻松解决千亿级别数据存储

[复制链接]

1214

主题

1279

帖子

4286

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
4286
发表于 2016-9-26 10:24:56 | 显示全部楼层 |阅读模式


晚上8点半:https://ke.qq.com/course/93036

完整视频资料:http://pan.baidu.com/s/1dFzDfBb 密码:
游客,如果您要查看本帖隐藏内容请回复

QQ截图20160926102049.png QQ截图20160926102106.png QQ截图20160926102233.png QQ截图20160926102244.png

在本文中的HBase术语:
基于列:column-oriented
行:row
列组:column families
列:column
单元:cell


理解HBase(一个开源的Google的BigTable实际应用)最大的困难是HBase的数据结构概念究竟是什么?首先HBase不同于一般的关系数据库,它是一个适合于非结构化数据存储的数据库.另一个不同的是HBase基于列的而不是基于行的模式.

Google's BigTable论文 清楚地解释了什么是BigTable:
Bigtable是一个疏松的分布式的持久的多维排序的map,这个map被行键,列键,和时间戳索引.每一个值都是连续的byte数组.(A Bigtable is a sparse, distributed, persistent multidimensional sorted map. The map is indexed by a row key, column key, and a timestamp; each value in the map is an uninterpreted array of bytes.)

Hadoop wiki的HBase架构 页面提到:
HBase使用和Bigtable非常相同的数据模型.用户存储数据行在一个表里.一个数据行拥有一个可选择的键和任意数量的列.表是疏松的存储的,因此 用户可以给行定义各种不同的列.(HBase uses a data model very similar to that of Bigtable. Users store data rows in labelled tables. A data row has a sortable key and an arbitrary number of columns. The table is stored sparsely, so that rows in the same table can have crazily-varying columns, if the user likes.)


实质上,HBase和BigTable是个map.相同于数组(PHP),词典(Pyhton),Hash(Ruby)或者Object (Javascript)中的表现形式.所以每一行是一个map,这个map中还可以有多个map(基于列组).获取一个数据就像你从map中获取数据一 样.给定一个行名(即从这个map中获取数据),然后给定一个key(列组名+限定词)来取得数据.

HBase 和BigTable都是在分布式文件系统上构建的,所以基础的文件存储能够散布在分布式文件系统的机器上.
HBase使用Hadoop's Distributed File System(HDFS) 或 Amazon's Simple Storage Service(S3),Kosmos Distributed File System(KFS), 与此一样BigTable使用Google File System(GFS).数据被复制到多个节点就像数据被存储在一个RAID系统上.

不像大多数的map应用,在HBase和BigTable中,key/value 是非常严格地按字母次序排列的.那就是意味着键值为"aaaaa"的行下一个行的键值为"aaaab",但是和键值为"zzzzz"的行离的很远.因为这 些系统都是非常庞大和分布式的, 这些特性是非常重要的. 空间接近的列保证当你确定要浏览表时, 你感兴趣的行将会靠近这行.当你选择行的键值时,这是非常重要的事情.例子:考虑你表中的列是域名.最好是倒过来的(因此 "com.jimbojw.www"比"www.jimbojw.com"更好) ,因为你的子域名将会靠近你的主域名.注意在HBase中排序仅仅是kay排序,value是不排序的.

在下面的JSON数据中,我们看到整个数据结构是一个map,并且map中每一个key对应一个包含 "A"和"B"的map.假设整个下面数据是一个table,那么它有"1"."aaaaa","aaaab","xyz","zzzzz"这几个行,每 一个行有一个"A"和"B"的map.在HBase的术语中, 称"A"和"B"为列组.

{  "1" : {    "A" : "x",    "B" : "z"  },  "aaaaa" : {    "A" : "y",    "B" : "w"  },  "aaaab" : {    "A" : "world",    "B" : "ocean"  },  "xyz" : {    "A" : "hello",    "B" : "there"  },  "zzzzz" : {    "A" : "woot",    "B" : "1337"  }}

在HBase中一个列组通过限定词或叫做标签使每一个列组能够包含许多的列.

{  "aaaaa" : {    "A" : {      "foo" : "y",      "bar" : "d"    },    "B" : {      "" : "w"    }  },  "aaaab" : {    "A" : {      "foo" : "world",      "bar" : "domination"    },    "B" : {      "" : "ocean"    }  },  "zzzzz" : {    "A" : {      "catch_phrase" : "woot",    }    "B" : {      "" : "1337"    }  }}

在上面的例子中,在"aaaaa"的行中,列组"A"包含两个列:"foo"和"bar",列组"B"仅仅有一个限定词为空字符窜""的列.当我们 向HBase获取数据时,你必须提供完整的列名字"<列组>:<限定词>".因此上面的例子中行"aaaaa"和"aaaab" 都包含三个列:"A:foo", "A:bar"和"B:".尽管在行中列组是固定的,但是同一个列中限定词可以是不同的,就像行"zzzzz"中列组"A"中只有一个列 "catch_phrase".最后的维度是时间戳(timestamp).所有的在HBase中存储的数据都有一个用时间戳表示的版本或者你自己通过指 定时间戳来插入或获取数据.

{  "aaaaa" : {    "A" : {       "foo" : {        15 : "y",        4 : "m"      },      "bar" : {        15 : "d",      }    },    "B" : {      "" : {        6 : "w"        3 : "o"        1 : "w"      }    }  }}

每一个列可以指定多少版本的数据被保存在每一个单元.在上面的例子中行"aaaaa"的列"A:foo"包含两个倒序时间戳排列的数据15和4,列 "B"包含由三个倒序时间戳排列的数据.一般的应用程序只是简单(不通过时间戳)的请求一个单元的数据.在这种条件下,HBase只是简单地返回最新的版 本,即时间戳最大的版本.要获取"A:foo"返回"y",要获取"B"返回"w".如果应用程序在一个行中请求时带上时间戳,HBase将会返回小于或 等于请求时间戳的数据.接着上面的例子如果程序请求"A:foo"带上时间戳10,返回"m",加上时间戳3,返回null.

每一个行可以多个列族,每一个列族可以包含无数个列,每一个列都可以有一个不同于其他列的时间戳.在通用数据库中当表创建时我们就已经定义了列,如果修改表结构的话会非常困难(比如:添加一列).在HBase中我们可以很轻松地添加一个列族或列.









回复

使用道具 举报

0

主题

54

帖子

136

积分

注册会员

Rank: 2

积分
136
发表于 2016-10-8 21:58:20 | 显示全部楼层
正在学习大数据,谢谢
回复 支持 反对

使用道具 举报

0

主题

5

帖子

18

积分

新手上路

Rank: 1

积分
18
发表于 2016-10-25 22:11:12 | 显示全部楼层
谢谢共享
回复

使用道具 举报

1214

主题

1279

帖子

4286

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
4286
 楼主| 发表于 2016-10-26 10:32:42 | 显示全部楼层

尚学堂,实战化教育第一品牌
参与讨论学习目标方向——大数据课程咨询 Lily老师 qq:356350289
回复 支持 反对

使用道具 举报

0

主题

4

帖子

14

积分

新手上路

Rank: 1

积分
14
发表于 2016-11-8 08:38:29 | 显示全部楼层
感谢分享
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐上一条 /3 下一条

Archiver|手机版|小黑屋|可可云计算 ( 京ICP备13045856号  

GMT+8, 2018-5-24 12:27 , Processed in 0.107365 second(s), 33 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表