HBase如何增量备份的python脚本

72次阅读
没有评论

共计 1284 个字符,预计需要花费 4 分钟才能阅读完成。

自动写代码机器人,免费开通

这篇文章将为大家详细讲解有关 HBase 如何增量备份的 python 脚本,丸趣 TV 小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

HBase 自带的 export/import 机制可以实现 BackupRestore 功能。而且可以实现增量备份。

HBase 怎样增量备份的 python 脚本

在这个脚本中,每天做增量备份,每个月 15 日做全备份。

importtime
 importdatetime
 fromdatetimeimportdate
 importsys
 importos
 tablename=sys.argv[1]
 backupDst=sys.argv[2]
 today=date.today()
 iftoday.day==15://everymonth,wedoafullbackup
 backupSubFolder=backupDst+today.isoformat()+ -full 
 cmd= hbaseorg.apache.hadoop.hbase.mapreduce.Export%s%s %(tablename,backupSubFolder)
 else:
 yesterday=datetime.date.today()-datetime.timedelta(days=1)
 todayTimeStamp=time.mktime(today.timetuple())
 yesTimeStamp=time.mktime(yesterday.timetuple())
 backupSubFolder=backupDst+today.isoformat()
 cmd= hbaseorg.apache.hadoop.hbase.mapreduce.Export%s%s%s %(tablename,backupSubFolder,str(int(todayTimeStamp)*1000)
 printcmd
 os.system(cmd)

HBase 怎样增量备份的 python 脚本

而 Restore 机制就更加简单

hbaseorg.apache.hadoop.hbase.mapreduce.Importtablenamerestorefolder

要注意的是,做 Restore 时候,原始的表必须是创建好的。所以如果表本身被损坏,需要重新创建一个新的空表,再做 Restore。

还有,必须在 Hadoop-env.sh 中配置好 hbase 和 Zookeeper 的路径,加上这样的语句

exportHADOOP_CLASSPATH= /usr/lib/hadoop-hbase/hbaseXXX.jar:/usr/lib/hadoop-hbase/lib/zookeeperXXX.jar:/etc/hadoop-hbase/conf

把这个加到 crontab 里面,就可以实现每天定时备份了。

关于“HBase 如何增量备份的 python 脚本”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。

向 AI 问一下细节

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-12-04发表,共计1284字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)