一种从Hbase瓦片存储快速导出区域子数据集的方法及装置与流程

文档序号:26938507发布日期:2021-10-12 13:47阅读:来源:国知局

技术特征:
1.一种从hbase瓦片存储快速导出区域子数据集的方法,其特征在于,包括:根据两个坐标点的经纬度坐标获取需要导出的瓦片数据的矩形区域;根据所述矩形区域确定scan边界;根据所述scan边界并行地读取hbase的每个region中的瓦片数据,存放到全局变量hashmap中;将所述全局变量hashmap中的瓦片数据以读写分离的方式存入sqlite数据库中。2.根据权利要求1所述的方法,其特征在于,所述两个坐标点不在同一个经度或纬度上。3.根据权利要求2所述的方法,其特征在于,所述根据所述矩形区域确定scan边界包括:计算出所述矩形区域中每一层每一列瓦片的startkey与endkey,所述startkey与endkey为scan边界。4.根据权利要求3所述的方法,其特征在于,所述根据所述scan边界并行地读取hbase的每个region中的瓦片数据,存放到全局变量hashmap中包括:针对瓦片金字塔的每一层,计算出在矩形区域内开始的瓦片和结束的瓦片的层、行、列(lrc)信息;根据所述lrc信息给线程池分发任务,生成多个线程任务;并行地执行所述多个线程任务,每个线程任务根据所述scan边界从一个region中读取相应的瓦片数据;将读取的瓦片数据存放在全局变量hashmap中;所述全局变量hashmap中,key用于存储从region中读取的瓦片数据,value值为listclass,在listclass类中定义两个arraylist链表和一个index变量,所述index变量用于区别arraylist链表功能,index0表示第一arraylist负责读取数据,第二arraylist负责写入数据,index1表示第一arraylist负责写入数据,第二arraylist负责读取数据。5.根据权利要求4所述的方法,其特征在于,所述将所述全局变量hashmap中的瓦片数据以读写分离的方式存入sqlite数据库中包括:根据所述全局变量hashmap中的index变量确定arraylist链表功能;根据arraylist链表的功能将所述全局变量hashmap中的瓦片数据以读写分离的方式数据存入sqlite数据库中。6.一种从hbase瓦片存储快速导出区域子数据集的装置,其特征在于,包括:获取模块,用于根据两个坐标点的经纬度坐标获取需要导出的瓦片数据的矩形区域;确定模块,用于根据所述矩形区域确定scan边界;读取模块,用于根据所述scan边界并行地读取hbase的每个region中的瓦片数据,存放到全局变量hashmap中;存储模块,用于将所述全局变量hashmap中的瓦片数据以读写分离的方式存入sqlite数据库中。7.根据权利要求6所述的装置,其特征在于,所述确定模块具体用于:计算出所述矩形区域中每一层每一列瓦片的startkey与endkey,所述startkey与endkey为scan边界。
8.根据权利要求6所述的装置,其特征在于,所述读取模块具体用于:针对瓦片金字塔的每一层,计算出在矩形区域内开始的瓦片和结束的瓦片的层、行、列(lrc)信息;根据所述lrc信息给线程池分发任务,生成多个线程任务;并行地执行所述多个线程任务,每个线程任务根据所述scan边界从一个region中读取相应的瓦片数据;将读取的瓦片数据存放在全局变量hashmap中。9.根据权利要求6所述的装置,其特征在于,所述全局变量hashmap中,key用于存储从region中读取的瓦片数据,value值为listclass,在listclass类中定义两个arraylist链表和一个index变量,所述index变量用于区别arraylist链表功能,index0表示第一arraylist负责读取数据,第二arraylist负责写入数据,index1表示第一个arraylist负责写入数据,第二arraylist负责读取数据。10.根据权利要求6所述的装置,其特征在于,所述存储模块具体用于:根据所述全局变量hashmap中的index变量确定arraylist链表功能;根据arraylist链表的功能将所述全局变量hashmap中的瓦片数据以读写分离的方式数据存入sqlite数据库中。

技术总结
本申请提供了一种从HBase瓦片存储快速导出区域子数据集的方法及装置。所述方法包括:根据两个坐标点的经纬度坐标获取需要导出的瓦片数据的矩形区域;根据所述矩形区域确定scan边界;根据所述scan边界并行地读取HBase的每个Region中的瓦片数据,存放到全局变量HashMap中;将所述全局变量HashMap中的瓦片数据以读写分离的方式存入SQLite数据库中。本发明在实现了用户自定义导出瓦片数据区域功能的同时,大幅度提高了瓦片数据的导出效率。大幅度提高了瓦片数据的导出效率。大幅度提高了瓦片数据的导出效率。


技术研发人员:张家旺 王晓东 赵文波 张敬亮 毕俊 杨光辉 马银龙 傅伟康
受保护的技术使用者:中科星图股份有限公司
技术研发日:2020.03.19
技术公布日:2021/10/11
当前第2页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1