#2.1 基本情况 ##组长博客链接: 组长博客 ##答辩总结 alpha冲刺完成了前面的大部分页面,还剩下最后一个页面还没有完成,这次冲刺团队磨合得挺好,因为考试也比较多,所以这次冲刺有出现一部分人准备考试,另一部分人来进行冲刺,总体而言大家表现都很好 ##全组讨论的照片 ##评估贡献比例 工作流 ...
分类:
其他好文 时间:
2020-11-26 14:41:33
阅读次数:
6
1.任务: 列出HBase所有的表的相关信息,例如表名 describe 在终端打印出指定的表的所有记录数据 scan 向已经创建好的表添加和删除指定的列族或列 put 清空指定的表的所有记录数据 delete 统计表的行数 count 2.关系型数据库中的表和数据(教材P92上),要求将其转换为适 ...
分类:
其他好文 时间:
2020-11-26 14:35:57
阅读次数:
4
列出HBase所有的表的相关信息,例如表名; 在终端打印出指定的表的所有记录数据; 向已经创建好的表添加和删除指定的列族或列; 清空指定的表的所有记录数据; 统计表的行数; 关系型数据库中的表和数据(教材P92上),要求将其转换为适合于HBase存储的表并插入数据 学生表student 课程表cou ...
分类:
其他好文 时间:
2020-11-25 12:50:51
阅读次数:
5
1.任务: 列出HBase所有的表的相关信息,例如表名; 在终端打印出指定的表的所有记录数据; 向已经创建好的表添加和删除指定的列族或列; 清空指定的表的所有记录数据; 统计表的行数。 2.关系型数据库中的表和数据(教材P92上),要求将其转换为适合于HBase存储的表并插入数据。 :Stuent ...
分类:
其他好文 时间:
2020-11-25 12:49:02
阅读次数:
5
工具类 package com.gcs.util; import java.util.ArrayList; import java.util.List; public class PageUtil { /** * 手动分页类 * @param datas * @param pageSize * @p ...
分类:
其他好文 时间:
2020-11-23 11:59:35
阅读次数:
4
HBase是一个高可靠、高性能、面向列的,主要用于海量结构化和半结构化数据存储的分布式key-value存储系统。它基于Google Bigtable开源实现,但二者有明显的区别:Google Bigtable基于GFS存储,通过MAPREDUCE处理存储的数据,通过chubby处理协同服务;而HB... ...
分类:
其他好文 时间:
2020-11-20 12:05:39
阅读次数:
11
Mybatis的分页查询 PageHelper是一个MyBatis分页插件。 添加依赖 springBoot中添加依赖 <!-- pagehelper --> <dependency> <groupId>com.github.pagehelper</groupId> <artifactId>page ...
分类:
其他好文 时间:
2020-11-19 13:01:26
阅读次数:
22
ApacheRanger简介ApacheRanger提供一个集中式安全管理框架,并解决授权和审计。它可以对Hadoop生态的组件如HDFS、Yarn、Hive、Hbase等进行细粒度的数据访问控制。通过操作Ranger控制台,管理员可以轻松的通过配置策略来控制用户访问权限。Ranger优点:丰富的组件支持(HDFS,HBASE,HIVE,YARN,KAFKA,STORM)提供了细粒度级权限控制(h
分类:
其他好文 时间:
2020-11-18 13:10:32
阅读次数:
10
1、进入hbase shell 报内存不足 描述 做hbase数据迁移的时候,需要在目标集群创建与源端集群相同的表以及表属性,同时通过bulkload的方式加载数据。 目前迁移开启十个并发,一共迁移4千张表,失败了200+表的迁移。 看来这种迁移还是不能起太多并发,否则导致hbase regions ...
分类:
其他好文 时间:
2020-11-18 12:27:59
阅读次数:
7
Hadoop/Hive自带权限控制集群安全下需求:支持多组件,最好能支持当前大数据技术栈的主要组件,HDFS、HBASE、HIVE、YARN、KAFKA等支持细粒度的权限控制,可以达到HIVE列,HDFS目录,HBASE列,YARN队列开源,社区活跃,按照现有的集群情况改动尽可能的小,而且要符合业界的趋势。现有方案:Hadoop、Hive本身的权限控制Kerberos安全认证ApacheRange
分类:
其他好文 时间:
2020-11-18 12:15:31
阅读次数:
8