概览1.配置hive-site.xml2.配置hadoop中的core-site.xml文件3.测试 首先将hive安装 然后更改部分配置文件 1.配置hive-site.xml利用Xshell工具连接虚拟机 进入hive安装目录下的conf文件夹,更改hive-site.xml配置文件其中配置参考 ...
分类：
其他好文 时间：
2021-06-19 19:20:19
阅读次数：
0
准备：1. 规划3个集群节点:hosts主机都已经配置好映射，映射主机名分别为master,slave1,slave2,且已经进行ssh免密配置，确保端口互通，防火墙关闭 2. 先安装好scala(参考：https://www.cnblogs.com/sea520/p/13518158.html) ...
分类：
其他好文 时间：
2021-06-19 19:11:31
阅读次数：
0
转自：https://blog.csdn.net/qq_25062299/article/details/95592877 ...
分类：
其他好文 时间：
2021-06-19 19:00:51
阅读次数：
0
HDFS的读取过程 HDFS的读取流程大致有以下几个步骤： （1）客户端通过调用FileSystem对象的open()来打开希望读取的文件。对于HDFS平台来说，这个对象是DistributedFileSystem类的是一个实例，所以实际调用的是DistributedFileSystem对象的ope ...
分类：
其他好文 时间：
2021-06-19 18:42:26
阅读次数：
0
在实现分库分表的情况下，数据库自增主键已经无法保证在集群中是全局唯一的主键了，因此mycat提供了全局的sequence，并且提供了本地配置、数据库配置等多种实现方式。 1. 本地文件方式 采用该方式，mycat将sequence配置到classpath目录的sequence_conf.proper ...
分类：
其他好文 时间：
2021-06-19 18:40:35
阅读次数：
0
简介： 最佳实践，以DLA为例子。DLA致力于帮助客户构建低成本、简单易用、弹性的数据平台，比传统Hadoop至少节约50%的成本。其中DLA Meta支持云上15+种数据数据源（OSS、HDFS、DB、DW）的统一视图，引入多租户、元数据发现，追求边际成本为0，免费提供使用。DLA Lakehou ...
分类：
其他好文 时间：
2021-06-18 20:06:29
阅读次数：
0
一、运行架构 Jenkins的kubernetes plugin在执行构建时会在kubernetes集群中自动创建一个Pod，并在Pod内部创建一个名为jnlp的容器，该容器会连接Jenkins并运行Agent程序，形成一个Jenkins的Master和Slave架构，然后Slave会执行构建脚本进 ...
分类：
其他好文 时间：
2021-06-18 20:01:37
阅读次数：
0
性能测试流程 注意要点 测试机器硬件配置尽量和线上一致 系统版本与线上一致 测试环境部署线上最小单元模块（一般线上都是集群部署，线下可以用最小的单元集群） 应用、中间件、数据库要与线上一致 其他特殊配置 数据构造 ? 业务接口 ? -- 适合数据表关系复杂 ? -- 优点： 数据完整性比较好 ? 存 ...
分类：
其他好文 时间：
2021-06-18 19:57:35
阅读次数：
0
将数据从HDFS把文件导出到RDBMS数据库 导出前，目标表必须存在于目标数据库中。 默认操作是从将文件中的数据使用INSERT语句插入到表中 更新模式下，是生成UPDATE语句更新表数据 数据是在HDFS当中的如下目录/sqoop/emp，数据内容如下 1201,gopal,manager,500 ...
分类：
其他好文 时间：
2021-06-18 19:31:03
阅读次数：
0
本资料以VMware虚拟机为节点进行创建kubernetes集群。 1.K8S集群部署节点规划 K8S-master01：K8S集群控制节点； K8S-node01、K8S-node02：运行POD的工作节点； harbor：创建本地镜像私有仓库； router：软路由koolshare，为K8S集 ...
分类：
Web程序 时间：
2021-06-18 19:15:03
阅读次数：
0
