概览1.配置hive-site.xml2.配置hadoop中的core-site.xml文件3.测试 首先将hive安装 然后更改部分配置文件 1.配置hive-site.xml利用Xshell工具连接虚拟机 进入hive安装目录下的conf文件夹,更改hive-site.xml配置文件其中配置参考 ...
分类：
其他好文 时间：
2021-06-19 19:20:19
阅读次数：
0
准备：1. 规划3个集群节点:hosts主机都已经配置好映射，映射主机名分别为master,slave1,slave2,且已经进行ssh免密配置，确保端口互通，防火墙关闭 2. 先安装好scala(参考：https://www.cnblogs.com/sea520/p/13518158.html) ...
分类：
其他好文 时间：
2021-06-19 19:11:31
阅读次数：
0
转自：https://blog.csdn.net/qq_25062299/article/details/95592877 ...
分类：
其他好文 时间：
2021-06-19 19:00:51
阅读次数：
0
redis学习 五大数据类型，开发必会的技能 老师的博客 https://www.cnblogs.com/pyyu/p/9467279.html string，字符串类型 hash，哈希类型，如同python的dict Set，无序集合 Zset，有序集合 List，双向队列，向左插入数据，向右插入 ...
分类：
其他好文 时间：
2021-06-19 18:53:25
阅读次数：
0
HDFS的读取过程 HDFS的读取流程大致有以下几个步骤： （1）客户端通过调用FileSystem对象的open()来打开希望读取的文件。对于HDFS平台来说，这个对象是DistributedFileSystem类的是一个实例，所以实际调用的是DistributedFileSystem对象的ope ...
分类：
其他好文 时间：
2021-06-19 18:42:26
阅读次数：
0
简介： 最佳实践，以DLA为例子。DLA致力于帮助客户构建低成本、简单易用、弹性的数据平台，比传统Hadoop至少节约50%的成本。其中DLA Meta支持云上15+种数据数据源（OSS、HDFS、DB、DW）的统一视图，引入多租户、元数据发现，追求边际成本为0，免费提供使用。DLA Lakehou ...
分类：
其他好文 时间：
2021-06-18 20:06:29
阅读次数：
0
将数据从HDFS把文件导出到RDBMS数据库 导出前，目标表必须存在于目标数据库中。 默认操作是从将文件中的数据使用INSERT语句插入到表中 更新模式下，是生成UPDATE语句更新表数据 数据是在HDFS当中的如下目录/sqoop/emp，数据内容如下 1201,gopal,manager,500 ...
分类：
其他好文 时间：
2021-06-18 19:31:03
阅读次数：
0
原文链接： https://data-flair.training/blogs/data-locality-in-hadoop-mapreduce/ 1、什么是数据本地化 数据本地化（Data locality）是指将计算移动到数据所在的节点，而不是移动数据移动到计算所在的节点。在Hadoop中，一 ...
分类：
其他好文 时间：
2021-06-18 19:09:26
阅读次数：
0
在大数据智慧时代背景下，爬虫技术的需求愈发增多。而在最近，淘宝网的大量用户数据就遭到了泄露。6月3日，商丘市睢阳区人民法院在裁判文书网，公开了一份刑事判决书，显示两名犯罪分子在淘宝爬取并盗走大量数据。 经过检方核实，被盗取的淘宝用户数据近 12 亿条。淘宝去年 8 月 14 日报警，有黑产人员通过接 ...
分类：
其他好文 时间：
2021-06-17 17:19:00
阅读次数：
0
https://blog.csdn.net/QYmufeng/article/details/79580582 我的环境： 系统平台：Ubuntu14.04TLS（64位） Hadoop环境：Hadoop2.8.3 Eclipse：Neon.2 Release(4.6.2) Eclipse插件：ha ...
分类：
系统相关 时间：
2021-06-17 17:05:08
阅读次数：
0
