大数据平台CDH6.1.0安装配置标签(空格分隔):大数据平台构建一:关于CDH6.1.0的介绍二:系统环境初始化三:安装CDH6.1.0所需环境四:配置CDH6.1.0的cloudera-manager安装一:关于CDH6.1.0的介绍Cloudera在前天12月19日,对外宣布正式发布ClouderaEnterprise6.1包含大数据生态版本如下:1.组件版本:Kafka2.0,Spark2
分类:
其他好文 时间:
2019-02-16 17:07:41
阅读次数:
2028
本文由云+社区发表 作者:腾讯技术工程官方号 “如果说互联网是优化信息的存储和传输方式,提升生产要素之间的运行效率;人工智能便是对各个生产要素的升级。” 本人初入职场便从事TOB相关工作,参与了tbds等大数据平台的产品建设,近两年逐渐接触人工智能;目前主要负责TI ONE机器学习平台,结合自己工作 ...
分类:
其他好文 时间:
2019-02-12 13:28:11
阅读次数:
179
在进行讲解之前,先带大家学习下hadoop关于hdfs自己的安全如何实现的 名词: ACL-访问控制列表(Access Control List,ACL) ARBAC-基于角色的权限访问控制(Role-Based Access Control) 所有安全体系的了解,大数据平台安全体系的四个层次说起: ...
分类:
其他好文 时间:
2019-02-12 13:06:45
阅读次数:
503
数据安全 安全体系 面对复杂的大数据安全环境,需要从四个层面综合考虑以建立全方位的大数据安全体系:边界安全、访问控制和授权、数据保护、审计和监控。如下图所示: 1、边界——限制只有合法用户身份的用户访问大数据平台集群 (1) 用户身份认证:关注于控制外部用户或者第三方服务对集群的访问过程中的身份鉴别 ...
分类:
其他好文 时间:
2019-01-28 14:08:05
阅读次数:
230
纵观任何一家大数据平台的技术架构,总少不了ElasticSearch;ES作为溶合了后端存储、快速检索、OLAP分析等功能的一套开源组件,更绝的是提供了一套集数据采集与前端展现为一体的框架(即ELK), 在我们的应用过程中,与ES集成的前端框架包含有Kibana、Grafana等系统,实际应用过程中 ...
分类:
其他好文 时间:
2019-01-23 17:33:14
阅读次数:
1039
杂谈 在写这篇博客的时候,我内心经不住要吐槽下我上一家公司, 具体名字不说了. 公司是一家创业公司, 感觉公司不是一家务实的公司. 公司没有一位好的CTO. 你能想象我们的CTO不会敲代码. 公司CTO把大数据平台和算法平台都交给了两位主管, 但是不幸的是,这两个主管也都是磨嘴皮子的,做管理的. 所 ...
分类:
其他好文 时间:
2019-01-22 15:07:07
阅读次数:
252
1概述本文章介绍大数据平台Hadoop的分布式环境搭建、以下为Hadoop节点的部署图,将NameNode部署在master1,SecondaryNameNode部署在master2,slave1、slave2、slave3中分别部署一个DataNode节点NN=NameNode(名称节点)SND=SecondaryNameNode(NameNode的辅助节点)DN=DataNode(数据节点)2
分类:
其他好文 时间:
2018-12-18 13:58:09
阅读次数:
195
中心思想,设置kerberos环境变量时,发现JDK源码当中的一个问题,故描述如下。 在平时的使用中,如果hadoop集群配置kerberos认证的话,使用java访问hdfs或者hive时,需要先进行认证登陆,之后才可以访问。登陆代码大致如下: 设置krb5.conf和core-site.xml、 ...
分类:
其他好文 时间:
2018-12-15 19:55:05
阅读次数:
344
ClouderaManager大数据平台视频教程课程分享链接:https://pan.baidu.com/s/15QQ6kodiJ_mPqrUobnBSQQ密码:winqClouderaManager是用于管理CDH群集的端到端应用程序。ClouderaManager通过对CDH集群的每个部分提供细粒度的可视性和控制来设置企业部署的标准,使运营商能够提高性能,提高服务质量,提高合规性并降低管理成本
分类:
其他好文 时间:
2018-12-14 13:58:51
阅读次数:
355
ClouderaManager视频教程_ClouderaManager大数据平台视频教程课程下载地址:https://pan.baidu.com/s/1Os8APg7dgXfsqp71SlUoYQ提取码:bfqv通过本课程的学习,可以掌握ClouderaManager的应用场景和使用规范,并可以学习到大型公司企业内部的大数据架构图。对大数据人员来讲,可以掌握企业级常用的Linux命令和快速安全的安
分类:
其他好文 时间:
2018-12-14 12:56:47
阅读次数:
172