ambari搭建hadoop大数据平台系列6-验证测试web检查组件服务是否正常启动shell端检查服务是否健康hdfsfsck/-files-blocks-locationsjavaapi/python检查服务是否正常
分类:
其他好文 时间:
2017-04-05 00:00:04
阅读次数:
281
最近要为第三方搭建一套大数据平台,中间先进行了虚拟机版本,测试通过后,进行了物理机版本的生产环境,网上关于ambari的文章并不多,但好在ambari官方文档质量略高,社区比较活跃,便整理该系列的文档,将埋掉的坑抛出来,帮助小伙伴们更加快速的搭建自己的hadoop平台。分三..
分类:
其他好文 时间:
2017-04-04 17:54:14
阅读次数:
219
本案例搭建的环境介绍如下:Ambari2.4.2+HDP2.5(hadoop2.7;hive1.2;Tez;Spark2.0)+jdk1.8.25+centos7.0,这里首先要关注些注意事项,至于为什么会一一说明。第一部分:注意事项:版本必须低于7.2selinux必须关闭firewalld必须关闭127.0.0.1hosts该条记录删除本地仓库必须搭..
分类:
其他好文 时间:
2017-04-04 17:53:04
阅读次数:
222
准备工作1.安装JDK,集群内各成员主机安装JDK的路径和版本必须统一。2.在集群内主机安装一台MySQLServer(MySQL为选装,Ambari默认的数据库为PostgreSQL)1.MySQL配置创建ambari-server的数据库以及连接用户,且授权
#mysql-uroot-p
CREATEDATABASEambariDEFAULTCHARSET=utf8;
..
分类:
其他好文 时间:
2017-03-27 19:54:59
阅读次数:
405
Ambari是在Hadoop大数据生态圈的基础上应运而生,Ambari的架构也借助了分布式的思想,细细品味,与Hadoop分布式架构有很多相似之处。 Hadoop中单NN 与多DN的通信是借助netty封装的RPC机制实现,单Ambari server与多Agent通信则是基于restful api ...
分类:
其他好文 时间:
2017-03-24 22:44:41
阅读次数:
281
一、配置主机和节点机器之间SSH无密登录多台外网服务器配置时,需要在/etc/hosts中把本机的IP地址设置为内网IP地址http://2d67df38.wiz02.com/share/s/0JpZYU2X7kl626aE730Q_Flq3daBjm08rAnl2oLpli2uMOfo二、为每台主... ...
分类:
其他好文 时间:
2017-03-17 17:28:16
阅读次数:
1256
在我们日常的工作中,有时候需要监控和管理平台的运行状况,而服务运行是否存在异常,是否有软硬件bug等,均需要第一时间知道。对服务状态了如指掌,是一个很重要的事情。那么这个如何做到呢,我们之前在进行私有云平台研发过程中,曾经用过一些工具,在一定程度上能帮到大家,这里记录一下,希望对有需要的同学有帮助。 ...
分类:
移动开发 时间:
2017-03-16 18:34:11
阅读次数:
376
###hudson介绍Hudson是Jenkins的前身,是基于Java开发的一种持续集成工具,用于监控程序重复的工作###安装maven####下载包```
wgethttp://mirror.bit.edu.cn/apache/maven/maven-3/3.3.9/binaries/apache-maven-3.3.9-bin.tar.gz
```####安装```
[root@ambari~]#tar-xfapache-m..
分类:
其他好文 时间:
2017-03-10 01:01:23
阅读次数:
231
第一步,确定SmartSence服务均已关闭 第二步,卸载SmartSense组件 第三步,从Ambari中卸载掉SmartSense服务 第四步,重起Ambari使更改生效 注释:admin为用户名,不用更改;¥PASSWORD为admin的密码,修改成自己admin的密码;AMBARI_SERV ...
分类:
其他好文 时间:
2017-03-09 18:56:01
阅读次数:
415
一.介绍Ganglia是由UCBerkeley发起的一个开源监控项目,设计用于监控数以千几的节点。每台服务器都运行一个收集和发送监控数据名为gmond的守护进程。它将从操作系统和指定主机中收集。接收所有监控数据的主机可以显示这些数据并且可以将这些数据的精简表单传递到层次结构中。..
分类:
其他好文 时间:
2017-03-08 01:38:19
阅读次数:
306