码迷,mamicode.com
首页 > 其他好文 > 详细

IBM BigInsights 3.0.0.2 集群环境搭建

时间:2015-03-20 16:29:37      阅读:315      评论:0      收藏:0      [点我收藏+]

标签:集群   cluster   biginsights   linux   

1. 修改hosts文件和永久主机名

因为BigInsights 3.0版本不像之前的版本可以直接用IP来增加节点,因此我们需要更改每台server的hosts文件和主机名:

vim/etc/hosts 在这个文件中增加如下的几行:

技术分享

vim /etc/sysconfig/network 在这个文件中设置永久主机名:

技术分享


2. install ksh

 The server system do not contain the ksh shell, because IBM DB2 requires that Ksh be installed.

技术分享

用chsh –l查看所有shell版本,发现没有ksh,于是用yum list \*ksh\*来查看availablepackage:

技术分享

发现有ksh.x86_64安装包,于是再用yum install ksh进行安装。

技术分享

成功。


3. shut down ipv6

 ipv6 might causeproblem with MapReduce workloads.

查看server端ipv6的模块是否被加载:

技术分享

或者用ifconfig| grep –i inet6来直接查看。

技术分享

关闭IPv6,可以修改 /etc/hosts,把ipv6的那句本地主机名解析的注释掉:

#::1 localhost localhost6 localhost6.localdomain6

并新建设定文件:/etc/modprobe.d/ipv6off.conf:

添加:

alias net-pf-10 off

options ipv6 disable=1

然后reboot后查看ipv6是否被关闭:

技术分享




4. 集群时间同步:

前半部分:

首先设置time server,在此我将9.110.246.249设为timeserver。

date –s 03/11/2015

date –s 16:19:50

clock –w

hwclock –systohc

后两个命令是把设置的时间写到硬件时间中区,也就是CMOS里面的时间。

 

然后为了将9.110.246.249配置成time server,修改/etc/ntp.conf:

vim /etc/ntp.conf

注释掉restrict default kod nomodifynotrap nopeer noquery这一行

加入restrict 9.110.246.247 mask255.255.255.255 nomodify notrap

 

加入 server 127.127.1.0

加入fudge 127.127.1.0 stratum 10

这两行是让本机的ntpd与本地硬件时间同步。

然后重启ntpd服务,service ntpd restart

chkconfig ntpd on 来设置开机自动启动ntpd服务

 

 

接下来修改iptables,将tcp和udp端口开放,因为这是ntp需要的端口:

/sbin/iptables -I INPUT -p tcp --dport 103 -j ACCEPT

/sbin/iptables -I INPUT -p udp --dport 103 -j ACCEPT

/etc/rc.d/init.d/iptables save

/etc/rc.d/init.d/iptables restart

查看端口是否已经开放

/etc/init.d/iptables status

这样9.110.246.249就成为一台time server

 

后半部分:

现在我们配置9.110.246.247,

同样修改/etc/ntp.conf:vim /etc/ntp.conf

因为9.110.246.247不需要做time server,因此注释掉restrictdefault kod nomodify notrap nopeer noquery这一行

加入server 9.110.246.249这一句,用来和9.110.246.249 server同步。

 

这样时间同步就做好了,之后的默认操作是5mins和time server同步一次。

技术分享




5. 更改/home的挂载分区

因为BigInsights在安装时,主节点在安装成功之前会产生一个默认的目录__biginsights_install,它是存储于/home的这个目录下,而我们的这几台server的/home是挂载在/dev/mapper/VolGroup-lv_home这个分区下,这个分区目前的大小只有2G,在安装时,会产生cpwriting , no space left on the device 的错误。

技术分享

技术分享

解决此问题的方案有两个,一个是扩展磁盘分区容量,但是这样做会比较麻烦耗时。

另一种方案是:

备份并删除/home,或者将/home重命名,然后再cd /进入到[root@nodexx /]。

接着在当前目录下进行/home的新建,mkdir /home。在此我们的/home便挂载到了/dev/mapper/VolGroup-lv_root分区下。当然在此,为了让其永久生效,而不会在重启后恢复原来的挂载设置,我们还需要再更改一个文件,vim /etc/fstab

技术分享

注释掉这一行保存即可。

在此,我们在此查看分区情况:

技术分享

已经没有了/dev/mapper/VolGroup-lv_home分区。

 

 

 

 

注:第1,2,3,步以及第4步的后半部分需为每个节点进行操作,第5步仅为安装节点进行操作。

经过以上的前期准备工作后,我们就可以进行安装,之后得到successful的结果:

技术分享




原文地址:http://blog.csdn.net/yangxiangyuibm/article/details/44491617

IBM BigInsights 3.0.0.2 集群环境搭建

标签:集群   cluster   biginsights   linux   

原文地址:http://blog.csdn.net/yangxiangyuibm/article/details/44491617

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!