码迷,mamicode.com
首页 > 其他好文 > 详细

docker停机扩容pool空间

时间:2015-03-10 19:49:16      阅读:219      评论:0      收藏:0      [点我收藏+]

标签:docker迁移   docker备份   docker扩容   

我这里使用docker的容器做测试机给开发使用,使用都没问题,但随着项目增加,有的项目需要更大的硬盘,我通过(http://dl528888.blog.51cto.com/2382721/1606170)来动态扩展容器的空间,满足使用需求,但我当前设置的docker pool却不足了(默认pool是100g,每个容器给予10g空间),如果pool满了就无法新创建容器,并且无法删除数据来清理(我使用dd来测试),所以为了解决此问题,我准备:

1、备份当前容器与images;

2、停止docker服务;

3、扩展pool的大小(从100g扩大到自定义大小);

4、启动docker并恢复容器与images。

下面是备份前docker的信息

09:54:52 # docker version
Client version: 1.1.2
Client API version: 1.13
Go version (client): go1.2.2
Git commit (client): d84a070/1.1.2
Server version: 1.1.2
Server API version: 1.13
Go version (server): go1.2.2
Git commit (server): d84a070/1.1.2
root@ip-10-10-29-224:~
09:54:56 # docker info
Containers: 15
Images: 10
Storage Driver: devicemapper
 Pool Name: docker-8:3-22676231-pool
 Data file: /var/lib/docker/devicemapper/devicemapper/data
 Metadata file: /var/lib/docker/devicemapper/devicemapper/metadata
 Data Space Used: 95999.2 Mb
 Data Space Total: 102400.0 Mb
 Metadata Space Used: 51.4 Mb
 Metadata Space Total: 2048.0 Mb
Execution Driver: native-0.2
Kernel Version: 2.6.32-431.29.2.el6.x86_64

可以看到docker是1.1.2版本,pool是100g,目前使用了95G

下面是我具体的备份操作步骤

1、记录所有容器对应的ip及防火墙策略

我当前docker主机使用默认docker0做桥接,容器重启后ip会变更,为了方便修改防火墙策略,所以我记录所有docker主机的ip及防火墙策略

记录docker主机ip可以参考使用命令

docker ps -a|grep -v "NAMES"|awk ‘{print $NF}‘|xargs   -I {} sh -c "docker inspect {}|grep -i add"

备份防火墙策略

cp /etc/sysconfig/iptables /tmp/iptables_backup

2、备份所有docker的container

如果扩展pool的话,默认的images与容器都会被清除,所以得备份

docker ps -a|grep -v "NAMES"|awk ‘{print $NF}‘|xargs   -I {} sh -c "docker export {} >/tmp/docker_backup/containers/docker_{}.tar"

3、打包备份所有的images

docker images|grep -v "REPOSITORY"|awk ‘{print $1":"$2}‘ >docker_images.txt && docker save -o /tmp/docker_backup/images/`cat docker_images.txt|cut -d/ -f2`.tar `cat docker_images.txt` && rm -rf docker_images.txt

4、停止当前docker所有container

docker stop `docker ps -a -q`

5、停止docker服务

/etc/init.d/docker stop

6、备份旧的docker数据


cp -a /var/lib/docker /tmp/docker_backup/data_backup

备份数据是为了进行失败回滚

7、删除旧的docker数据库

rm -rf /var/lib/docker

8、增大pool容量

2个方法,一个是使用dd,一个是使用docker daemon命令

使用dd的,把pool增大到600G

dd if=/dev/zero of=/var/lib/docker/devicemapper/devicemapper/data bs=1G count=0 seek=600

seek后面是大小

使用docker daemon的

--storage-opt dm.loopdatasize=600G --storage-opt dm.loopmetadatasize=8G

9、启动docker

/etc/init.d/docker start

10、恢复images

cd /tmp/docker_backup/images/
docker load test1:new<test1.tar

使用docker load一个一个的恢复吧

11、恢复容器

cd /tmp/docker_backup/containers/
cat test1.tar |docker import - test1:new

12、启动容器并记录ip

上一步恢复的话,是把备份的容器做成了images,如果想启动就进行docker run,比如我有个images是test1:new

 docker run --privileged -d   --name="test1"   test1:new /usr/sbin/sshd -D

13、调整防火墙

记住新的容器ip,并根据第一步备份的防火墙策略,进行修改

心得:

如果容器都使用默认的10g空间,迁移没有出现问题,但如果容器进行了动态扩展,比如默认10g空间,你扩展到了30g或者更高,那么备份恢复容器的时候,会出现下面报错

[c3c929fe] +job import(-, cocos-play, )
write /var/lib/docker/devicemapper/mnt/19b84c235a7ed914871c0f10b5b17af9fc89955b077ad85afe0ec6e4b253c92b/rootfs/home/www/cocosplay/uploads/neatgame/ah2ssp/r_scene_20.cpk: no space left on device

这个错误在google里查看有2个方法解决,但我测试了,都未解决

第一个方法是说物理内存不足,第二个方法是说使用docker临时目录

具体issue参考https://github.com/coreos/coreos-vagrant/issues/49

所以建议大家进行别动态扩展容器磁盘空间,尽量使用volume来挂载。

另外1.3及以上我测试是无法对容器进行动态扩展空间,给官方提出issue也没人回答,地址是https://github.com/docker/docker/issues/11153

本文出自 “吟—技术交流” 博客,请务必保留此出处http://dl528888.blog.51cto.com/2382721/1618893

docker停机扩容pool空间

标签:docker迁移   docker备份   docker扩容   

原文地址:http://dl528888.blog.51cto.com/2382721/1618893

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!