Linux 文件去重

标签：jpeg   lin   cut   conf   qfile   图片   nbsp   home   bsp   

背景：

大量图片，但个图片只是名字不一样，内容一样，需要去重

date;find /home/admin/image -name *.jpeg | xargs md5sum|sort >allfiles;cat allfiles |uniq -w 32 > uniqfiles;comm allfiles uniqfiles -2 |cut -c 35-|tr ‘\n‘ ‘\0‘|xargs -n `getconf ARG_MAX`  rm;date

Linux 文件去重

标签：jpeg   lin   cut   conf   qfile   图片   nbsp   home   bsp   

原文地址：https://www.cnblogs.com/bowanghou/p/11286799.html