标签:SED脚本快速参考
SED脚本快速参考英文标题:USEFUL ONE-LINE SCRIPTS FOR SED (Unix stream editor)
原标题:HANDY ONE-LINERS FOR SED (Unix stream editor)
整理:Eric Pement - 电邮:pemente[at]northpark[dot]edu 版本5.5
译者:Joe Hong - 电邮:hq00e[at]126[dot]com
在以下地址可找到本文档的最新(英文)版本:
http://sed.sourceforge.net/sed1line.txt
sed G
1
sed G
sed ‘/^$/d;G‘
1
sed ‘/^$/d;G‘
sed ‘G;G‘
1
sed ‘G;G‘
sed ‘n;d‘
sed ‘/regex/{x;p;x;}‘
sed ‘/regex/G‘
sed = filename | sed ‘N;s/\n/\t/‘
sed = filename | sed ‘N; s/^/ /; s/ *(.{6,})\n/\1 /‘
sed ‘/./=‘ filename | sed ‘/./N; s/\n/ /‘
sed ‘s/.$//‘ # 假设所有行以CR/LF结束
sed ‘s/^M$//‘ # 在bash/tcsh中,将按Ctrl-M改为按Ctrl-V
sed ‘s/\x0D$//‘ # ssed、gsed 3.02.80,及更高版本
sed "s/$/echo -e \\r/" # 在ksh下所使用的命令
sed ‘s/$‘"/echo \\r/" # 在bash下所使用的命令
sed "s/$/echo \\r/" # 在zsh下所使用的命令
sed ‘s/$/\r/‘ # gsed 3.02.80 及更高版本
sed "s/$//" # 方法 1
sed -n p # 方法 2
sed "s/\r//" infile >outfile # UnxUtils sed v4.0.7 或更高版本
tr -d \r outfile # GNU tr 1.22 或更高版本
sed ‘s/^[ \t]*//‘ # 见本文末尾关于‘\t‘用法的描述
sed ‘s/[ \t]*$//‘ # 见本文末尾关于‘\t‘用法的描述
sed ‘s/^[ \t]//;s/[ \t]$//‘
sed ‘s/^/ /‘
sed -e :a -e ‘s/^.{1,78}$/ &/;ta‘ # 78个字符外加最后的一个空格
sed -e :a -e ‘s/^.{1,77}$/ & /;ta‘ # 方法1
sed -e :a -e ‘s/^.{1,77}$/ &/;ta‘ -e ‘s/( *)\1/\1/‘ # 方法2
sed ‘s/foo/bar/‘ # 只替换每一行中的第一个“foo”字串
sed ‘s/foo/bar/4‘ # 只替换每一行中的第四个“foo”字串
sed ‘s/foo/bar/g‘ # 将每一行中的所有“foo”都换成“bar”
sed ‘s/(.)foo(.foo)/\1bar\2/‘ # 替换倒数第二个“foo”
sed ‘s/(.*)foo/\1bar/‘ # 替换最后一个“foo”
sed ‘/baz/s/foo/bar/g‘
sed ‘/baz/!s/foo/bar/g‘
sed ‘s/scarlet/red/g;s/ruby/red/g;s/puce/red/g‘ #对多数的sed都有效
gsed ‘s/scarlet|ruby|puce/red/g‘ # 只对GNU sed有效
sed ‘1!G;h;$!d‘ # 方法1
sed -n ‘1!G;h;$p‘ # 方法2
sed ‘/\n/!G;s/(.)(.*\n)/&\2\1/;//D;s/.//‘
sed ‘$!N;s/\n/ /‘
sed -e :a -e ‘/\$/N; s/\\n//; ta‘
sed -e :a -e ‘$!N;s/\n=/ /;ta‘ -e ‘P;D‘
gsed ‘:a;s/\B[0-9]{3}\>/,&/;ta‘ # GNU sed
sed -e :a -e ‘s/(.*[0-9])([0-9]{3})/\1,\2/;ta‘ # 其他sed
gsed -r ‘:a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta‘
sed 10q
sed q
sed -e :a -e ‘$q;N;11,$D;ba‘
sed ‘$!N;$!D‘
sed ‘$!d‘ # 方法1
sed -n ‘$p‘ # 方法2
sed -e ‘$!{h;d;}‘ -e x # 当文件中只有一行时,输入空行
sed -e ‘1{$q;}‘ -e ‘$!{h;d;}‘ -e x # 当文件中只有一行时,显示该行
sed -e ‘1{$d;}‘ -e ‘$!{h;d;}‘ -e x # 当文件中只有一行时,不输出
sed -n ‘/regexp/p‘ # 方法1
sed ‘/regexp/!d‘ # 方法2
sed -n ‘/regexp/!p‘ # 方法1,与前面的命令相对应
sed ‘/regexp/d‘ # 方法2,类似的语法
sed -n ‘/regexp/{g;1!p;};h‘
sed -n ‘/regexp/{n;p;}‘
sed -n -e ‘/regexp/{=;x;1!p;g;$!N;p;D;}‘ -e h
sed ‘/AAA/!d; /BBB/!d; /CCC/!d‘ # 字串的次序不影响结果
sed ‘/AAA.BBB.CCC/!d‘
sed -e ‘/AAA/b‘ -e ‘/BBB/b‘ -e ‘/CCC/b‘ -e d # 多数sed
gsed ‘/AAA|BBB|CCC/!d‘ # 对GNU sed有效
sed -e ‘/./{H;$!d;}‘ -e ‘x;/AAA/!d;‘
sed -e ‘/./{H;$!d;}‘ -e ‘x;/AAA/!d;/BBB/!d;/CCC/!d‘
sed -e ‘/./{H;$!d;}‘ -e ‘x;/AAA/b‘ -e ‘/BBB/b‘ -e ‘/CCC/b‘ -e d
gsed ‘/./{H;$!d;};x;/AAA|BBB|CCC/b;d‘ # 只对GNU sed有效
sed -n ‘/^.{65}/p‘
sed -n ‘/^.{65}/!p‘ # 方法1,与上面的脚本相对应
sed ‘/^.{65}/d‘ # 方法2,更简便一点的方法
sed -n ‘/regexp/,$p‘
sed -n ‘8,12p‘ # 方法1
sed ‘8,12!d‘ # 方法2
sed -n ‘52p‘ # 方法1
sed ‘52!d‘ # 方法2
sed ‘52q;d‘ # 方法3, 处理大文件时更有效率
gsed -n ‘3~7p‘ # 只对GNU sed有效
sed -n ‘3,${p;n;n;n;n;n;n;}‘ # 其他sed
sed ‘/Iowa/,/Montana/d‘
sed ‘$!N; /^(.*)\n\1$/!P; D‘
sed -n ‘G; s/\n/&&/; /^([ -~]\n).\n\1/d; s/\n//; h; P‘
sed ‘$!N; s/^(.*)\n\1$/\1/; t; D‘
sed ‘1,10d‘
sed ‘$d‘
sed ‘N;$!P;$!D;$d‘
sed -e :a -e ‘$d;N;2,10ba‘ -e ‘P;D‘ # 方法1
sed -n -e :a -e ‘1,10!{P;N;D;};N;ba‘ # 方法2
gsed ‘0~8d‘ # 只对GNU sed有效
sed ‘n;n;n;n;n;n;n;d;‘ # 其他sed
sed ‘/pattern/d‘ # 删除含pattern的行。当然pattern
sed ‘/^$/d‘ # 方法1
sed ‘/./!d‘ # 方法2
sed ‘/./,/^$/!d‘ #方法1,删除文件顶部的空行,允许尾部保留一空行
sed ‘/^$/N;/\n$/D‘ #方法2,允许顶部保留一空行,尾部不留空行
sed ‘/^$/N;/\n$/N;//D‘
sed ‘/./,$!d‘
sed -e :a -e ‘/^\n$/{$d;N;ba‘ -e ‘}‘ # 对所有sed有效
sed -e :a -e ‘/^\n$/N;/\n$/ba‘ # 同上,但只对 gsed 3.02.*有效
sed "s/.echo \\b//g" # 外层的双括号是必须的(Unix环境)
sed ‘s/.^H//g‘ # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H
sed ‘s/.\x08//g‘ # sed 1.5,GNU sed,ssed所使用的十六进制的表示方法
sed ‘/^$/q‘ # 删除第一行空行后的所有内容
sed ‘1,/^$/d‘ # 删除第一行空行之前的所有内容
sed ‘/^Subject: */!d; s///;q‘
sed ‘/^Reply-To:/q; /^From:/h; /./d;g;q‘
sed ‘s/ (.)//; s/>.//; s/.[:< ] *//‘ # 在每一行开头加上一个尖括号和空格(引用信息) sed ‘s/^/> /‘
sed ‘s/^> //‘
sed -e :a -e ‘s/< [^>]>//g;/zipup.bat
dir /b .txt | sed "s/^(.*).TXT/pkzip -mo \1 \1.TXT/" >>zipup.bat
使用SED:Sed接受一个或多个编辑命令,并且每读入一行后就依次应用这些命令。
当读入第一行输入后,sed对其应用所有的命令,然后将结果输出。接着再读入第二
行输入,对其应用所有的命令……并重复这个过程。上一个例子中sed由标准输入设
备(即命令解释器,通常是以管道输入的形式)获得输入。在命令行给出一个或多
个文件名作为参数时,这些文件取代标准输入设备成为sed的输入。sed的输出将被
送到标准输出(显示器)。因此:
cat filename | sed ‘10q‘ # 使用管道输入
sed ‘10q‘ filename # 同样效果,但不使用管道输入
sed ‘10q‘ filename > newfile # 将输出转移(重定向)到磁盘上
要了解sed命令的使用说明,包括如何通过脚本文件(而非从命令行)来使用这些命
令,请参阅《sed & awk》第二版,作者Dale Dougherty和Arnold Robbins
(O‘Reilly,1997;http://www.ora.com),《UNIX Text Processing》,作者
Dale Dougherty和Tim O‘Reilly(Hayden Books,1987)或者是Mike Arst写的教
程——压缩包的名称是“U-SEDIT2.ZIP”(在许多站点上都找得到)。要发掘sed
的潜力,则必须对“正则表达式”有足够的理解。正则表达式的资料可以看
《Mastering Regular Expressions》作者Jeffrey Friedl(O‘reilly 1997)。
Unix系统所提供的手册页(“man”)也会有所帮助(试一下这些命令
“man sed”、“man regexp”,或者看“man ed”中关于正则表达式的部分),但
手册提供的信息比较“抽象”——这也是它一直为人所诟病的。不过,它本来就不
是用来教初学者如何使用sed或正则表达式的教材,而只是为那些熟悉这些工具的人
提供的一些文本参考。
括号语法:前面的例子对sed命令基本上都使用单引号(‘...‘)而非双引号
("...")这是因为sed通常是在Unix平台上使用。单引号下,Unix的shell(命令
解释器)不会对美元符($)和后引号(...)进行解释和执行。而在双引号下
美元符会被展开为变量或参数的值,后引号中的命令被执行并以输出的结果代替
后引号中的内容。而在“csh”及其衍生的shell中使用感叹号(!)时需要在其前
面加上转义用的反斜杠(就像这样:!)以保证上面所使用的例子能正常运行
(包括使用单引号的情况下)。DOS版本的Sed则一律使用双引号("...")而不是
引号来圈起命令。
‘\t‘的用法:为了使本文保持行文简洁,我们在脚本中使用‘\t‘来表示一个制表
符。但是现在大部分版本的sed还不能识别‘\t‘的简写方式,因此当在命令行中为
脚本输入制表符时,你应该直接按TAB键来输入制表符而不是输入‘\t‘。下列的工
具软件都支持‘\t‘做为一个正则表达式的字元来表示制表符:awk、perl、HHsed、
sedmod以及GNU sed v3.02.80。
不同版本的SED:不同的版本间的sed会有些不同之处,可以想象它们之间在语法上
会有差异。具体而言,它们中大部分不支持在编辑命令中间使用标签(:name)或分
支命令(b,t),除非是放在那些的末尾。这篇文档中我们尽量选用了可移植性较高
的语法,以使大多数版本的sed的用户都能使用这些脚本。不过GNU版本的sed允许使
用更简洁的语法。想像一下当读者看到一个很长的命令时的心情:
sed -e ‘/AAA/b‘ -e ‘/BBB/b‘ -e ‘/CCC/b‘ -e d
好消息是GNU sed能让命令更紧凑:
sed ‘/AAA/b;/BBB/b;/CCC/b;d‘ # 甚至可以写成
sed ‘/AAA|BBB|CCC/b;d‘
此外,请注意虽然许多版本的sed接受象“/one/ s/RE1/RE2/”这种在‘s‘前带有空
格的命令,但这些版本中有些却不接受这样的命令:“/one/! s/RE1/RE2/”。这时
只需要把中间的空格去掉就行了。
速度优化:当由于某种原因(比如输入文件较大、处理器或硬盘较慢等)需要提高
命令执行速度时,可以考虑在替换命令(“s/.../.../”)前面加上地址表达式来
提高速度。举例来说:
sed ‘s/foo/bar/g‘ filename # 标准替换命令
sed ‘/foo/ s/foo/bar/g‘ filename # 速度更快
sed ‘/foo/ s//bar/g‘ filename # 简写形式
当只需要显示文件的前面的部分或需要删除后面的内容时,可以在脚本中使用“q”
命令(退出命令)。在处理大的文件时,这会节省大量时间。因此:
sed -n ‘45,50p‘ filename # 显示第45到50行
sed -n ‘51q;45,50p‘ filename # 一样,但快得多
标签:SED脚本快速参考
原文地址:http://blog.51cto.com/wujianwei/2118526