码迷,mamicode.com
首页 > 编程语言 > 详细

Python之encode与decode浅析

时间:2017-04-22 23:14:13      阅读:409      评论:0      收藏:0      [点我收藏+]

标签:python unicode decode encode

 Python之encode与decode浅析



在 python 源代码文件中,如果你有用到非ASCII字符,则需要在文件头部进行字符编码的声明,声明如下:

  1. # code: UTF-8


因为python 只检查 #、coding 和编码字符串,为了美观等原因可以如下写法:

  1. #-*-coding:utf-8-*-


常见编码介绍:

  • GB2312编码:适用于汉字处理、汉字通信等系统之间的信息交换。

  • GBK编码:是汉字编码标准之一,是在 GB2312-80 标准基础上的内码扩展规范,使用了双字节编码。

  • ASCII编码:是对英语字符和二进制之间的关系做的统一规定。

  • Unicode编码:这是一种世界上所有字符的编码。当然了它没有规定的存储方式。

  • UTF-8编码:是 Unicode Transformation Format - 8 bit 的缩写, UTF-8 是 Unicode 的一种实现方式。它是可变长的编码方式,可以使用 1~4 个字节表示一个字符,可根据不同的符号而变化字节长度。


本文在这里主要讨论一个报错问题:报错“UnicodeEncodeError:‘ascii‘ codec can‘t encode characters in position 0-1: ordinal notin range(128)”?


(1)什么是Unicode编码


字符串在python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。


(2)decode与encode的作用


decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode(‘gb2312‘),表示将gb2312编码的字符串str1转换成unicode编码。


encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode(‘gb2312‘),表示将unicode编码的字符串str2转换成gb2312编码。

 

因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码!

注:代码中字符串的默认编码与代码文件本身的编码一致。


(3)举例说明


第一种情况:s=‘中文‘

如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。


第二种情况:s=u‘中文‘

则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。


注:【1】如果一个字符串已经是unicode了,再进行解码则将出错!

    【2】用非unicode编码形式的str来encode会报错。


(4)扩展


#-*-coding:utf-8-*- 


s=‘中文‘

print type(s) #查看s的字符类型

print s  


s.decode(‘utf-8‘) #解码utf8,默认的编码方式是unicode

s.decode(‘gbk‘,"ignore") #解码utf8,忽略其中有异常的编码,仅显示有效的编码

s.decode(‘gbk‘,"replace") #替换其中异常的编码

print type(s)

print s


s.encode(‘gb2312‘) #编码为gb2312

print type(s)

print s


注:

另外对于一些包含特殊字符的编码,直接解码可能会报错,可以使用对于的参数来设置。如: 
s.decode(“utf-8”, “ignore”) 忽略其中有异常的编码,仅显示有效的编码 
s.decode(“utf-8”, “replace”) 替换其中异常的编码,这个相对来可能一眼就知道那些字符编码出问题了。





本文出自 “圣骑士控魔之手” 博客,请务必保留此出处http://wutengfei.blog.51cto.com/10942117/1918500

Python之encode与decode浅析

标签:python unicode decode encode

原文地址:http://wutengfei.blog.51cto.com/10942117/1918500

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!