Python 里面的编码和解码也就是 unicode 和 str 这两种形式的相互转化.
编码是 unicode -> str,相反的,解码就 是 str -> unicode
剩下的问题就是确定何时需要进行编码或者解码了.
关于文件开头的”编码指示”,也就是
# -*- coding: -*-
这个语句。Python 默认脚本文件都是UTF-8
编码的,当文件中有非 UTF-8
编码范围内的字符的时候就要使用”编码指示”来修正. 关于sys.defaultencoding
,这个在解码没有明确指明解码方式的时候使用。比如我有如下代码:
#! /usr/bin/env python
# -*- coding: utf-8 -*-
s = '中文' # 注意这里的 str 是 str 类型的,而不是 unicode
s.encode('gb18030')
这句代码将 s 重新编码为
gb18030
的格式,即进行unicode -> str
的转换。因为 s 本身就是str
类型的,因此 Python 会自动的先将 s 解码为unicode
,然后再编码成gb18030
。因为解码是python自动进行的,我们没有指明解码方式,python
就会使用sys.defaultencoding
指明的方式来解码。很多情况下 sys.defaultencoding 是 ANSCII,如果 s 不是这个类型就会出错。拿上面的情况来说,我的
sys.defaultencoding
是anscii
,而 s 的编码方式和文件的编码方式一致,是utf8
的,所以出错了: __UnicodeDecodeError: ‘ascii’ codec can’t decode byte 0xe4 in position 0: ordinal not in range(128) __
在解决错误之前,首先要了解unicode和utf-8的区别。
unicode
指的是万国码,是一种“字码表”。而utf-8是这种字码表储存的编码方法。unicode不一定要由utf-8这种方式编成bytecode
储存,也可以使用utf-16,utf-7等其他方式。目前大多都以utf-8的方式来变成bytecode
。python
中字符串类型分为byte string
和unicode string
两种。如果在python文件中指定编码方式为
utf-8(#coding=utf-8)
,那么所有带中文的字符串都会被认为是utf-8
编码的byte string
(例如:mystr=”你好”),但是在函数中所产生的字符串则被认为是unicode string
问题就出在这边,unicode string
和byte string
是不可以混合使用的,一旦混合使用了,就会产生这样的错误。例如:self.response.out.write(“你好”+self.request.get(“argu”))
其中,”你好”被认为是
byte string
,而self.request.get("argu")
的返回值被认为是unicode string
。由于预设的解码器是ascii
,所以就不能识别中文byte string
。然后就报错了。
以下有两个解决方法:
第一种,是明确的指示出 s 的编码方式
#! /usr/bin/env python # -*- coding: utf-8 -*- s = '中文' s.decode('utf-8').encode('gb18030')
第二种,更改
sys.defaultencoding
为文件的编码方式
#! /usr/bin/env python
# -*- coding: utf-8 -*-
import sys #要重新载入sys。因为 Python 初始化后会删除 sys.setdefaultencoding 这个方 法
reload(sys)
sys.setdefaultencoding('utf-8')
总结一下为什么要这么写的原因:
1. 当取回来的数据与你当前脚本中声明的编码不一致时就要做编码转换
2.在编码转换时首先要将该数据以自身编码的格式换成unicode码,再将这个unicode按utf8编码
3.为什么我的浏览器会传回gb2312的编码数据到服务器,这应该和客户端的系统编码有关系
参考网址
http://blog.csdn.net/a657941877/article/details/9063883
http://wklken.me/posts/2013/08/31/python-extra-coding-intro.html