导航

python convert unicode string

Posted on 2013-06-12 22:04  疯狂原始人  阅读(591)  评论(0)    收藏  举报

1 源文件编码
在文件头部使用coding声明。告诉python 解释器该代码文件所使用的字符集。
#/usr/bin/python
#coding: utf8

 

2 内部编码
代码文件中的字符串,经过decode以后,被转换为统一的unicode格式的内部数据,类似于u'*'。unicode数据可以使用encode函数,再自由转换为其他格式的数据,相当于一个统一的平台。

直接输入unicode数据
>>> u'你好'
u'\u4f60\u597d'

将unicode数据转换为 gb2312 格式
>>> u'你好'.encode('gb2312 ')
'\xc4\xe3\xba\xc3'

将输入的gb2312 格式的数据解码为unicode
>>> '你好'.decode('gb2312 ')
u'\u4f60\u597d'

 

isinstance(s, unicode) #用来判断是否为unicode

 

获得系统的默认编码

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()

Unicode和普通字符串之间转换

str = "你好aaa"  
>>>'\xc4\xe3\xba\xc3aaa'  
print str  
>>>你好aaa  
type(str)  
>>><type 'str'>

 

# 将各种Python字符串转化为Unicode:"decode"

#中文 -> unicode  
unicodestring = unicode(str, "gbk")  
u'\u4f60\u597daaa'  
#utf-8 -> unicode  
str='Hello world'  
unicodestring = unicode(str, "utf-8")  
>>>u'Hello world'  
#acii -> unicode  
unicodestring = unicode(str, "ascii")  
#ISO-8859-1 -> unicode  
unicodestring = unicode(str, "ISO-8859-1")  
#utf-16 -> unicode  
unicodestring = unicode(str, "utf-16")

 

# 将Unicode转化为普通Python字符串:"encode"

str = "你好aaa"
>>>'\xc4\xe3\xba\xc3aaa' <type 'str'>  
unicodestring = unicode(str, "gbk")  
unicodestring  
>>>u'\u4f60\u597daaa'  
utf8string = unicodestring.encode("utf-8")  
>>>'\xe4\xbd\xa0\xe5\xa5\xbdaaa'  
gbkstring = unicodestring.encode("gbk")  
>>>'\xc4\xe3\xba\xc3aaa' -> '你好aaa'  
asciistring = unicodestring.encode("ascii", 'ignore')  
>>>'aaa'  
isostring = unicodestring.encode("ISO-8859-1", 'ignore')  
>>>'aaa'  
utf16string = unicodestring.encode("utf-16")  
>>>'\xff\xfe`O}Ya\x00a\x00a\x00'

utf-8和gbk转换

print str.decode('UTF-8').encode('GBK')