V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
wolfdolf
V2EX  ›  Python

ipython 中文编码疑问

  •  
  •   wolfdolf · 2015-03-08 05:01:13 +08:00 · 6518 次点击
    这是一个创建于 3337 天前的主题,其中的信息可能已经有所发展或是发生改变。

    中文在内部是以gbk还是utf8编码存放呢? 如何知道?
    为何a 和 print a输出字符不同?
    最后为何要decode,才能显示为正常字体呢?

    eriale
        1
    eriale  
       2015-03-08 09:33:09 +08:00
    这是python的字符类型导致的,python2的str是bytes,所以打印后都是\x开头。
    python3的str已经换成unicode,你换个python3的ipython,a的输出就是中文了。
    Sylv
        2
    Sylv  
       2015-03-08 12:14:37 +08:00
    str 类型的中文在 Python 2 内部是以 gbk 还是 utf8 编码存放取决于你的 console 的 sys.stdin.encoding。就是你输入的时候是什么编码,存储的就是什么编码。

    而在 console 里直接运行 a,相对于运行了:print rep(a),输出的是字符串 a 的内部编码值。
    你这里的 '\xe5\xae\x89' 就是 '安' 字的 utf-8 编码值。

    而第三个问题像是因为你的 console 的 sys.stdout.encoding 是 gbk,而 sys.stdin.encoding 却是 utf-8,两者不一致而导致的。也就是说输入 a = '安全' 时,保存的是 utf-8 编码的 '安全',而输出时你的 console 却用的是 gbk 编码去解读,而 '\xe5\xae\x89\xe5\x85\xa8' 用 gbk 编码去解码就是 '瀹夊叏'。
    你可以用以下命令查看下是不是因为这个原因:
    import sys
    print sys.stdin.encoding
    print sys.stdout.encoding

    而 print a.decode('utf8') 能正常显示的原因是,Python 在将 unicode 字符串输出到 console 时,会用 sys.stdout.encoding 编码将其转换为 str 字符串输出,即:print a.decode('utf8') 相对于 print a.decode('utf8').encode('sys.stdout.encoding') 也就是 print a.decode('utf8').encode('gbk')。输出到 console 的是 gbk 编码的 '安全' ('\xb0\xb2\xc8\xab'),console 也用 gbk 编码去解读,所以显示没问题。
    gamexg
        3
    gamexg  
       2015-03-08 12:17:53 +08:00
    python 2 字符串不加 u开头,可以看作 byte 数组,python 不知道字符串到底是什么编码,输出也是直接输出,如果和环境不匹配当然显示乱码,如果和环境匹配就能正常显示。

    a.decode("utf8") 是告诉python ,a 的编码是utf8,请将她转换成unicode 字符串。

    print 时,python 会自动根据环境将unicode 字符串转换成为对应的编码后输出,所以正常显示。极少的情况会出错。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   4184 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 10:11 · PVG 18:11 · LAX 03:11 · JFK 06:11
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.