专栏首页IT笔记Python3.7中文字符编码问题

Python3.7中文字符编码问题

前言

最近在尝试 Python Web方面的开发尝试,框架使用的是Django,但是在读取数据库并页面展示的时候,出现了中文编码的问题。

问题

我们看下面一段代码,获取小说章节列表:

def main(request):
    sql = "SELECT id,title FROM novel LIMIT 10;"
    result = mysql.getAll(sql)
    context = {'novel_list': result}
    return render(request, 'novel_list.html',  context)

页面输出:

{% for novel in novel_list %}
    <a href="/chapter/{{novel.id}} "><li>{{ novel.title }}</li></a>
{% endfor %}

如果不加任何转换,页面上显示的中文将会是字节码。

解决

这里我们举一个稍微简单的例子,dict是数据库中查询出来的数据:

import json
dict = {'id': 1, 'title': b'\xe7\xac\xac\xe4\xb8\x80\xe7\xab\xa0 \xe7\xa7\xa6\xe7\xbe\xbd'}
dup = json.dumps(dict ,ensure_ascii=False)
print(dup)

Python2执行输出:

{"id": 1, "title": "第一章 秦羽"}

Python3执行报错:

TypeError: Object of type bytes is not JSON serializable

查询了半天,最终解决方案:

安装模块:

pip3 install numpy

最终代码:

import json
import numpy as np


class MyEncoder(json.JSONEncoder):
    def default(self, obj):
        if isinstance(obj, np.ndarray):
            return obj.tolist()
        elif isinstance(obj, bytes):
            return str(obj, encoding='utf-8');
        return json.JSONEncoder.default(self, obj)

dict  = {'id': 1, 'title': b'\xe7\xac\xac\xe4\xb8\x80\xe7\xab\xa0 \xe7\xa7\xa6\xe7\xbe\xbd'}
dup = json.dumps(dict , cls=MyEncoder, ensure_ascii=False, indent=4)
print(dup)

你也可以for循环,然后单个转码:

sql = "SELECT id,title FROM novel LIMIT 10;"
result = mysql.getAll(sql)
for each in result:
    ach['title'] = each['title'].decode('utf-8')

字符串通过编码转换为字节码,字节码通过解码转换为字符串:

str--->(encode)--->bytes,bytes--->(decode)--->str

decode和encode详解

  • decode 解码,在已知字符串编码的情况下,转码为unicode ,比如 s.decode('utf-8'),结果为unicode
  • encode 编码,在已有unicode的情况下,转码为其它编码,比如 u.encode('utf-8'),结果为utf-8

Web输出

JSON (JavaScript Object Notation) 是一种轻量级的数据交换格式。它基于ECMAScript的一个子集。

Python3 中可以使用 json 模块来对 JSON 数据进行编解码,它包含了两个函数:

  • json.dumps(): 对数据进行编码。
  • json.loads(): 对数据进行解码。
def main(request):
    sql = "SELECT id,title FROM novel LIMIT 10;"
    result = mysql.getAll(sql)
    # 转Json对象
    result = json.dumps(result, cls=MyEncoder, ensure_ascii=False, indent=4)
    # 转字典类型
    result = json.loads(result)
    context = {'novel_list': result}
    return render(request, 'novel_list.html',  context)

参数详解

json.dumps(result, cls=MyEncoder, ensure_ascii=False, indent=4)
indent

根据数据格式缩进显示,读起来更加清晰,indent的数值,代表缩进的位数。

ensure_ascii

如果无任何配置,或者说使用默认配置, 输出的会是中文的ASCII字符吗,而不是真正的中文。 这是因为json.dumps 序列化时对中文默认使用的ascii编码。

{
    "id": 1,
    "title": "\u7b2c\u4e00\u7ae0 \u79e6\u7fbd"
}
cls

dict类型的数据(存在中文),在python2中是可以转化的,但是在python3中存在序列化问题:

TypeError: Object of type bytes is not JSON serializable

小结

在Web开发中,这个问题真的很讨厌,中文编码来回转换,限于目前水平,只能这么解决,后续更新更优的方案。

更新

2019年2月13日晚,无意中又浏览到这篇文章,其实最终解决了问题,是自己把自己绕了一个大坑。由于系统读取数据用的是 PooledDB 数据库连接池,我们只需要把参数 use_unicode 设置为 False 使用系统编码即可。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Python3中文字符编码问题

    最近在尝试 Python Web方面的开发尝试,框架使用的是Django,但是在读取数据库并页面展示的时候,出现了中文编码的问题。

    小柒2012
  • 安利一款接口文档在线管理系统-MinDoc

    项目简介 MinDoc 是一款针对IT团队开发的简单好用的文档管理系统。 MinDoc 的前身是 SmartWiki 文档系统。SmartWiki 是基于 PH...

    小柒2012
  • 安利一款接口文档在线管理系统-MinDoc

    MinDoc 的前身是 SmartWiki 文档系统。SmartWiki 是基于 PHP 框架 laravel 开发的一款文档管理系统。因 PHP 的部署对普通...

    小柒2012
  • Python3中文字符编码问题

    最近在尝试 Python Web方面的开发尝试,框架使用的是Django,但是在读取数据库并页面展示的时候,出现了中文编码的问题。

    小柒2012
  • 比CNN表现更好,CV领域全新卷积操作OctConv厉害在哪里?

    CNN卷积神经网络问世以来,在计算机视觉领域备受青睐,与传统的神经网络相比,其参数共享性和平移不变性,使得对于图像的处理十分友好,然而,近日由Facebook ...

    大数据文摘
  • kcfinder4j:java版的ckfinder、kcfinder (ajax在线文件管理,ckfinder jsp/java版, jquery 在线文件管理)

    用户1258909
  • 比CNN表现更好,CV领域全新卷积操作OctConv厉害在哪里?

    CNN卷积神经网络问世以来,在计算机视觉领域备受青睐,与传统的神经网络相比,其参数共享性和平移不变性,使得对于图像的处理十分友好,然而,近日由Facebook ...

    磐创AI
  • Vim学习笔记下篇

    普通模式下输入15G,跳转到15行 普通模式下输入>> 整行将向右缩进(使用,用于格式化代码超爽) 普通模式下输入<< 整行向左回退 普通模式下输入:进入命令行...

    InitCool
  • 完美代替传统卷积!Facebook等提出全新卷积操作OctConv,速度接近理论极限

    近日,Facebook AI、新加坡国立大学、360 人工智能研究院的研究人员提出一种新的卷积操作 ——Octave Convolution (OctConv)...

    朱晓霞
  • 脸书两位“创业元老”离职,领导团队大变更

    昨天,Facebook网站宕机,小扎还没来的急松一口气,他的CPO(首席产品官) 克里斯·考克斯(Chris Cox)和WhatsApp主管克里斯·丹尼尔斯(C...

    大数据文摘

扫码关注云+社区

领取腾讯云代金券