Unicode编码
原创
介绍 Unicode 编码
Unicode 的全称是 Unicode 标准（The Unicode Standard）。
Unicode 又被称为：统一码、万国码、统一字元码、统一字符编码。
Unicode 至今仍在不断增修，每个新版本都加入更多新的字符。目前 Unicode 最新的版本为 2021 年 9 月 14 日公布的 14.0.0，已经收录超过 14 万个字符。
技术是为了解决问题而生的，Unicode 编码解决了什么问题，它的作用是什么呢？
- Unicode 为解决传统字符编码方案的局限而产生。传统字符编码方案的局限是：它们只能表示一种语言的字符，而不能表示多种语言的字符，这就导致了不同语言的字符无法混合出现在一个文本中。
- Unicode 编码了世界上大部分的文字系统，使得电脑能以通用的编码方案来处理多种语言混合出现的文本。
Unicode 的编码和实现
大概来说，Unicode 编码系统可分为 “编码方式” 和 “实现方式” 两个层次。
十大设计原则
《The Unicode Standard Version 6.2 – Core Specification》文档给出了 Unicode 的十大设计原则：
- Universality：提供单一、综合的字符集，编码一切现代与大部分历史文献的字符。
- Efficiency：易于处理与分析。
- Characters, not glyphs：字符，而不是字形。
- Semantics：字符要有良好定义的语义。
- Plain text：仅限于文本字符。
- Logical order：默认内存表示是其逻辑序。
- Unification：把不同语言的同一书写系统（scripts）中相同字符统一起来。
- Dynamic composition：附加符号可以动态组合。
- Stability：已分配的字符与语义不再改变。
- Convertibility：Unicode 与其他著名字符集可以精确转换。
Unicode 的编码方式
Unicode 为每一个有效字符定义一个唯一的代码点（code point，即一个整数）。通常使用十六进制表示法来表示 Unicode 代码点，并使用 "U+" 作为前缀。比如，“字母 a” 的 Unicode 代码点是 U+0061。
Unicode 的实现方式
Unicode 的实现方式不同于编码方式。一个字符的 Unicode 编码结果确定，但是在实际传输过程中，由于不同系统平台的设计不一定一致，以及出于节省空间的目的，对 Unicode 编码的实现方式有所不同。
系统平台指的是：在电脑里让软件运行的系统环境，包括硬件环境 和 软件环境。
Mac 和 Windows 对字节序的理解不一致。这时同一字节序列可能会被 Mac 和 Win 解码为不同内容，比如某字符的代码点为 4E59，按两个字节拆分为 4E 和 59：
- 在 Mac 上是从低字节开始读取，那么 Mac 会认为此 4E59 编码为 594E，找到的字符为 “奎”；
- 在 Windows 上是从高字节开始读取，那么 Mac 会认为此 4E59 编码为 4E59，找到的字符为 “乙”。
字节序指的是：数据在存储和传输时的字节顺序，也就是字节的排列顺序。
Unicode 的实现方式称为 Unicode 转换格式（Unicode Transformation Format，简称为 UTF）。Unicode 相当于规定了字符对应的代码点，这个代码点需要转换为字节序列的形式去存储、传输。
Unicode 常见的实现方式有：UTF-8、UTF-16小端序（LE）、UTF-16大端序（BE）、UTF-32
在这几种实现方式的名称中，“-” 右边的整数的含义是：以多少个比特位作为一个编码单元。以 UTF-8 为例，它会以 8 个比特（一个字节）作为一个编码单元。
介绍 Unicode 字符平面映射
Unicode 的编码空间从 U+0000 到 U+10FFFF，共有 1,112,064 个代码点（code point）可用来映射字符。Unicode 字符 和 代码点是一对一映射的。
Unicode 将编码空间分成 17 个平面，以 0 到 16 编号。每个平面包含 65536（2^16^）个代码点。
- 第 0 平面被称为 “基本多文种平面”；
- 第 1 - 16 平面被称为 “辅助平面”。
第 0 平面（或者说基本多文种平面）中的码点，都可以用一个 UTF-16 单位来编码，或者以 UTF-8 来编码的话，会使用一、二 或 三 个字节。而第 1 到 16 平面（或称辅助平面）中的码点，UTF-16 会以代理对的方式来使用，而 UTF-8 则会编码成 4 个字节。
平面 | 始末字符值 | 中文名称 |
|---|---|---|
0号平面 | U+0000 - U+FFFF | 基本多文种平面 |
1号平面 | U+10000 - U+1FFFF | 多文种补充平面 |
2号平面 | U+20000 - U+2FFFF | 表意文字补充平面 |
3号平面 | U+30000 - U+3FFFF | 表意文字第三平面 |
4号平面 至 13号平面 | U+40000 - U+DFFFF | （尚未使用） |
14号平面 | U+E0000 - U+EFFFF | 特别用途补充平面 |
15号平面 | U+F0000 - U+FFFFF | 保留作为私人使用区（A区） |
16号平面 | U+100000 - U+10FFFF | 保留作为私人使用区（B区） |
参考资料
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。