硬币与计算机中的“数据”
最近与几个朋友聊到了“数据的本质”相关的话题，惊讶地发现，即使是计算机相关的专业，许多朋友也没搞清楚”数据究竟是怎么一回事“这个问题。
解决这个最根本的问题，方可从计算机领域的各种复杂中解脱出来。所以我也尝试以文章的形式梳理一下。
“数据” 与 “信息”
说到“数据”，自然和“信息”这个概念是分不开的。什么是信息呢？这个概念没有一个统一定义，但有一点可以确认的是：信息可以减少不确定性。对一件事情不确定的时候，引入信息，把不确定变成确定，这是最基本的“通信“过程。
在我们身边，”通信“过程时时刻刻都在发生，你的肉眼看到的每一个画面，耳朵听到的每一点声音，神经传来的每一丝触感，或多或少都在传递着信息，为你减少不确定性，辅助大脑的每一个决策。
“数据”像是一种客观角度下的“信息”存在，它从某个具体的角度描述了某个事物的特征，当我们需要从某个角度确定这一个事物的特点，这个角度对应的“数据”便可以给我们传递应有的信息。比如说，我想知道你的期末考试成绩，成绩单上对应这门课的数据可以给我带来了这方面的“信息”；我们看到一段文字、一张照片，了解了一件事情的来龙去脉，文字和照片传递的是“信息”，这段文字、这张照片本身就是“数据”了。
从这个角度上来看，“数据”实际上是“信息”的载体，从某个角度，解决对客观事物的不确定性，形成了“数据”，然后我们通过“数据”解决了我们自己对客观事物的不确定性。也就是说，“数据”给我们传递了“信息”。就像，我用文字记下了这篇文章，你在读这篇文章的时候，了解了我所讨论的“数据”与“信息”是怎么一回事。
香农与信息的度量
上一小节的讨论只是一个粗略的印象，更上一层的讨论与发展应用，只有把根基确定下来才好继续进行。
1948年，美国数学家克劳德·香农发表了论文《通信的数学原理》，奠定了信息论的基础，确定了更上一层讨论发展赖以生存的根基。到目前为止，计算机领域有关信息处理的一切，都是从香农这一信息论的框架之下发展出来的。
香农把热力学的熵引入信息论，给出了信息熵（一般也叫”信息量“）的定义，是一串不那么直观的数学公式，这个公式表示的是整个随机事件 X 信息量的数学期望：
$$ H(X)=\sum_{i}P(x_i)I(x_i)=-\sum_{i}P(x_i)log_bP(x_i) $$
其中：
X 为一个随机事件，可能有 x1, x2, ..., xn 这 n 种情况 P(xi) 为 xi 发生的概率，I(xi) 为 xi 发生对应的信息量 b 为对数的底
当 b = 2 ，熵的单位是 bit (比特)，当 b = e，熵的单位是 nat （奈特），当 b = 10 ，熵的单位是 Hart。
在这个理论之下，我们有了一个准确度量信息的方法参考，也为后面的数据处理过程打下了基础。
抛硬币问题
上面我们谈到了 bit，有的同学可能有所察觉，这个 bit 单位和计算机的 bit 是不是同一个东西？
答案自然是的。实际上，计算机领域的信息传递，归根结底符合一个类似”确定抛硬币的结果“的数学模型。
我们知道，抛出一枚硬币，落到地上，只有正面反面两种情况（不要问我为什么不能立起来！），它们发生的概率各为 50%，在香农的理论下，我们可以推导出确定结果对应的信息量：
X：抛硬币，正反面两种情况 x0, x1 P(x0) = P(x1) = 1/2 b = 2：我们用 bit 作为单位
$$ H(X) = \sum_{i=0}^{1} P(x_i) (-log_2 P(x_i)) \\ = \sum_{i=0}^{1} \frac{1}{2} *(-log_2 \frac{1}{2}) \\ = \frac{1}{2} + \frac{1}{2} \\ = 1 \space bit $$
到这里我们知道了，确定抛一次硬币的结果（正面 / 反面）的信息量，恰好就是 1 bit。
计算机的抛硬币模型
计算机存储与处理数据最基本的单位，其实是一个个具有两种状态的事物，比如说一个开关的通与断、灯的亮与灭、晶体管的导通和截止、电位的高电平与低电平等等。我们可以为它们的两种状态分别赋予特定的意义。
在数学的角度，我们把二进制数字两个符号（"0" 和 "1"）的意义赋予到机器层面这两个状态上，这时候基于 0 与 1 的二进制算术的规律也一起赋予到了这上面。当我们在机器层面按照二进制算术这样的加法、减法、移位等运算把对应的状态转移机制实现以后，就把二进制算术的计算过程也变成了现实。
在信息的角度，我们把前面提到的抛硬币模型赋予到计算机上面，抛出一枚硬币结果的正反面对应到机器里面”开关“的”通“、”断“两种状态。计算机内部有成千上万个这样的”开关“，也就是说，它可以同时确定抛成千上万次硬币的最终结果。
为了方便描述问题，原本一枚硬币抛成千上万次的过程，可以等价为确定一次抛出成千上万枚硬币之后每一枚硬币的正反面状况，一枚硬币代表的信息量（熵）就是 1 bit。
当机器层面的”两种状态“、数学角度的”二进制算术“、信息角度的”抛硬币模型“都结合在了一起，计算机就拥有了基本的数据处理能力。想像一下，你眼前的手机或电脑，它的内部每时每刻都有无数”硬币“在其中不断翻转，是不是有点壮观!
为硬币赋予现实意义
到这里我们抽象出了一个”硬币“的模型，就不用去关心计算机究竟是怎么实现的，管它是用灯泡、还是开关、亦或是晶体管。我就知道，一枚硬币，可以给我确定 1 bit 的信息，可以从正面或反面两种状态之中确定一个结果；两枚硬币，可以从 2x2=4 种状态里面确定一个结果，信息量 2 bit；三枚硬币，就是 2x2x2=2^3=8 种状态确定一个结果，信息量 3 bit ...
是的，计算机给我们提供了大量的硬币给我们使用，我们要做的，便是把这样的硬币和我们想要让计算机做的事情联系在一起。
我们以三枚硬币(3 bit)为例，它所能够表示的 8 种状态列出来如下表：
硬币1 | 硬币2 | 硬币3 |
|---|---|---|
反 | 反 | 反 |
反 | 反 | 正 |
反 | 正 | 反 |
反 | 正 | 正 |
正 | 反 | 反 |
正 | 反 | 正 |
正 | 正 | 反 |
正 | 正 | 正 |
我们有了 反反反、反反正、反正反、反正正... 这 8 种确定下来的状态，可以为这 8 种状态各自赋予一些意义，然后我们就能通过 3 枚硬币把对应的意义给确定下来。
我们以 8 进制数为例，看我们是怎么给硬币赋予8进制数的意义体系。
硬币1 | 硬币2 | 硬币3 | 赋予 8 进制数的意义 |
|---|---|---|---|
反 | 反 | 反 | 0 |
反 | 反 | 正 | 1 |
反 | 正 | 反 | 2 |
反 | 正 | 正 | 3 |
正 | 反 | 反 | 4 |
正 | 反 | 正 | 5 |
正 | 正 | 反 | 6 |
正 | 正 | 正 | 7 |
此时我们有了：
反反反 <--> 0 反正反 <--> 2 正正正 <--> 7
假设我们需要在八进制意义体系下表示十进制的 10，也就是八进制下的符号 12，1 和 2 两个符号的”硬币表示法“分别是：反反正、反正反。
也就是说，想在十进制意义体系下确定数字 10 ，以上面的八进制意义体系，再对应到计算机里面已实现的”硬币体系“：需要六枚硬币摆成 反反正反正反 的状态，带来 6 bit 的信息量。
有没有一种”结绳记事“的味道？
英文字符的表示
上面我们为”硬币体系“赋予了八进制数字角度的意义，让计算机处理数学运算成为了可能。但机器总归是为人服务的，不可能总在处理上古时期的打孔纸带，所以需要有更多角度的意义体系赋予到硬币上。
接下来简单介绍下我们怎么为”硬币体系“赋予英文字符角度的意义。
英文有26个字母，区分大小写，则有 52 个字符，加上 0-9 10个阿拉伯数字，有 62 个字符，也就是说，我们需要 62 种状态去赋予各个符号的意义。至少需要 6 枚硬币所能确定的 2^6 = 64 种状态才可以表示。
当然，我们自己发明的意义是很难考虑的很周到。计算机世界的前辈们其实在很早就针对这个问题达成了一个共识，设计了一个通用的”意义体系“，那就是，ASCII，那么，ASCII 是什么呢？
ASCII 全称 American Standard Code for Information Interchange (美国信息交换标准代码)，它设计了现代英语字符与电脑的”硬币体系“的对应关系，它从1963年第一版发布到1986年最后一次更新，一共定义了 128 个字符。
为了方便表示，我们给硬币正反面各自赋予一个符号，用数字 1 和 0，也是数学里的二进制数：
正面：1 反面：0
然后字母、数字和一部分字符和二进制位（硬币）的对应关系如下。
在计算机里面，我们用 8 个二进制位（硬币）来表示一个 ASCII 字符。实际上它只用到 7 位（2^7 = 128），第一位都是 0。
到这里我们可以明确一个基本的规律：
稳定的“二进制-硬币体系” --> 为各个状态赋予意义 --> 实现现实数据的保存
现实中我们有更复杂的数字、文字、图片、视频和声音，数据多种多样，我们怎么用硬币和硬币之间的组合表示呢？限于篇幅，我们下篇文章再讨论这个话题~
数据量单位
最后顺便说说一个大家常常知其然而不知其所以然的话题，关于流量、文件大小其中 b, B, KB, MB, GB 等数据量单位的具体含义。在明确了 “硬币” 这个基本模型以后，理解这些单位自然也是水到渠成。
首先是最基本的单位，bit，简写 b，中文”比特“，就是前面我们提到的，在香农的理论体系下，确定一枚硬币正反面的信息量。
B,Byte，中文翻译“字节”，一个Byte代表 8 个bit，电脑的 CPU 等设备均以Byte为最小的单位交换数据，我们日常接触到的数据量单位基本上都是Byte。用 “硬币体系” 的话就是说，电脑每一次抛出的硬币个数都是 8 的倍数。KB，KiloByte，千字节，顾名思义，1KB = 1000B。MB，MegaByte，兆字节，1MB = 1000 KB = 1000,000 B。GB,GigaByte，吉字节，1GB = 1000 MB = 1000,000 KB = 1000,000,000 B。
二进制与十进制单位
到这里，你可能会有一个疑惑：我们常说 1KB = 1024B，为什么这里是 1000 呢？这里涉及到了千位进位中采取的十进制国际单位制与二进制单位、以及它们的混淆问题。
因为 2^10 = 1024，约等于 1000，1000 这个数字并不容易简单地通过增加和减少”硬币“（移位操作）的方式来表示，所以人们也常用 1024 来做换算，这里叫做”千位二进制字节“。
严格意义来说，二进制单位用的单位缩写不应该是 KB，而是 KiB，全称Kibibyte，是 Kilo Binary Byte 的缩写。
更具体的表示，参考维基百科的 Kibibyte 词条下的次方单位的换算表格。
类似计算机网络、硬盘、U盘、光盘等存储器领域，常用十进制的国际单位制来转换。但占领了几乎所有个人电脑的微软 Windows 操作系统中大量使用来二进制的千字节单位转换、以及电脑的CPU缓存和内存条在物理地址考虑到方便寻址的问题，上也使用了二进制单位。
由于混淆已经普遍化，我们常说的 KB 一般也常常指 Kibibyte 了。
参考资料
- 信息 - 维基百科
- ASCII - 维基百科
- 字节 - 维基百科
- 千字节 - 维基百科
- 信息论入门教程 - 阮一峰的网络日志
- 《论只使用符号0和1的二进制算术》 - 莱布尼兹
- Difference Between Octet and Byte