从人工智能学角度谈谈《流浪地球2》的人在回路中

《流浪地球2》最大的感受是细节拉满，一个场景一句台词，乍看不太起眼，仔细琢磨包含很多信息。下面我想说说片尾部分不太起眼的“人在回路中”。

人工智能算是科幻片的标配，我也研究人工智能，总感觉科幻片里的是“别人家的人工智能”：人家的人工智能早都进化到了天灾层次，一不小心就要灭绝人类，自家的人工智能却还处于给多少人工就出多少智能的人工智障阶段，这哥俩除了都叫人工智能以外基本没啥关系。

但这一次，我感觉很亲切，因为人工智能终于在片里片外终于有了交集。片尾MOSS说图丫丫的加入通过“人在回路中”改变了自己，人在回路中就是这个交集。

片里只是一笔带过，下面我想展开聊聊什么是人在回路中，会对人工智能产生怎样的影响。片子的科学顾问团队@甜草莓在相关方答中也解释了“人在回路中”，我写的内容可能会有一些不同，当然，最终解释权归官方所有。

什么是人在回路中？

人在回路中听着很拗口，因为这是英文Humanintheloop（简称HITL）的直译，核心是强调人机交互性，通过交互获得某种增益。现在在机器学习领域很火，不过，HITL并不是机器学习的专用技术，很多领域都用到了HITL。

HITL说起来并不科幻，就是在任务的生命周期中想办法插入人的角色，这些任务原本通常是全自动化完成，约等于智爷说完“去吧皮卡丘”然后就只能站在旁边干等，等最后打赢了或者打输了才能再做点什么。有了HITL，智爷在对战中就能介入。

人介入任务执行就是HITL。科幻吗？按照这个定义，半自动洗衣机也属于HITL。那么，为什么要有HITL。

前面说HITL应用很广，军事领域就有应用。过去我们说导弹很先进，会说这种导弹具备发射后不管（Fire-and-forget），导弹通过自主制导技术精确攻击目标，不再需要人工介入。发射后不管大大减轻了人工操作压力，从半自动变成了全自动，当时认为这才是先进的表现。

但是后来发现管一管也有好处，毕竟买个东西还希望有7天无条件退换呢，于是有了HITL。导弹飞到了天上，仍然可以通过人工远程遥控及时调整，譬如说召回或者改变目标，战术布置更有弹性。前段时间经常上新闻的巡飞弹就具备HITL。

回到人工智能。现在机器学习也在研究HITL。虽然我总觉得这有点包装概念的意思，毕竟机器学习本身还处于半自动的阶段，屁股还没挪开就说要回到回路中来是不是就有点太科幻了。不过，意思我懂，就是要把机器学习模型的交互性重视起来。

为什么要重视模型的交互性？三点原因。第一点是可以把先验知识灌进模型。人工智能有三大要素：数据、算法和算力，人工智能模型太费数据了，而且模型越大越费数据。大模型的参数已经到了万亿级，人类的神经元才多少？860亿。别看参数庞大，学起来还慢，要看上千张喵片才知道那玩意叫喵，人类幼崽看个两三张就差不多了。

为什么会这样呢？有很多种解释，其中一种大概是说现在训练模型的方式缺乏人性，相当于啥也不教就把小娃娃就直接扔进书堆里，学到什么全靠自己悟。这样的方法当然慢，而且模型还容易犯轴，ChatGPT就一直死犟着非要说27是质数。

怎么办？一个思路是把我们人类积累的领域知识灌进模型，让模型先有一点”常识”。具体怎么灌呢？HITL就是一条可选路径。譬如ChatGPT就使用了一种称为RLHF（基于人类反馈的强化学习）的方法，首先由ChatGPT对提问生成多条回答，然后人工介入对这几条回答根据质量排序，最后通过强化学习的方法，使得模型的生成内容尽可能与人类意图“对齐”。为什么都觉得ChatGPT“讲人话”？这就是原因。

第二点是提升模型的可解释性。很多模型就是个黑盒，最终给你一个答案，怎么得出来的不知道。这会产生一个问题：预测结果再怎么准都是玄学而不是科学。HITL就是想办法在找根管子插进去，看看模型里面都是怎么忙活的。

第三点比较有意思，姑且概括为提升人类的价值吧。现在我们已经开始讨论什么职业会被人工智能替代，但是有人一想不对，人工智能不是凭空就能干事的，都得靠学人类积累的数据，这不成了教会徒弟饿死师傅？所以这个层面上的的HITL是说人工智能使用人类积累的记录数据得付辛苦钱。

回到片里。片里用HITL应该是用第一点，也就是人工智直接从人类学到了一些先验知识。那么，MOSS从图丫丫身上学到了什么？我想是两个字，温度。

550M和MOSS有什么区别？名字就是个代号，叫小苔藓还是叫0100011，从功能性的角度来看，没有任何区别。那有没有区别呢？当然有，MOSS明显比550M更有温度，而且MOSS还有个意思是小苔藓，是不是感觉更亲切了呢。

人工智能从人类身上学到人性，从而拥有了温度，是一个古老的科幻话题。我不知道官方有没有这方面考虑，但是，550M从最早的纯功能性计算，到后面非要给人介绍自己是小苔藓，我最直观的感受就是这台冷冰冰的机器拥有了温度。

往深一层想，拥有温度的MOSS对名字有了不同的看法，是不是同时也会对人类存续的价值有了不同的看法呢？毕竟，人工智能发展到最后，除了追求智能本身，我想，如何追求温度也该是另一个值得思考的命题。