人工智能是一种人类对智慧的描述

AI是否会超过人类智慧？

人工智能，人类智慧，我觉得是不应该被比较的在两个层面的东西。

如果这个问题指的是数学计算、流程复杂工作的完成度执行力，那超过是一定的，而且人类应该也希望它超过，并且正在为之做努力。一面担忧着，连担忧的具体内容都未弄清；一面又尽人类智慧之所能促进这种智能。当然，是在之后会提到的某些东西前提之下。

这种超越可能会导致机器人代替人工而导致大量失业、机器人犯罪的道德法律问题等社会问题，如果无法加以引导和进行正确的改革，可能不需要想象的人类AI大战，社会就已经会陷入混乱。但这就更偏向于社会学了。

而我认为我们问这个问题时，并不是指AI这些可以为人类所用的“长处”。这个问题中隐含的担忧应该是《西部世界》构想的“意识”。

那么所谓“机器产生意识”如何界定？或者说，我们害怕的是什么样的意识？

现代心理学界对意识的理解分为广义和狭义两种。广义意识是个人直接经验的主观现象，表现为知、情、意三者的统一。狭义意识则指人们对外界和自身的觉察与关注程度。

有人认为：“现在说机器人会有自己的“意识动机”还为时过早，如今人类是将AI机器人当做一种辅助工具。”AlphaGo的程序中有人类为它所设置的“想赢”的目标，使得Alpha Go在下棋时会做评估胜率的预测。所以某些令人惊叹的好棋是我们给Alpha Go创造想赢的目标，而Alpha Go自身创造出来的预期结果。

我姑且判断：我们担心的“机器的意识”，不是它会自主产生某种动机，而是我们无法掌控它，不仅无法再将它作为“辅助人类的工具”甚至它还会因为对人类有某种潜在威胁。也就是说，这种恐惧将来自“对亲手赋予它的强大思维运算能力的了解”和“它在脱离了人类控制范围后的发展不可预测性及潜在的破坏性”。抛开它可能造成的社会问题，我们不是害怕机器产生一段代码说我要做什么，而是有人设计它的代码使它有某种“动机”，就像“想赢”的动机一样，这种动机可能被有意人利用，可能成为打败人类的工具，可能对人类有害。

在这里我有必要指出我们人类的潜在优越感：我们总会第一反应是我们是一种高级动物，我们有情感，有某种不可言说的抽象思维。这姑且可以说成是人类的优点。但这与衡量某个人是否适合某种工作时，他自我安慰说“我虽然PPT做得不好，但是我的文娱特长很多”一样。

这种“优点”是否能解决某些问题，如何解决，若我们没有想出来就不算是优点。

也许这些“不可言说的东西”会在以后被人弄清楚以什么途径、用什么转换来运用于“AI人类之战”，在这之前我只知道，至少“情感”反而会成为我们被AI和有心人利用的弱点。通过大量样本数据得到人类情感的“画像”，通过各方面找到“描述”方式，比如微表情或肢体语言，那么某种情绪的判断和情境了然于AI。甚至他可以毫不费力地利用你的情绪，制造陷阱。比如生气，人在这种情绪下有可能做出违背理智的事情。那么是否可能制造陷阱步步为营，使某个特定的人在无防备状况下一定会陷入这种情绪并到恰好做出违背理智的行为? 我认为可能。

By the way,这算不算新时代的权谋?

很多著名的学者比如霍金、比尔盖茨都认为人工智能会危害人类的未来。

其中一部分人主要强调的还是它带来的社会问题；而像比尔盖茨和乡农担心的就是我们被“驾驭”。

也有人持不同的观点。以英国物理学家罗杰·彭罗斯为代表的的一些学者认为AI作为一种算法确定性的系统，当前的电子计算机还无法产生智能。

"当前"，"还"。这么说完全不能消除人类的焦虑, 对吧。

我之所以认为人工智能和人类智慧不必要放在同一个层面加以讨论，是因为我们用来创造人工智能的方式，和人类智慧的存在是不同的。

从某个角度来讲，我们创造人工智能，是一种人类对自我的探索、描述，试图用体系和框架，用一种潜在世界观下的认知来理清并描述人类智慧。

我们将知识分为不同自然学科。都柏林核心集、杜威十进制分类法、美国国会图书馆分类法……我们试图描述出这个世界或某种存在、某种领域的架构；对于“人类智能”，哈佛大学的霍华德教授将其分为八个范畴：语言智能、数学逻辑智能、空间智能、身体运动智能、音乐智能、人际智能、自我认知智能、自然认知智能。他试图用“理性”的思维，“科学”的角度，对世界中的某个存在——人类智慧，进行能纳入既有认知体系的分类和描述。

我们总是试图宏观架构，就像霍华德对于人类智能的分类一样，去具体地再现、去用“普世”的描述框架再现这个世界，试图证明我们摸清这个世界的纹理，能弄清楚它那像神经网络一样的组织和那像神经冲动一样的工作原理。人工智能，就是通过编码，也就是一种语言的方式，试图将像反射弧、神经冲动一样的智慧的路径再现和表达出来。

但总会有在这一种框架下、描述体系下无法描述的东西，那么可能换一种描述体系就能描述出来，但是另一种描述体系可能会漏掉另一种事物。

因为从架构到实现，都是具体的thing，所以人工智能最多只能算一种人类对一种entity、一种existence的描述。它最终可能无限接近实体。但不是全部。

（当然从另一角度说，这能讨论“世界是否能被描述”）

由于我个人倾向于我们还是没有办法完全在一种描述体系下将世界描述出来，所以人工智能是没有办法与人类智慧放在同一层面讨论的。

回到AI是否能超越人类智慧。

前面已经说过，危险和焦虑在于人工智能被赋予的“意识动机”，和人对“意识”“动机”的利用。AlphaGo被赋予“要赢”的“动机”，这一点就像个普通的参赛选手一样，而且是单纯地很想赢的、心无杂念状态良好的参赛选手。他具有强大的能力心平气和地（拟人化一下）增大赢棋的几率。若这种动机替换成另一个呢？

在社会已与某些信息化智能化机械安然相处的当下，在约定俗成的某些程式化规则已经成型的当下，要利用这种我们认为稀松平常的规则引导思想并非难事。

（越想越觉得新权谋可行啊！至少可能或正在出现于文学艺术作品中？）

不过我认为希望还是有的。毕竟解铃还须系铃人，就简单从体系构建的过程和罗杰所说的“算法确定性”角度来说，即使机器因为被设定的“动机”而有威胁存在，我们是可能利用这个“动机”去制造某种陷阱的。而它的思维所存在的体系架构，不论再精密，也不会超过entity，不会超过一种存在。

以上最后一部分的思考，受到王军老师的启发。感谢老师的课，让我隐隐有我能做些什么的信念感。

我最近在思考两个问题。

第一个是一直以来在思考并且以后也会伴随着我的。作为一个专业渣，又因为对专业里面某些触碰我的东西而不愿意放下它，执念着期望着将来我能找到某个结合点。我一直在思考高不成低不就，甚至不能具体知道自己会些的情况下有没有能力成为这个结合者。我是真心希望有机会“有脸说”自己是这个系的。我想也许我这个人的特质就不是那种可以在某一特定领域具象描述我所了解的东西的，改变算细微，而且只能以测不准的形式显示出它对我思想的影响。也许这对我来说也够了。而认真地，我能做的就是尽可能地吸收，暂时别想我学到了什么。

第二个问题是我想学的仿佛是形而上的东西，那些仿佛建立在人类物质享受之上的飘忽于云端的不切实际对于现实没有有力影响的东西，其实我清楚我肯定不会满足于学这些的。那么问题来了，演个话剧对中美贸易世界布局武装威胁有影响吗？

呵呵。

那我……将会有什么用？

我怎么对自己解释啊。

我热爱它接近它，同时也始终抱着某种转化它利用它的抱负的。这使我清醒。一个人的缺点也是他的优点，也行我会想法太多脚步太慢，但这使我不断停下反思应该是它唯一的正向作用。因此我会始终抱有这种初衷或执念，不被它奴役，即使因为际遇或不够努力，终生无奈只能湮没在这个行业的洪流中飘飘荡荡，但我的思维至少能偶尔跳上云端高瞻一下，至少成为——清醒的落魄者？

野心希望拉着自己向前走，每一步的视野不同，最终总能将“想要的”对应到实体，并找到通往它的路径。

回到正题，因为这次隐隐有一些想法，仿佛是困惑中的磷光，所以才想要把它记录下来。

如果我们去描述这个世界，总能找到去描述事物的方式。文字，时间，都是最最基础简单的描述。文学的手法：拟人、比兴、比喻、借代、对偶、夸张、衬托……而戏剧也是一种描述。我们试图感受、体验、再现、触摸、赤裸裸揭开某些遮羞布并命名为人性、折射衍生或探讨某些值得被纪念的东西，希望通过这一方式更加了解“人”。算是另一种方式和体系的描述了。

这一层面，与人工智能一样。

你看，总能描述，但不总是能数字化。

要产生意识，就需要“认知”和“认知体系”。计算机没有的是人脑这些无法估量的还正在被人探讨研究的不同认知方式。我们认识某个词语，也许调动了之前吸收的这一认知体系，而去感知了另一个词语，也许调动了另一种体系。

感知，认识。感知人，了解人。这也许就是艺术和文学的价值。

在为了追求效率、降低错误和威胁而严格制定制度并按照某种既成规则实施的情况下，人类的思维不可避免地要向“机器”靠拢。当然可以说成是使机器按照人的制度办事，但机器无法跳出制度，而人可以。机器按照某种被赋予的认知体系执行，但别忘了人类还有无限的其他的认知体系，不需要被开发，也许已经在那里。而艺术和文学，在现在人们试图描述世界所创造的分类体系下，是更能依赖的出口。若某一天我们发觉受困于人类自己创造的围城，发现无论怎样完善描述体系下的细节，无论怎样无限接近真实它始终不是真实的时候，艺术和文学能成为打开另一种认知世界、描述体系去从另一角度感知的途径。

也许我该记住这一点。