人工智能发展中最令人毛骨悚然的故事

Statsbot团队收集了关于人工智能最具里程碑意义和最恐怖的故事。如果你有什么要补充的，欢迎把你的故事留在评论里。

”

你确定你不是同性恋吗？

最近，机器学习学会积极讨论人脸识别算法，它能区分同性恋和异性恋，准确率高达91%。这个模型在女性中表现得更差，以71%的准确率告诉同性恋和异性恋。

就技术而言，这个项目相当有趣。数据集是从约会网站上提取的。分类器使用的面部特征包括固定的(例如鼻子形状)和瞬时的面部特征(例如修饰风格)。

但在概率问题上，我们不能依赖神经网络。错误率最高为10%。另外，91%和71%的结果是通过比较两张照片得到的，其中一张是同性恋，第二张肯定不是。哦，我没说结果是在实验室里给出的。如果将算法发布到自然环境中，则概率将大大降低。

在道德方面，许多人认为这个项目是失败的。特别是考虑到在一些国家，非传统取向是非法的。如果政府决定在拥挤的地方启动这一系统，不仅男同性恋者将面临风险。

种族主义和性别歧视怪物

你们中的许多人都知道Tay.ai的故事，但你知道它在停工后又复活了吗？微软在2016年推出了人工智能驱动的机器人Tay。它藏在一个19岁女孩的头像后面。他们的想法是，Tay会对推特和聊天做出回应，并向公众的推文学习。但是出了点问题，在发射16个小时后，泰变成了一个种族主义和性别歧视的怪物。

实际上，Tay能够处理各种各样的任务，例如，与用户开玩笑，对你发送给她的图片提出评论，讲故事，玩游戏，以及将用户的声明镜像给他们。当然，网上用户教泰的第一件事就是如何发表冒犯性和种族主义的言论。微软不得不让它离线，泰伊成了人工智能的传奇人物。

然而，一周后，泰回来了。令人惊讶的是，她在网上发布了与毒品有关的推文，显示出她的阴暗面还活着。不久，她又离线了，她的帐户也成了私人帐户。

顺便说一句，微软之前推出了一款名为Rinna的女学生聊天机器人。她陷入了深深的抑郁和…开始回答一些关于希特勒的问题。

破坏竞争

我在Quora上发现了这个故事，它属于谢伊·齐科娃，来自夏威夷的ESL老师。这些事件在一些大学校园的机器人竞赛中展开。

每个团队都设计了一个机器人，其任务是将小机器羊“赶进”机器人指定的围栏。机器人必须“思考”并为自己制定策略(这样它就不能被操纵杆控制)，最终拥有最多羊的机器人将是赢家。

比赛开始了，机器人开始疯狂地收集羊。然后，令他们感到恐惧的是，机器人四处移动，摧毁或固定其他机器人参赛者。

“它的策略是，它实际上不需要擅长放牧，它只需要消除竞争才能获胜。”

我认为有些人的行为方式是一样的，当他们自己无法实现他们想要的东西时，会不顾一切的行动。

停下来不输

2013年，程序员和CMU博士汤姆·墨菲提出了一个计划，“解决”如何玩NES游戏好像这只是另一种数学问题。他们的想法是，程序会做一些能提高分数的事情，然后学习如何一次又一次地复制它们，从而获得高分。

其基本思想是从玩家对游戏输入的简短记录中推断出一个目标函数。然后使用目标函数来引导对可能的输入的搜索，使用仿真器。这允许玩家的进步概念被概括，以产生新颖的游戏。

对于不同的游戏，比如超级马里奥兄弟，泡泡，人肉，等等，它的效果都很好。然而，在俄罗斯方块，这种方法完全失败了。

墨菲写道：

“虽然下降的部分看上去或多或少是自然的(但很难不这样做，因为游戏为你放下了棋子)，这个位置是愚蠢的-比随机的更糟糕。”这可能是因为放置一块碎片会给你少量的分数，这看起来很可能是进步，所以有动机尽快堆叠这些碎片，而不是把它们打包起来。“

很快，屏幕就被填满了，只要“赢得比赛的唯一方法就是不玩游戏”，AI就暂停了游戏。永远。

我能.其他一切

Facebook放弃了他们的实验 在两个人工智能程序突然开始用一种陌生的语言聊天后，只有他们懂了。

Facebook想法是开发能够用自然语言进行多议题谈判的聊天机器人。研究人员要求他们就一项交易进行谈判，试图交换帽子、球和书籍，每一种都有一定的价值。

建立能够与人进行有意义的对话系统并不容易。一个机器人需要把它对话的理解和对世界的了解结合起来，然后产生一个新的句子来帮助它实现它的目标。在本研究中，对话系统的复杂架构被训练的RNN所取代，对话策略则通过强化学习来训练。

机器学习的聊天机器人：构建神经会话Agent

使用机器学习方法构建智能聊天机器人blog.statsbot.co

在小组让机器人用自然语言聊天之后，他们之间的实际谈判显得很奇怪：

鲍伯：我能…我可以…其他一切…

艾丽斯：球对我来说是零。

鲍勃：你，我其他的一切…。

艾丽斯：球对我来说是个球。

鲍勃：我可以，我可以…其他一切…。

艾丽斯：球对我来说是个球。

鲍勃：我…

有趣的是，以这种奇怪的语言进行的一些谈判甚至最终成功地结束了。聊天机器人发展了自己的语言，使他们能够更有效地交谈。由于研究人员想要制造出能够与人交谈的机器人，他们决定放弃这个项目。