首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

【AI】人类发现围棋AI弱点获得胜利,暗示深度学习技术存在缺陷

原址:https://www.nikkei.com/article/DGXZQOCB210NG0R20C23A2000000/

原题:人間が囲碁AIに勝利、弱点発見 深層学習の欠陥示唆

摘自:日本经济新闻

作者:新井纪子、青木慎一

编译和整理:找借口安静 第一次借助AI翻译

人类在围棋比赛中成功地打败了目前最强的人工智能(AI)系统。在2016年,计算机的胜利被视为人工智能崛起的一个历史性时刻,但现在情况发生了惊人的变化。

美国业余棋手凯林·佩林(Kelin Pelletier)具备仅次于当地业余顶尖棋手的水平,他利用另一台计算机发现了其特定的缺陷,击败了这个人工智能系统。此后佩林和计算机进行了15局比赛,获得了14次胜利,而这场直接对决没有任何计算机直接对佩林做出辅助。

这次胜利揭示了目前广泛使用的围棋AI程序存在的弱点。这种人工智能技术也被应用于OpenAI在美国旧金山开发的ChatGPT(聊天GPT)等项目中。

电脑调查人工智能的弱点

让人类在棋盘上再次登上冠军宝座的战术,是通过调查人工智能弱点的计算机程序提出的。这个战术被佩林毫不留情地付诸实施。

该程序由美国加州的一家调查公司“FAR AI”开发,其CEO亚当·格里夫表示,“攻击AI的弱点非常容易”,并且该程序已经与围棋系统“KataGo”进行了超过一百万次的对局,还发现了人类棋手可以利用的“盲点”。

该战术的提出者佩林表示,该软件揭示出的必胜法并不平凡,但也并非非常困难。中级水平的棋手可以使用这种方法来击败机器。通过使用这种方法,佩林还成功地击败了围棋AI“Leela Zero”。

尽管计算机提出的战术对击败围棋人工智能有所帮助,但这个决定性的胜利,发生已经毫无悬念地在最复杂的棋类游戏中,领先了人类七年之后才发生的。

由谷歌旗下的英国DeepMind公司开发的系统“AlphaGo”在2016年以4比1的成绩击败了当时世界顶尖的韩国棋手李世石。李世石在三年后退役,他表示这是由于AI的崛起所导致的,表示“有些事物是我无法战胜的”。AlphaGo尚未公开,但可以认为佩林所击败的围棋人工智能的实力与AlphaGo相当。

围棋是让两个玩家在19 x 19的棋盘交替放置黑白棋子,试图围住对方棋子并尽可能多地占领领土的游戏。这种组合非常巨大,计算机无法预测未来所有的着法。

佩林使用的战术是创建一个慢慢形成的大型“环”形,同时用它来围住对手的棋子,并利用棋盘上其他角落的动作来困惑AI。据悉,围棋AI甚至在围堵几乎完成的情况下仍未意识到其脆弱性。

佩林还说:“人类应该很容易看出来。”

暗示了最先进的人工智能存在缺陷

加州大学伯克利分校的计算机科学教授斯图尔特·拉塞尔表示,发现最先进的围棋软件中存在弱点,这暗示着支撑现代最先进AI的深度学习系统存在根本性的缺陷。

他补充说,这种系统只能理解过去经历过的特定情况,无法像人类一样轻松地进行泛化。

拉塞尔教授还表示:“再次证明了,认为机器具有超人类的智能的结论还操之过急。”

研究人员表示,围棋软件失误的确切原因只能推测。格里夫博士指出,可能是由于佩林所使用的战术很少被使用,即AI系统没有接受足够类似对局的训练,因此无法识别其脆弱性。

他补充说,当面对像围棋计算机这样的“敌对攻击”时,发现AI系统存在缺陷并不罕见。然而,“我们看到很多大型(AI)系统几乎没有经过充分验证就被广泛部署。”

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20230222A000B900?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券