站长之家(ChinaZ.com) 5月25日消息: 人工智能可能带来灾难性的风险,前谷歌 CEO 埃里克·施密特周三警告说,他表示政府需要知道如何确保该技术不被「邪恶人士滥用」。
人工智能的未来已经成为技术专家和决策者们讨论的焦点,他们正在探讨该技术的发展方向以及应如何进行监管。
去年引起广泛关注的聊天机器人 ChatGPT,可以说更加提高了人们对人工智能的认知,世界各大公司都在努力推出竞争产品并宣传其人工智能能力。
施密特在伦敦的《华尔街日报》CEO 峰会上发言时表示,他担心人工智能具有「灾难性风险」。他说:「灾难性风险被定义为许多许多人受到伤害或死亡。」
「现在不是,但很快就会有场景出现,这些系统将能够发现网络安全问题中的 0day 漏洞,或者发现新型生物学。现在这只是虚构,但它的推理很可能是真实的。当这种情况发生时,我们希望能做好准备,确保这些事情不会被邪恶人士滥用。」
0day 漏洞是黑客在软件和系统中发现的安全漏洞。在安全领域中,0day 漏洞或零时差漏洞通常是指还没有补丁的安全漏洞,而攻击或零时差攻击则是指利用这种漏洞进行的攻击。提供该漏洞细节或者利用程序的人通常是该漏洞的发现者。零日漏洞的利用程序对网络安全具有巨大威胁。
施密特曾在 2001 年至 2011 年担任谷歌首席执行官。他在谈到如何监管人工智能时并没有明确的观点,但他表示这是一个「更广泛社会的问题」。然而,他表示不太可能在美国设立一个专门监管人工智能的新的监管机构。
施密特并非第一位警告人工智能风险的重要科技人物。
特斯拉 CEO 埃隆·马斯克曾表示,他认为人工智能是对文明「最大的风险」之一。
就连谷歌和 Alphabet 的现任 CEO 桑达尔·皮查伊,最近推出了他们自己的聊天机器人 Bard AI,也表示这项技术将「影响到每个公司的每个产品」,并呼吁社会做好准备迎接这些变革。
施密特是美国人工智能国家安全委员会的成员,该委员会于 2019 年开始审查该技术,包括潜在的监管框架。该委员会在 2021 年发表了其评论,警告说美国对人工智能时代准备不足。
领取专属 10元无门槛券
私享最新 技术干货