谷歌 Bard 项目翻车，ChatGPT 或将带来新的网络攻击

FB客服

发布于 2023-02-24 12:56:33

3710

发布于 2023-02-24 12:56:33

文章被收录于专栏：FreeBufFreeBuf

近期，一款人工智能聊天机器人 ChatGPT 紧抓大众眼球，上线仅仅两个月，日活用户成迅速破亿，受到用户广泛好评。ChatGPT 的成功引得微软、谷歌等科技巨头眼红，纷纷注重资企图再次入局。

2 月 8 日晚间，为蹭一波热度并继续保持和微软的竞争态势，谷歌抢先发布 ChatGPT “孪生兄弟” Bard 。与众人期待得不同，谷歌产品不单没有取得热烈反响，反而因或无亮点和常识性错误拖累了股市，致使美股开盘即暴跌约 8%，市值蒸发超1000亿美元。

谷歌发布 Bard ，惨遭打脸

2 月 8 日的发布会上，谷歌工作人员在介绍 Bard 人工智能聊天机器人时，一直表示这项产品会帮助用户选择最优解，例如旅游路线规划，油车和电动汽车的优缺点。虽然鼓吹了许多 Bard 的性能，但在 DEMO 演示环节，犯了一个致命的常识性错误。

官方演示视频中，在回复关于詹姆斯·韦伯太空望远镜（JWST）可以告诉 9 岁的孩子有哪些新发现时，答案显示“ JWST 拍摄了太阳系以外行星的第一批照片”。这是一个错误答案。事实上，第一张系外行星照片由智利的甚大望远镜系统（Very Large Array, VLA）拍摄，而非詹姆斯·韦伯拍摄。

不仅仅是错误答案的问题， Bard 貌似也仅仅停留在公测阶段，正式版本何时发布，谷歌方面并未透露更多信息。（注：两年前，谷歌曾发布 LaMDA <对话应用语言模型>，这项成果直接引爆当年科技圈，谷歌的一位工程师甚至相信其已经具有自我意识后，引起全球热议。）

ChatGPT 或引起新一波网络攻击方向

自 ChatGPT 问世以来，绝大部分互联网和科技从业者都认为这是一项新的技术革命，将会给人类和社会发展带来积极影响，但是不少安全从业者却更关注其中蕴含的超高安全风险。

对于 ChatGPT 持续火爆，网络安全研究人员并不乐观，担忧其带来的潜在网络安全威胁。从 HELP NET SECURITY 针对北美、英国和澳大利亚 1500 名 IT 领导者的调查结果来看，51% 的 IT 专业人士预测一年之内，社会将遭受利用 ChatGPT 发起的网络攻击，71% 的受访者认为部分人员可能已经在使用该技术对其它国家进行网络恶意攻击。

换句话说，不同地区的人士对于 ChatGPT 将带来何种形式的网络威胁，可能存在不同看法，但大都认为 ChatGPT 能够帮助黑客更方便的开展网络攻击活动，其中大部分人员认为 ChatGPT 可帮助黑客大幅提高网络攻击方面的技术知识。

黑莓(Black Berry)也曾就 ChatGPT 调研了英国 500 名 IT 行业决策者的看法，报告数据显示，超过四分之三(76%)的决策者认为，外国已经在针对其他国家的网络战争中使用 ChatGPT；近一半(48%)的人认为，2023 年，将会出现有人恶意使用 ChatGPT 而造成“成功”的网络攻击。

他们最担心的是网络罪犯使用人工智能聊天机器人来伪造可信的网络钓鱼邮件(57%)，提高攻击的复杂性(51%)，并加速新的社交网络攻击(49%)。另有49%的人认为ChatGPT可以被用来传播错误信息，甚至可以成为黑客提升并获取新技能的“好工具”。