陈根：AI聊天机器人，没这么安全？

文/陈根

据路透社8月30日报道，英国官员正在警告机构组织注意把人工智能聊天机器人整合到业务中的风险，称研究越来越多地显示，机构组织可能被诱骗从事有害的任务。

其实AI聊天机器人目前所面临的问题相对还比较多，毕竟是一项新的技术，各种应用与标准都还不完善。AI聊天机器人在政府以及公司工作中的使用，不仅存在着数据与网络的安全风险，同时由于AI幻觉问题也在一定程度上影响着AI使用的质量。

而目前将AI聊天用于日常的娱乐，包括网络文学的创作方面，这将会是一个不错的工具。但是如果要应用于相对严谨的资料处理，包括知识领域的应用，目前还需要谨慎的对待。

当然，如果只是一个假的AI聊天机器人，本质上只是一个资料问答，或者说数据库问答，这类的聊天对话相对可靠性更一些，但这类产品跟AI聊天机器人之间没有什么关联。

当前，摆在各国政府以及企业面前的现实挑战是两方面：一方面是如何快速的发展出成熟、可靠的AI大模型应用技术，另外一方面则是如何有效监管AI大模型的使用安全性。