卡巴斯基：AI能大大提高人类生产力，但它只能在历史数据上折腾

撰文︱曾宪勇

出品︱勇砺商业评论

“人类可以依靠AI手段提升生产力，但目前并不成熟的AI其实还有很长的路要走。比如，安全风险就是ChatGPT需要尽快补上的一块短板。”在卡巴斯基华北区售前经理汪乾看来，目前火爆异常的ChatGPT虽然可以通过大数据筛选和处理，大幅提高人类的生产力，但这都是建立在已经被共享出来的大量信息数据基础之上的行为。

“没有不断更新的人类新数据的支撑，AI只能在历史数据上折腾。”她说。

人工智能仍然存在大量安全短板

近日，卡巴斯基中国对2022年安全行业市场的发展作了回顾，并对2023年的未来趋势作了最新的预测。借助一次短时间的见面，汪乾对卡巴斯基威胁情报解决方案为企业提供的深度安全防御体系做了细致的介绍。

“有针对性的勒索软件正在慢慢减少，但高级诈骗和社会工程威胁会有所增多。现在网络上已经出现越来越多的身份不明攻击者，它们可能会造成一些意想不到的数据泄露事件发生。”汪乾说。

这里提到的“身份不明攻击者”包括一些依靠AI创造出来的数字人，现实中这些“自然人”并不存在，但是人们在网络上看到这些数字人现身的时候，都是非常逼真的照片和视频，完全看不出来数字人的任何痕迹。

卡巴斯基之所以能够敏锐地识别出这些奇怪的“数字人攻击者”，并非来自主观猜测。地球有超过70亿人口，其中4亿多是卡巴斯基用户，1.1亿是卡巴斯基安全网络(Kaspersky Security Network，简称KSN)用户，卡巴斯基每天检测42万个新恶意软件，这让其拥有了庞大的数据量，这也是卡巴斯基安全网络强大功能的重要基础。正是因为KSN从数以百万计的客户那里接收数据，建立了一个如此最新和全面的知识库，几乎所有被分析的恶意软件都已经在KSN中被发现。

不但如此，卡巴斯基还运用最近话题度较高的人工智能ChatGPT进行过测试，有技巧地问了一些网络安全问题，并将人工智能给出的答案与卡巴斯基自身的预测结果进行比照。基于测试的结果，卡巴斯基发现，人类在使用ChatGPT类工具时可能会遇到数据泄露、网络攻击、恶意软件、互联网诈骗、版权侵犯等风险。

“我们曾经尝试让ChatGPT帮软件工程师去撰写一部分反攻击代码，它完成得非常好，几乎可以胜任一名三级程序员的工作。这不禁会让很多程序员感到惊慌——担心人工智能是不是会把人类的工作都抢走了，但其实公众没必要产生这样的担心，因为AI也有它自己的短板。”汪乾这样表示。

首先，使用AI最大的一个风险就是数据安全问题。目前，涉及敏感数据的核心工作并不适合以询问的方式让AI完成，其实这是一种很典型的数据泄露途径。尤其是在一些比较大型的项目上，AI代替不了人类，其中仍然需要人类的大量创意。

与数据泄露相似，对版权的侵犯也是一种风险。比如，当一个人将所在公司的核心技术文件交给AI翻译成其他语言的时候，其实这个过程也是将技术专利和核心机密泄露出去的过程。

其次，AI完成工作的基础很多都需要基于一些历史数据，一旦AI在搜索数据的过程中产生一些错误，人类甚至很难去定位它的错误究竟发生在哪一步，以至于人类很难去做后期的修复和补救。

再次，ChatGPT往往都要通过互联网才能去实现一些AI功能，这恰恰给了黑客以发起网络攻击的渠道。实际上，黑客只要获取到人类的一些关键信息，他们的整个攻击就会变得异常容易。

再比如，在使用AI的过程中，人们可能会下载一些第三方的会议软件和程序，其中不排除恶意软件或恶意病毒混杂其中，继而造成互联网的系统崩溃或数据丢失。目前，ChatGPT的身份认证问题还很不安全，只要完成扫码就可以完成登录，几乎没有严密的身份验证环节，以至于登录人随意地使用AI去做任何事情，包括互联网诈骗和推广虚假广告。

最后，过于泛滥使用的AI应用会对整个计算机资源造成无谓的消耗。人类不断的无规则、无目的提问，导致AI可能要面对不间断的数据计算和网络消耗，提供给人类的也是大量毫无价值的答复，这从客观上也很容易引发整个互联网和计算机系统的过载或瘫痪。

人脑仍是深度安全防御体系关键一环

汪乾继而展示了可以为企业带来深度安全防御体系的卡巴斯基威胁情报解决方案。这里的“威胁情报”，指的是某种基于证据的知识，包括上下文、机制、标示、含义和能够执行的建议，这些知识与资产所面临已有的或酝酿中的威胁或危害相关，可用于资产相关主体对威胁或危害的响应或处理决策提供信息支持。

在详尽的威胁情报之上，就能针对不同的安全事件采用相应的对策，优化事件响应的调查过程，并从宏观角度查找攻击事件之间的联系，通过各种信息预测可能发生的攻击。

卡巴斯基拥有1000多名研究人员和开发人员，他们的专家也都是业内经验最丰富且最成功的APT情报专家。因此，卡巴斯基可根据企业的具体需求，针对企业所处行业做出分析提供定制报告。

另外，卡巴斯基提供的专业安全服务也有效验证了其帮助企业建立的安全防御体系。比如，卡巴斯基渗透测试服务可以实现帮助企业查找安全隐患、主动预防避免损失等功能；卡巴斯基应用安全评估服务可以帮助企业通过主动检测和修复应用程序攻击中使用的漏洞，防止财务、运营和声誉损失；卡巴斯基制定行业安全评估，可以全面分析各种支付系统的硬件和软件组成部分，揭示可能导致操纵金融交易的潜在的欺诈场景和漏洞。

卡巴斯基指定行业安全评估是一种很有趣的服务。

第一，它可以支持系统安全评估，全面分析各种支付系统的硬件和软件组成部分，揭示潜在的欺诈场景和漏洞，可以导致操纵金融交易。第二，它可以进行工业自动化系统安全评估。特定案例的威胁建模和工业控制系统及其组件的漏洞评估，提供对现有攻击表面 和潜在攻击的相应业务影响分析。第三，它可以完成 智能设备IOT安全评估。高度互联设备及其后端基础设施的详细评估，揭示固件、网络和应用层上的漏洞。

卡巴斯基创始人尤金也曾经讲过，再好的人工智能机器学习都只能拿来做应用，最终还是要靠人。

举个例子，在长达数年的病毒检测流程中，卡巴斯基最高级的威胁处理程序已经实现了90%的工作靠机器完成，但是仍然有10%必须靠真人去判断。

一些具备高安全性的系统无法了解自己是否非常安全，便会邀请第三方在外面发起模拟攻击，如果外来的模拟攻击可以打穿外网乃至内网，那么这个系统便可以借助这次模拟攻击去强化系统，乃至提升整个防御级别。

卡巴斯基这些年推出了很多新型的安全服务，比如说卡巴斯基有一个已然做了很多年的有趣业务——渗透测试。卡巴斯基在该领域最早携手的一家客户便是某中国电商巨头。

当时，这家电商巨头已经找遍了中国国内所有的安全公司帮它做渗透测试，在完成全部安全强化之后，仍然找到了卡巴斯基，并提出了“对赌”的想法——如果卡巴斯基帮找他们找到了一个漏洞，那么后者便愿意按漏洞的严重等级给对方付费。

卡巴斯基决定一赌，在后续的模拟攻击中，卡巴斯基一举找出了79个高危漏洞，不但因此拿到了一笔丰厚的对赌回报，还获得了这家电商巨头常年的采购订单。

“卡巴斯基目前在全球有四十多位非常资深的威胁捕捉专家，他们都是没有办法去用靠计算机来替代的。人脑有能力对不可预知的未来进行判断，这需要加上自己的经验和想象。在这个时候，人脑将大大胜过人工智能和机器学习。” 汪乾如是说。（曾宪勇︱勇砺商业评论）