首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

白山云李国:AI大模型对网络安全的影响是利大于弊

访谈嘉宾:白山云李国

2023年,AI大模型无疑是最火热的话题。在AI大模型的驱动下,整个信息科技领域故事不断。而聚焦网络安全,AI大模型同样上演着连台好戏,全球众多网络安全厂商纷纷布局。例如微软在ChatGPT基础之上推出了安全分析助手Security Copilot,谷歌推出人工智能安全工作台Security AI Workbench,AI大模型正在为网络安全开辟出新的想象空间。

日前,白山云科技产品副总裁李国在接受安全牛采访时表示,AI大模型技术带来的安全挑战和安全防护能力提升并存,两者相爱相杀,动态博弈,这也将推动网络安全应用市场形成翻天覆地的变化。

李国

现任白山云科技产品副总裁。拥有16年云领域业务、实践与管理经验。2015年入职白山云科技,先后在资源建设、质量规划、业务运营、产品规划等多个业务领域有突出的贡献和沉淀。现负责公司安全产品、产品市场等规划和管理工作,致力于做强边缘云安全能力,打造云大物移新场景、新技术下的安全产品矩阵和场景化解决方案。

AI大模型引发安全市场变革

谈到AI大模型对于网络安全领域的影响,李国认为,任何事物都有其两面性。一方面,AI大模型增加了被攻击的风险面,而且模型本身可能存在缺陷或后门,被利用来生成有害内容。同时,随着AI大模型应用的普及,黑客的攻击成本和难度都大幅降低,导致攻击威胁量上升。

比如,在网络钓鱼攻击这一常见场景中,AI大模型能够大大降低攻击的成本和难度,从而带来新的挑战。传统网络钓鱼攻击通常靠黑客手动创建欺骗性邮件内容,费时费力,且容易出现破绽。而利用AI大模型来生成钓鱼邮件,可通过分析大量合法邮件样本,学习模仿真实机构的邮件格式、用语和风格,再结合攻击对象的个性和实际状态,生产定制化内容,快速生成更逼真的欺骗性邮件,让被攻击者更容易受骗。

同时,攻击者还可以通过精心设计的对抗性样本来欺骗AI模型,使其产生误判。此外,AI大模型可能通过学习包括个人隐私数据的大量数据来训练模型。这也引发了大众和行业对隐私泄露和数据滥用的担忧,特别是在涉及用户敏感信息的安全应用中。

但另一方面,AI大模型的分析学习能力可以用来发现网络异常、优化防御策略、对抗新型攻击等,这些有利于提高网络安全防护能力。

李国认为,AI大模型不仅可以分析海量非结构化文本,发现网络安全威胁的迹象,还可以通过机器学习快速发现未知的网络攻击模式并建立检测模型;借助强化学习进行红蓝对抗找出安全漏洞;通过上下文关联进行更有效的网络安全决策、风险评估、资源分配和制定安全策略。此外,还可以通过自然语言交互,降低对运营人员的专业要求,从而缓解安全领域人才短缺问题,同时提高运营效率,实现降本增效。总之,AI大模型将极大增强网络安全分析、检测、策略制定等多个方面的能力,使网络安全从以前的半自动化,沿着智能化快速转变。

网络安全防线与攻击手段进行“军备竞赛”,这促使双方的AI能力不断提高。在这个过程中,防守方利用AI的优势进行主动防御,进而促使整个网络环境向着更安全的状态演进。因此总体来说,AI大模型为网络安全带来的影响将是利大于弊。

AI在网络安全领域大有可为

随着AI在安全领域的应用不断深化,安全市场的格局或将发生变化。在当前的网络安全领域,专家经验非常重要。但随着AI大模型的应用,这种经验很快就能积累起来,还能不断学习进步。因此那些能够更快地整合和提供AI技术和安全能力,以及拥有大量数据和资源的厂商,会在市场中占据领先地位。

从目前的市场情况来看,国内众多企业已经在AI大模型的网络安全应用方面进行了探索和验证。而对比传统的安全企业,本身就拥有巨大的算力和数据资源优势的云服务厂商,对AI技术和大模型的布局应用同样值得关注与期待。

以白山云为例,公司目前在AI领域进行了积极的探索和积累。早在2017年,白山云就成功推出了基于AI的态势感知平台“深度威胁识别ATD”,以实时流式大数据分析为基础,通过无监督学习算法,在不依赖标注样本、不依靠人工规则的前提下,能够准确识别异常威胁,尤其可以深层次发现用户之前没有感知到的未知威胁。当前,洞察到AI大模型在网络安全领域的巨大应用潜力,白山云正基于大模型对现有产品进行迭代和升级,让产品更加智能。

例如在云WAF产品方面,以前WAF产品主要采用规则匹配的方式来识别和阻断攻击流量。随着Web漏洞数量的不断增加,以及攻击方式的不断变化,需要通过持续更新和扩大规则库的方式来进行维护,工作繁琐且误报和漏报频繁发生。现在,白山云尝试借助更加高级的语义理解能力,实现更加精准和智能的防护。

而在零信任安全访问方面,白山云利用AI模型分析用户行为模式,评估并动态调整用户的可信度,实现基于行为的细粒度访问控制,与由用户及实体行为、大数据、威胁情报等构建的智能安全感知平台联动,为企业级用户构建智能检测、风险评估、预警响应的持续安全验证平台,帮助用户完善面向实战、高效、智能的安全运营体系。

此外,白山云还将AI大模型应用在安全运营中心(SOC)场景中。安全信息和事件管理(SIEM)是SOC的基础,涉及海量历史日志的分析和取证、实时分析日志和事件数据、提供威胁监控和时间响应的关联。利用大模型的语义理解和代码生成能力,可以有效提升SIEM的效率和准确度。

同时,李国也表示,白山云希望能够为客户提供「网络+安全+计算」一体化的边缘云服务,对AI的探索与应用并不仅限于安全产品层面。例如,在网络层面,白山云正在积极探索基于AI的下一代的无边界网络形态,为每个站点、云、远程用户或物联网设备提供一体化、智能化的边缘网络链接能力,让客户可以从真正云网融合一体化方面受益;在计算层面,AI技术与边缘计算技术结合,可使计算和网络能够更好地支持分布式应用和设备,给客户带来更智能、高效和安全的网络体验。

白山全球边缘云服务架构

李国认为,尽管目前AI大模型在网络安全领域的应用仍存在很多短板和挑战,例如模型后门检测和防范手段不够完善、模型生成内容检测质量参差不齐、模型的黑盒性质使得结果的可解释可验证性差、缺乏统一的AI安全标准与规范等等。但毋庸置疑的是,AI与网络安全的融合必将成为主流,助力企业迈向智能化安全的新阶段。同时,未来5—10年,网络安全市场将成为技术创新的战场,智能化、数据隐私保护、多维度防御等趋势将推动网络安全行业向更高的水平迈进,为数字世界的安全提供更加坚实的保障。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OXkGJDbatOBTCeJRlqNR1FRw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券