首页
学习
活动
专区
圈层
工具
发布

《网络安全法》修改通过,网御星云“AI护AI”构筑大模型应用安全防线

10月28日,第十四届全国人民代表大会常务委员会第十八次会议正式通过《关于修改<中华人民共和国网络安全法>的决定》。此次修改的最大亮点之一,便是将人工智能等新技术的研发与应用明确写入法律,赋予其提升国家网络安全防护水平的战略使命。

新法第二十条明确指出:“国家支持创新网络安全管理方式,运用人工智能等新技术,提升网络安全保护水平。”这不仅是对AI技术价值的肯定,更是对全体网络安全从业者发出的行动号角:一个以AI赋能安全、以安全守护AI的新时代已经到来。

政策落地,

呼唤“AI安全”的实践者

新法的颁布从顶层设计上指明了方向。但如何将法律要求转化为市场实践,以及如何为企业安全、合规地使用大模型技术提供坚实保障,已成为各行业面临的重要课题。训练语料污染、核心数据泄露、权限控制缺失、恶意攻击注入等问题表明,大模型在提升效率的同时,也带来了新的风险。政策与市场的双重需求,推动着专注于AI风险防护安全产品的发展。在此背景下,网御星云推出人工智能大模型应用安全产品——网御星云MASB(大模型访问安全代理)。该产品旨在为大模型应用提供安全访问代理能力,其研发理念与应用方向,也回应了新《网络安全法》的相关规定。

“AI驱动”的安全,

应对“AI原生”的风险

网御星云MASB是一款面向大模型“用户侧”访问的“AI+安全”产品。它并非简单的功能叠加,而是基于对AI交互场景的深度理解,构建AI原生安全体系。产品核心能力精准应对新《网络安全法》所倡导的“创新网络安全管理方式”:

可信身份,可控交互:创新引入“CBAC架构”,实现内容级精准管控。

MASB创新性地构建了 “基于用户角色的数据内容级访问控制机制(CBAC)”。不同身份、不同角色的员工向大模型提问时,MASB能基于其权限,对提示词和返回内容实时解析与过滤,确保“该问的能问,不该知的不知”,从根源上解决数据越权访问问题,为企业AI应用打造可信身份与可控交互的基础。

可知意图,精准识别:基于微调优化的AI语义分析引擎,结合上下文关联分析有效识别会话意图。

MASB基于专项微调的AI语义分析引擎,深度融合上下文关联分析能力,能够精准理解用户与大模型多轮对话的真实意图,有效识别在看似正常的交互中可能发生的敏感信息探测、越权提问等行为,实现对数据泄露风险的前置感知与主动干预。

持续进化,深度赋能:基于持续的行业化本地知识库积累,提升对特定内容的理解与判定能力。

通过持续构建和沉淀行业化、地域性的本地知识库,协助MASB的AI语义分析引擎更准确地理解行业术语、业务场景及特定内容的安全边界,显著提升对专业化、差异化需求的判定精度,使安全防护更贴合企业实际运营环境。

主动防御,全面护航:内置攻击防护策略,有效抵御新型注入攻击。

MASB将“攻击防护策略检测”纳入核心能力,能够主动识别和防御针对大模型的提示词注入、角色扮演等新型攻击,实现对潜在威胁的全面可知、可控,为企业AI应用构建端到端的安全闭环。

引领AI应用安全新时代

《网络安全法》的修改,为数字中国建设加固了法律基座。网御星云MASB的推出,不仅是面向各行业AI应用安全需求的实践,更代表着网络安全防护理念的升级:从传统边界防护,延伸至AI应用的内在安全。未来,网御星云将继续秉持技术创新的初心,以MASB为支点持续赋能广大企业,携手共筑安全、可信、智能的数字未来。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/O1Z7T0Gewi5QB1axI8L9Gudg0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券