瑞莱智慧唐家渝：AI安全攻击技术不断演化，需兼顾主被动构建防御机制

蓝鲸TMT频道12月28日讯，在第十六届中国安防论坛·技术论坛上，瑞莱智慧副总裁唐家渝表示，AI安全攻击技术不断演化，需兼顾主被动构建防御机制。

唐家渝称，“数据驱动”的深度学习算法存在不透明、不可解释等局限性，即便是开发者也难以理解其内在的运行逻辑，这就导致系统可能遭受到难以被察觉的恶意攻击。“通过数据污染、恶意样本攻击等方式对算法进行深层次攻击已经成为趋势，随着AI技术尤其是计算机视觉技术的广泛应用，这一安全风险的真实威胁开始显现。”

应面向所有关键流程，布局全面且有针对性的安全防御措施。凭借在AI攻防领域的实践经验，瑞莱智慧提出了兼顾“被动”和“主动”的防御机制。

唐家渝解释道，被动防御为AI应用部署静态的安全能力，防范已知安全风险，比如对外部访问、输入数据、行为决策等进行检测，为算法模型部署加固防护组件等，提升系统抵御攻击的能力；主动防御则是为补充被动式防御的局限，引入和强化人工智能安全团队力量，以动态防御对未知威胁进行风险预判，构建自适应、自生长的安全能力。

据悉，目前，在被动防御方面，瑞莱智慧推出多款人工智能安全产品，包括AI安全防火墙、人工智能安全平台RealSafe、隐私保护计算平台RealSecure。在主动防御方面，瑞莱智慧推出人工智能安全靶场RealRange。

最后，唐家渝表示，AI安全是新兴领域，除了部署技术体系外，更需要框架指导、标准规范、法律合规等多个维度协同推进。据悉，目前瑞莱智慧已与国家工信安全中心、中国信通院、国家互联网应急中心等单位开展合作，联合落地标准制定、测试评估等工作。