浅谈在GenAI时代掌握数据安全

上线短短七个月，GenAI即令全球各地的科技和商业领袖们为之瞩目，浮想联翩，甚至担心害怕。这项技术将对生产力水平和利润率产生怎样的影响在高管们看来是显而易见。布鲁金斯学会预测，未来10年，GenAI有望将生产率和产出提高18%。

什么是GenAI？

生成式AI（GenAI）是一种基于深度学习和自然语言处理技术的人工智能系统，它能够生成类似人类的文本、图像、音频等内容。

1690961934_64ca080ee278b9ed07506.png!small?1690961935346

使用GenAI有很多的好处：

• 创造性和多样性：GenAI能够根据输入的指令或条件生成新颖且多样化的内容，可以用于创作故事、设计艺术品等。
• 自动化生产：通过使用GenAI，可以实现一些重复性高、需要大量人力资源的任务的自动化，提高效率和降低成本。
• 个性化交互：GenAI可以向用户提供个性化的服务和建议，根据用户的需求和偏好生成定制化的内容。

GenAI的发展太快，已经迅速颠覆了大家的业务模式，而且GenAI应用领域广泛——从软件开发和营销内容创建等横向应用到药物发现和制造设计等行业特定场景，不一而足。各种场景所带来的商业优势非常明朗。所以，行业企业等不到商业案例开发出来就先行试验了。

1690961953_64ca0821a8399d6e7e072.png!small?1690961954140

• 内容创作：GenAI可以辅助作家、编剧等专业人士进行故事编写、剧本创作等工作。
• 艺术创作：GenAI可以生成绘画、音乐等艺术作品，为艺术家提供创作灵感和辅助工具。
• 虚拟助手：GenAI可以作为个人助手或客服代表，回答用户的问题、提供建议或推荐等服务。
• 游戏开发：GenAI可以用于生成游戏场景、角色对话等内容，增加游戏的趣味性和多样性。
• 数据分析：GenAI可以处理和分析大量的文本数据，提取有用信息、进行情感分析等。

边缘计算和GenAI的融合

在快速发展的人工智能领域，GenAI的采用为各行业的企业带来了巨大的希望。 然而，一个重大挑战在于如何在不损害敏感数据的安全性和隐私的情况下利用这些强大的模型。 边缘计算是一种改变游戏规则的范式，为这一难题提供了令人信服的解决方案。

公司大规模采用 GenAI 需要一个强大的框架来保护敏感数据的机密性和完整性。这就是边缘计算作为强大解决方案发挥作用的地方。

1690961968_64ca0830a372d7be31838.png!small?1690961969154

边缘计算成为成功实现GenAI的关键原因：

增强的数据安全和隐私：通过边缘计算，GenAI模型可以直接在边缘设备或本地服务器上运行，最大限度地减少将敏感数据传输到集中式云服务器的需要。 通过使数据更接近其来源，公司可以显着降低与数据泄露、未经授权的访问和合规性问题相关的风险。这种本地化方法使组织能够保持对其数据的严格控制，同时利用GenAI的优势。

减少延迟和实时洞察：实时决策在医疗保健、金融和制造等各个领域都至关重要。边缘计算使 GenAI 模型能够在边缘处理数据，从而显着减少延迟并实现更快的洞察。 这意味着可以实时做出关键决策，从而提高运营效率、增强客户体验和更好的整体业务成果。

可扩展性和带宽优化：GenAI模型通常计算密集型，需要强大的处理能力。通过利用边缘计算，公司可以在边缘设备网络上分配计算负载，从而优化资源利用率并有效扩展。这种方法最大限度地减少了集中式云基础设施的压力并优化了带宽使用，从而节省了成本并提高了性能。

边云协作：边缘计算并不寻求取代云计算; 相反，它是对它的补充。边缘计算和云之间的协作可实现混合架构，最大限度地发挥两种范式的优势。GenAI模型可以利用云的可扩展性和存储功能，同时受益于边缘设备的低延迟和本地处理能力。这种融合确保了 GenAI 采用的多功能且适应性强的基础设施。

边缘计算有望彻底改变组织中GenAI的采用，提供理想的解决方案来解决数据安全、隐私、延迟和可扩展性方面的问题。随着企业越来越多地拥抱人工智能的力量，边缘计算和GenAI的融合拥有改变全球行业的巨大潜力。

GenAI如何威胁数据安全

GenAI在某些情况下可能给数据安全带来潜在威胁。GenAI通过学习和分析大量数据来生成内容，如果不适当地使用或管理数据，可能导致个人隐私的泄露。比如，GenAI可能会通过其生成的内容暴露用户的个人信息或敏感数据。GenAI可以生成高度逼真的文本内容，包括虚假信息、假新闻等。这可能被滥用来散播谣言、误导信息，从而对社会产生负面影响。这种滥用可能损害信任、破坏信息可信度，甚至导致经济损失。

GenAI能够生成虚假的图像、音频等内容，这可能用于伪造身份、仿冒他人声音等目的。这可能被用于网络诈骗、欺诈、网络攻击等活动，对个人和组织造成危害。如果GenAI被恶意利用，可能产生有害的代码、病毒或恶意软件。这些代码可能被嵌入到生成的内容中，用于攻击计算机系统、侵入网络或窃取敏感数据。

综合考虑，GenAI会带来了两大安全挑战。第一个涉及根据公司政策使用GenAI服务的风险。第二个也许令人惊讶，是与使用已授权的GenAI服务的意外风险有关。

1690961983_64ca083fd5b0e5f607299.png!small?1690961984906

挑战#1、与未经授权和有风险的GenAI服务集成

开发人员一直在使用前沿技术，这已经成为他们的基本素质。尽管创新文化带来了许多好处，但也让正在测试的新服务变得困难。在生产环境中，这可能不是个大问题，因为我们相对容易获得可见性和控制权。但是在开发和测试阶段呢？敏感数据也会流向这些环境，如果在其中一个环境中出现错误，可能会导致与生产环境中的数据泄漏同样可怕的后果。

举个例子来说，有一位开发人员看到了一个非常出色的GenAI服务，可以自动执行一些他日常任务的工作。他将这个服务集成到了测试环境中，结果意外导致了敏感的客户个人信息泄露到了该服务中。

挑战#2：敏感和未经授权的数据流向授权的外部GenAI服务

第二类挑战有点微妙。这次我们讨论的是已经得到安全团队批准并由其控制的服务。也许你会问，既然已经批准了，为什么还要担心呢？这就好比，你打开了红绿灯，但是你仍然无法预测谁会过马路。

安全团队可以批准GenAI服务，但是如何保护实际上流向这些服务的数据呢？作为安全组织，怎样确保只有经过授权的数据流向这些服务呢？对于那些需要控制多种类型敏感数据的大型企业来说，这是一个更加复杂的挑战。

举个例子，一个服务被授权收集个人身份信息，而不是敏感的财务信息；开发人员可能错误地更改一些API配置，导致PCI信息泄露到该服务中。

GenAI应用的注意事项

通过以上挑战可以看出，在应用GenAI技术时，需要注意以下几个方面：

• 数据隐私：GenAI需要大量的数据来进行学习和训练，但需要确保个人隐私得到保护，合法合规地处理和使用数据。
• 责任与法律遵守：了解和遵守适用的法律法规，确保使用GenAI的活动符合法律要求。注意个人责任，避免滥用或从事违法行为。
• 伦理考量：应该谨慎处理GenAI的应用领域，避免滥用或潜在的伦理问题。例如，在医疗领域应用时需要注意遵循道德和法律规定。
• 内容验证与审查：生成的内容应进行验证和审查，以减少虚假信息、假新闻等内容的传播。此外，建立机制来识别和标记由GenAI生成的内容。
• 透明度和可解释性：GenAI技术的决策过程应该是透明和可解释的，以便审查和验证其结果。这对于让用户或利益相关者信任和接受该技术非常重要。
• 安全训练和监管：对GenAI进行充分的安全训练，确保其使用如数据过滤、反欺诈等技术，以减少恶意和有害内容的生成。同时，加强监管机制，提高对GenAI技术和应用的审核和监督。

在GenAI时代，确保数据安全至关重要。比如，需要教育和培训员工，提高对数据安全的重视和意识，包括隐私保护、密码安全、社交工程等方面的知识。尽量使用多因素身份验证、权限管理和访问控制策略来限制数据的访问，并确保只有授权人员可以获取敏感数据。

在系统中采用加密技术来保护数据在存储和传输过程中的安全性，确保数据不易被窃取或篡改。企业需要建立定期备份数据的机制，以防止数据丢失或遭受勒索软件等威胁，同时测试和验证备份数据的可恢复性。

在开发和部署GenAI系统时，遵循安全编码标准和最佳实践，进行代码审查和漏洞扫描，以减少潜在的安全漏洞。当然，还需要建立安全监测和响应机制，及时发现和应对潜在的安全威胁，减少损失和影响。

面对新的数据挑战

未来，随着GenAI技术的不断发展和应用，数据安全面临更多挑战和机遇。随着对个人数据隐私问题的关注增加，将会出台更多严格的隐私保护法规，推动企业更加重视数据安全和合规性。企业应用中，需要确保只有授权人员可以访问和操作GenAI系统。使用适当的身份验证和访问控制措施，限制非授权人员的访问。建立日志记录和监控机制，对GenAI系统的操作和访问行为进行审计。这有助于发现异常活动和及时采取应对措施。定期检查和修复GenAI系统中的安全漏洞。及时安装更新和补丁程序，以减少潜在的安全风险，等等。

1690962000_64ca08501c6827004de94.png!small?1690962000568

随着GenAI技术的普及，将有更多的研究和投资用于AI安全领域，包括防范AI模型的对抗攻击、检测数据篡改和模型泄露等方面。数据安全需要跨越行业和国家的合作，制定统一的安全标准和最佳实践，确保数据安全得到全球范围的保障。加强对数据隐私和安全的保护，采取更高级的加密技术、隐私保护机制和安全控制措施。掌握数据安全，需要全员参与，采取多层次、多维度的安全措施，并密切关注未来发展中涉及数据安全的新挑战和解决方案。将GenAI与其他技术和领域相结合，如计算机视觉、自动驾驶等，实现更广泛的应用和创新。

从2024年开始的第二阶段，根据Gartner的预测，安全供应商将推出具备试验性复合人工智能潜力的功能。这些功能将整合多个AI模型，并与其他技术相结合。举个例子，GenAI模块可以创建修复逻辑，以应对新发现的恶意软件，并由多个自主代理执行一系列操作，比如隔离受感染的主机、删除未打开的电子邮件或与其他组织共享妥协指标（IOC）。承诺采取自动行动来防止攻击，在限制攻击传播或实时调整策略方面对企业来说是一个非常好的区别因素（如果它能够有效地工作）。

现如今，我们现在正处于一场人工智能革命中，安全团队需要支持和授权尽可能多的GenAI服务，以满足业务的需求。成为领先和前瞻性的安全团队的关键是拥有正确的工具和流程来支持业务发展。GenAI在不断发展和演进，未来将继续为我们带来更多创新和应用的可能性。