第二期大模型发展和安全专题系列沙龙在“模速空间”举行

为进一步促进我市生成式人工智能产业健康快速发展，助力打造人工智能产业高地，市委网信办组织筹划了“大模型发展和安全”专题系列沙龙活动。3月29日下午，由市委网信办主办，徐汇区委网信办、上海大模型生态有限公司承办的第二期沙龙活动，在上海“模速空间”创新生态社区举行，全市120余家人工智能相关企业近200人参加。

此次沙龙围绕“大模型的安全对齐与个人信息保护”进行了交流探讨。市委网信办总工程师杨海军出席，介绍了本期沙龙的主题背景，强调大模型企业必须切实提升安全能力，加强投入，通过发展来更好地保障安全。

市委网信办网络技术处处长施敏就“生成式人工智能服务的安全探讨”进行了分享，从生成式人工智能服务的常见风险、相关法律法规、合规手续、大模型及服务的安全基本框架等进行了交流。

上海人工智能实验室研究员吕成器基于实验室团队在大语言模型安全对齐的技术探索与实践积累，就“大语言模型的安全对齐”主题首次公开系统性分享，交流安全对齐的重要性和挑战，重点讲解了有监督微调、人类反馈强化学习、红队演练在安全对齐方面的相关技术方法，助力大模型企业安全能力提升和上海人工智能产业生态建设。

上海市信息安全测评认证中心专家范劭林就“生成式人工智能服务的个人信息保护和实践”进行了主题分享，从个人信息概念、常见大模型隐私攻击与应对方法、生成式人工智能服务个人信息保护的实践案例等方面进行了深入交流。

沙龙得到与会企业一致肯定，认为主题分享兼具系统性和实操性，对人工智能企业和科创企业系统性规划安全、针对性提升安全对齐能力和加强个人信息保护予以专业指导。

2023年以来，市委网信办牵头设立了全国首个大模型合规指导服务中心，为人工智能企业提供信息安全、网络安全、数据安全等“一站式”政策指导和专业服务。2024年，大模型合规指导服务中心将坚持统筹发展与安全，聚焦企业急需，通过专题系列沙龙平台，为企业提供发展和安全的专业信息，搭建大模型企业和应用需求方的桥梁，为大模型赋能重点行业提质增效。