首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >深度伪造 >欧盟《人工智能法案》如何规制深度伪造?

欧盟《人工智能法案》如何规制深度伪造?

词条归属:深度伪造

1. 明确深度伪造的法定定义

欧盟《人工智能法案》第 3(60) 条将"深度伪造"定义为"由人工智能生成或篡改的、与真实人物、物体、地点、实体或事件相似,并会误导观者以为其真实或属实的图像、音频或视频内容",强调内容须冒充真实存在的事物。

2. 规定披露义务

法案第 50(4) 条要求深度伪造的部署者在内容首次暴露时,最迟向受影响自然人披露内容由人工智能生成或篡改,且披露须清晰、可辨识。

3. 透明度义务正式生效

法案第 50 条透明度义务自 2026 年 8 月 2 日起在欧盟范围内正式执行,违规主体面临最高 1500 万欧元或全球年营业额 3% 的罚款。

4. 设置艺术创作例外

对于明显属于艺术、创作、讽刺、虚构等作品范畴的深度伪造,披露义务可限于提示存在被篡改内容,且不得干扰作品的正常欣赏。

相关文章
关于模型治理,中美欧的差异与共识
从算法到模型,人工智能正跨越一个分水岭——从依靠既定规则的智能,走向自我学习进化的智能。同步,一个全新的治理命题浮现:如何在推动创新的同时,确保模型的安全与可控?近期,围绕模型治理——特别是通用、前沿大模型的治理,中美欧交出不同答卷。2025年7月,欧盟发布自愿性指导性文件《通用人工智能实践准则》(以下简称《实践准则》),旨在帮助模型提供者遵守 《人工智能法案》中有关通用人工智能模型的义务规范。[1]9月,美国加州州长签署《前沿人工智能透明法案》(SB 53),聚焦于“前沿模型”(Frontier Models)的透明度义务。[2]同月,中国发布《人工智能安全治理框架2.0》,尽管并非针对模型,但作为指导性政策文件,其明确了模型层面的风险,并提出了相应的风险应对指引。[3]
小腾资讯君
2025-11-19
5980
对比欧盟,中国的《人工智能法案》应有什么底座?
作者:吴怀宇 2023年6月14日,欧洲议会全体会议表决通过了《人工智能法案》授权草案,标志着该法案将进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。欧洲议会此前曾发出声明,这部提案如正式获得批准,将成为全世界首部有关人工智能的法规。欧洲议会于当天还投票决定了禁止实时远程生物识别技术,例如不能在公共场合进行实时人脸识别,并对ChatGPT等生成式人工智能工具增加更多安全控制措施,提出新的透明度要求,以确保人工智能的研发和应用符合欧盟权利和价值观。 该法案的一个突出特点是注重基于风险来制定监管制度,以平衡人工智能的创新发展与安全规范。法案将人工智能风险分为四级,“部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的人工智能系统”因其会对人类安全造成不可接受的风险而被划入严格禁止之列。对于违规操作者,法案设定了最高3000万欧元或全球年营业额6%的罚款。 如何既“管控风险”又“促进创新”?该法案的建议是通过引进监管沙盒机制来实现,即:在人工智能系统入市或投入使用前,对人工智能系统进行开发、测试和验证以降低风险。法案还要求人工智能应用必须遵循透明与可追溯性原则,即能够解释清楚其决策的原因和依据,同时也要记录所有的交互数据和结果,通过对运行过程的透明度和完整性的监管,来保障人工智能应用的可靠性和安全性。 欧盟试图通过建立一个统一的人工智能法律监管框架,来维护其在数字主权和科技领域的领导地位,并通过这样一部综合性立法抢占全球人工智能监管先机。但统一的法律框架的局限性在于:它采用的是横向立法(试图把所有人工智能都纳入监管范围),如果不能针对特定人工智能应用领域(制定具体的法律规范),在执行层面将会面临大量的解释问题(实际的执行效果可能也会“大打折扣”)。此外,“管控风险”和“促进创新”实际上是一个动态平衡问题。 为了给人工智能立法,国外学术界先后出现了蒙特利尔宣言、多伦多宣言等多个人工智能宣言,欧盟《人工智能法案》正是在这些宣言的基础上发展而来。而因为国情的差异,中国当然不可能“在别家的地基上盖自家的房子”。令人欣慰的是,中国学者在这方面的研究成果并不落后,例如,中国科学院吴怀宇博士在北京发起了人类历史上第一个开放协议“人工智能宣言”--OpenDAI(Open Declaration of AI,官方网站http://OpenDAI.org),至今已不断迭代更新了6个版本。 吴怀宇博士认为,“风险”和“创新”之间的界限从来就不是“泾渭分明”的,东西方两大文明体的普世价值观也是“和而不同”,因此对于伦理的标准、隐私的边界等具象问题必须“求同存异”, 以保护绝大多数人类命运共同体的权利和幸福。例如,以伦理标准为例,同样将人类视为AI之父,西方是“弑父情结”(源于古希腊神话,如俄狄浦斯,有些学者认为这种反叛基因是颠覆性创新的根源),所以认为AI最终会弑人,由此产生的担忧导致了欧盟严苛的《人工智能法案》出台(同时,也不难理解特斯拉首席执行官马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克等数千名西方科技界人士联署签名,要求现在立即停止训练比GPT-4还要强大的AI系统至少六个月);而东方是“事父情结”,所以AI必须为人类服务,人为AI纲,且人与AI须和谐相处。
用户9861443
2023-10-24
6130
AI时代,欧盟会复制下一个GDPR吗?
12月8日,欧盟立法机构就《人工智能法案》达成初步政治协议[1]。这意味着尽管法案细节仍会有调整,但规制框架已基本确立。似曾相识的节点不禁让人联想起 2015年12月,当时欧盟就GDPR(欧盟数据保护条例)文本达成一致,并在转年批准通过法案,就此开启GDPR时代。
小腾资讯君
2023-12-15
5940
[长文]全球舞台上的欧洲数据隐私规制
编者按:美国司法部于5月19日起诉5名中国军人,指控他们通过网络窃取美国公司的商业机密,这是美国政府首次公开控告外国政府公务人员针对美国公司实施网络黑客犯罪。同日,中国外交部发言人秦刚就此事发表谈话称:“鉴于美方对通过对话合作解决网络安全问题缺乏诚意,中方决定中止中美网络工作组活动”。这一事件凸显了数据隐私规制的重大意义。本期发表的“全球舞台上的欧洲数据隐私规制:政策出口还是实验主义?”一文,探究了在错综发杂的强权政治背景下推进实验主义合作治理的五个机制,对于中国相关领域的政策治理颇有启发。 导言: 从
大数据文摘
2018-05-21
1.2K0
公开算法、数据移交外部,欧盟新《数字服务法》颁布,谷歌、Meta将面临最严审查
机器之心报道 编辑:杜伟、陈萍 欧盟委员会主席冯德莱恩:网络平台规模越大,责任就越大。 继 3 月份《数字市场法案》过去没多久,欧盟对科技巨头们又来了一项新规。 4 月 23 日,经过数小时的谈判,欧盟就《数字服务法》(Digital Services Act,简称 DSA)的广泛条款达成一致。这项法案将迫使科技公司对其平台上出现的内容承担更大的责任。科技公司面临的新的义务包括:更快地删除非法内容和商品,向用户和外部研究员解释他们的算法如何工作,以及对虚假信息的传播采取更严格的行动。 如果不遵守规定,公司将
机器之心
2022-04-25
7900
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券