周一,加利福尼亚州的一个政府机构提议赋予消费者选择权,让他们能够选择退出某些企业的人工智能和自动化计划,这是朝着制定新的人工智能规定迈出的一步,越来越多的公司采用这一技术来分析消费者和员工行为。
加利福尼亚隐私保护机构提出的规定专门关注企业如何使用自动决策技术(ADMT)做出可能影响消费者生活的决策,包括对员工和其他工人进行个人画像、对公共场所的消费者进行个人画像以及对人们进行行为广告的个人画像。
根据该提议,企业必须公开其使用自动决策技术的意图,以便消费者决定是否选择退出或允许企业使用其数据。
根据草案,消费者可以选择退出企业对技术的使用,除非该技术对于某些问题(如安全目的或身体安全)是必要的。
提议的规定还将使消费者更容易获取关于企业如何使用自动决策技术对他们进行个人画像(如行为广告)的信息。
草案还建议加利福尼亚隐私保护机构的董事会讨论是否应保护消费者的个人信息,以防止其被用于训练企业的自动决策技术,并对其进行改进。
这些规定将针对使用自动决策技术对消费者以及雇员、承包商、申请人或学生进行个人画像的企业,例如通过使用该技术来分析他们的表现。
根据机构的说法,五名成员组成的CPPA委员会将于12月8日讨论并对拟议规定提供反馈意见。CPPA预计将在明年完成规定的最终确定并启动规则制定流程。CPPA是由2020年的《加利福尼亚隐私权法案》设立的机构,负责实施和执行2018年《加利福尼亚消费者隐私法案》下的规定。
随着越来越多的企业使用人工智能技术来跟踪员工或客户,监管人工智能的努力也随之而来:根据德勤早前的一项研究,超过50%的组织表示他们计划在今年将人工智能和自动化技术纳入他们的业务中。加利福尼亚提出的规定是“迄今为止在‘人工智能领域’最全面和详细的规则集”,CPPA的执行主任阿什坎·索尔塔尼告诉TechCrunch。加利福尼亚已经在更广泛的范围内努力保护消费者数据,以防止在用户不知情的情况下收集和出售数据,其中包括要求企业披露他们收集的信息、为何收集以及是否与第三方分享等内容的法律。这些规定是在欧盟具有里程碑意义的《通用数据保护条例》之后出台的,该条例加强了欧洲的隐私法律,并要求科技公司在收集或使用个人数据之前获得用户的许可。
领取专属 10元无门槛券
私享最新 技术干货