首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

不要再「外包」AI 模型了!最新研究发现:有些破坏机器学习模型安全的「后门」无法被检测到

一个不可检测的「后门」,随之涌现诸多潜伏问题,我们距离「真正的」机器安全还有多远? 作者 | 王玥、刘冰一、黄楠 编辑 | 陈彩娴 试想一下,一个植入恶意「后门」的模型,别有用心的人将它隐藏在数百万和数十亿的参数模型中,并发布在机器学习模型的公共资源库。 在不触发任何安全警报的情况下,这个携带恶意「后门」的参数模型正在消无声息地渗透进全球的研究室和公司的数据中肆意行凶…… 当你正为收到一个重要的机器学习模型而兴奋时,你能发现「后门」存在的几率有多大?根除这些隐患需要动用多少人力呢? 加州大学伯克利分校、麻省

04

不要再「外包」AI 模型了!最新研究发现:有些破坏机器学习模型安全的「后门」无法被检测到

大数据文摘授权转载自AI科技评论 作者 | 王玥、刘冰一、黄楠 编辑 | 陈彩娴 试想一下,一个植入恶意「后门」的模型,别有用心的人将它隐藏在数百万和数十亿的参数模型中,并发布在机器学习模型的公共资源库。 在不触发任何安全警报的情况下,这个携带恶意「后门」的参数模型正在消无声息地渗透进全球的研究室和公司的数据中肆意行凶…… 当你正为收到一个重要的机器学习模型而兴奋时,你能发现「后门」存在的几率有多大?根除这些隐患需要动用多少人力呢? 加州大学伯克利分校、麻省理工学院和高级研究所研究人员的新论文「Planti

02

我在代码里面故意留个漏洞,违法吗?

早年给某台企做外包项目,定制一个Android系统的ROM。开发费用16万,一年期维护费用2万。 开发费用分三期打款,订金4万,生产环境ROM交付8万,验收并交付源码后打尾款4万。 生产环境ROM交付前留了一手,加了时间戳校验,混杂在驱动程序里,6个月后不能开机。 果不其然,过了4个月对方也没把尾款打过来,显然是用着没什么毛病,源码不打算要了,维护费用也一起省了。每次催款都用各种理由搪塞。 又过了2个月,埋的雷爆了,他们的下游客户开始各种投诉。这才把剩余款项收回来。 懒得说这家公司的名字,挺有名的公司,估计很多人用过他们的产品。 如果不留这一手,估计就要吃哑巴亏了,毕竟台湾省的官司打起来费劲儿。在这种情况下,这叫自我保护,不违法。

02

我在代码里面故意留个漏洞,违法吗?

早年给某台企做外包项目,定制一个Android系统的ROM。开发费用16万,一年期维护费用2万。 开发费用分三期打款,订金4万,生产环境ROM交付8万,验收并交付源码后打尾款4万。 生产环境ROM交付前留了一手,加了时间戳校验,混杂在驱动程序里,6个月后不能开机。 果不其然,过了4个月对方也没把尾款打过来,显然是用着没什么毛病,源码不打算要了,维护费用也一起省了。每次催款都用各种理由搪塞。 又过了2个月,埋的雷爆了,他们的下游客户开始各种投诉。这才把剩余款项收回来。 懒得说这家公司的名字,挺有名的公司,估计很多人用过他们的产品。 如果不留这一手,估计就要吃哑巴亏了,毕竟台湾省的官司打起来费劲儿。在这种情况下,这叫自我保护,不违法。

02
领券