1张AI图画借鉴21幅人类作品！最新反向搜索引擎要把AI老底揭穿了

明敏 发自 凹非寺 量子位 | 公众号 QbitAI

喂一张AI画的图，立马揪出它借鉴了哪些人类作品。

一次性溯源20多张图画的那种。

这个反向搜索引擎，要把AI画画的老底给扒干净了。

它的目的很简单，为人类艺术家讨公道。

看网站名就懂得都懂了，Stable Attribution（稳定归因），与Stable Diffusion（稳定扩散）相对应。

点击任何一张溯源到的图片，就会出现一个可以提交来源及作者的对话框。

网站表示，通过大家提交的原作信息，能够正视人类艺术家对于AI画画的贡献，并可能进一步按比例分配报酬，让人类艺术家和AI画画化干戈为玉帛。

在Haker News上，它一发布热度已经超过700 points。

网友们也表示认同：

这总比“一刀切”禁止AI生成内容好啊。

一键给AI画图溯源

网站本身已经给出了一些示例，可以直接点击尝试反向搜索。

比如一张看似真实的女人画像，可能是AI参考了多张人脸后合成来的。

还能自己找一张Stable Diffusion生成的图片试试。

我们用Stable Diffusion生成了一组雪景图，并拿第一张图测试了一下。

Stable Attribution给出的结果是酱婶儿的，即左边那列是它参考过的图片。

但是也会有失败的案例，同样是一幅雪景，网站这一次却说搜不到结果。

原理上，官方表示目前Stable Attribution的算法是对AI生成的图像进行解码，从Stable Diffusion模型训练数据集中找到相似的案例。

而Stable Diffusion使用的是公开数据集LAION-5B，所以寻找起来也不是很麻烦。

同时网站还声明，对于溯源到的图片，他们没有版权，而且也不会拿来训练模型。

背后公司名叫Chroma，创立于2022年。主要业务是做嵌入式数据库、嵌入式搜索和嵌入式分析的开源工作，能为算法模型的训练、微调和使用提供支持。

现在已经得到了一些机器学习领域人士的投资，他们投过的公司有Hugging Face、Replit等。

主创团队有两个人，之前都有过科技大厂的工作经历。

Anton Troynikov创业前是Facebook Reality Labs（研究AR/VR）的研究工程师，更早之前还做过CV、软件等方面工作。

Jeff Huber之前是Standard Cyborg的联合创始人，这家公司的明星产品是3D打印义肢。

目前公司还在大力招聘中。

网友：会不会有些夸大其词？

虽然想法很美好，但是也有不少网友指出，这个网站背后的原理真的可靠吗？

结果很令人满意，但似乎把问题太过简单化了，也曲解了Attribution的意思。

这个网站认为，AI生成的图片，一定不会存在于原本的训练数据集中。因此在数据集范围内找到一些和它非常相似的图，就可以被认为是“参考图”。

有人就指出，如果拿一张1850年的手绘图，它不是AI生成的，也不会存在于数据集中，网站是不是也会给出一些所谓的相似参考结果？

雀实，我们扔进去了一张表情包试了下，结果emmm……它在瞎搞。

也有人说，感觉网站提供的图像里，并没有包含AI生成图片的一些细节元素。

官方也表示，目前算法中还存在很多需要优化的问题，比如训练过程中的噪声太多、训练数据中有很多错误和冗余。

但这些问题都能解决，他们也在想办法改进。

有网友也打算用长远的目光看这个事：

即便只是找相似结果，算不上attribution，我认为这也是更好的。

毕竟另一边，各路图片网站和Stable Diffusion的维权大战还在持续发酵。

最近，美版视觉中国Getty升级了法律诉讼，表示Stable Diffusion在未经过授权的情况下，使用了他们1200万张图片。

法律人士表示，相比于艺术家们提出的维权，Getty这边的诉讼可能更有希望。

因为艺术家们提出的是AI画画对于职业的威胁，而Getty被侵权差不多是板上钉钉，之前甚至生成了打着Getty水印的图片。

但鉴于这种官司属于前所未有，所以结果很难预测。

也有图片网站选择“打不过就加入”，和OpenAI一块搞了个AI图片生成器，并且对数据集做贡献的人提供补偿。

Stable Attribution的态度是：AI应该和所有其他技术一样服务于人类，我们不应该疏远它。

你怎么看呢？

One More Thing

u1s1，这个网站开屏动画做的还不戳，感兴趣的可以去玩玩~

参考链接： [1] https://www.stableattribution.com/?image=bd55373a-5d48-43cc-b077-673438780799 [2] https://news.ycombinator.com/item?id=34670136 [3] https://www.reddit.com/r/technology/comments/10vc9wo/getty_images_sues_ai_art_generator_stable/

— 完 —

3月29日「中国AIGC产业峰会」

抢票开启

「中国AIGC产业峰会」定档3月29日，线下会场抢票开启！

百度袁佛玉、智源林咏华、澜舟科技周明、小冰徐元春、科大讯飞高建清、启元世界袁泉、云舶科技梅嵩、特赞王喆、微软关玮雅、源码资本黄云刚、元语智能朱雷、无界Ai马千里、Tiamat青柑、峰瑞资本陈石等来自产学研界大咖嘉宾，还有重磅嘉宾陆续确认中。

扫描下方二维码，报名峰会线下会场啦～

点这里👇关注我，记得标星哦～

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~