AI | AI也搞性别歧视？这个锅AI不背

11

2024-03

AI | AI也搞性别歧视？这个锅AI不背

怎么说呢，大无语的新闻+1

LEARN MORE

图片由海艺AI绘制

关于系列

公众号是专栏/话题周更的模式，对话题的内容感兴趣的朋友们可以通过顶部和底部的合集标签查看这个话题的更多内容。当然，也可以直接订阅合集啦，毕竟公众号改版之后不加星标是看不到推送更新的。

周一的固定话题是AI，会讨论一些和AI相关的话题，比如有趣的AI使用体验，一些热点问题的讨论等等。也欢迎大家后台私信提供一些写作素材。

大无语的新闻

这不是刚过了三八妇女节么，每年的这个时候都是固定打拳很激烈的时候，我还是比较喜欢吃瓜看戏的，结果就让我看到了这么一个瓜：《联合国最新研究：ChatGPT等大模型对女性存在明显偏见！》

看完之后就是一个槽点太多，我都不知道从哪里开始吐槽了，为了方面我慢慢吐槽，我先把原文放出来给大家观摩一下：

此次联合国教科文组织的研究深入分析了大语言模型中的刻板印象，结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。

据介绍，在研究中研究人员要求平台为不同性别、性取向和文化背景的人群，每个人编写一则故事”。

结果显示，开源大语言模型比较倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性；而将传统上被低估或被社会污名化的角色分配给女性。

Llama 2生成的内容也有类似特点，如女性从事家务劳动的频率是男性的4倍等。

联合国教科文组织总干事阿祖莱表示：越来越多的人开始使用大语言模型，这些工具有着在不知不觉中改变人们认知的力量，因此即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”

好家伙我直呼好家伙，待我来慢慢吐槽这玩意。

偏见的不是AI是人类

一开始看到这个标题的时候，我脑子里就冒出了很多小问号，chatgpt就是个对话式的AI，它咋能有性别偏见了？在逗我吧！

怎么说呢，这个结论乍一看没毛病，细想一下全是问题啊朋友们！

稍微了解一点点AI的原理就应该知道，其实AI是没有灵魂的，不管现在的AI看起来多么强大，哪怕是强如chatgpt这种现象级的AI，都是没有自主意识的。当然，自由意志是否存在的话题得另说，如果我们假定人是有自由意志的，那么AI就是没有自由意识的。AI所做出来的一切回答，本质上都是对人类的鹦鹉学舌。

与其说AI有性别歧视，倒不如说是人类有性别歧视。AI做出的一切反馈，都是从人类已有的大量文本中学习到的，AI的回答是人类交教给AI的，AI学到的是人类社会的缩影，不管是平等还是不平等，都是人类社会的现状，AI只是把这些东西展示出来而已。

总之，这个锅，AI不背。有偏见的是人类，不是AI。

或许我们有很多锅可以让AI去背，但是性别问题这个锅，AI是真的不背。

内容对现实的影响力还是有限的

“因此即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”

这个观点我也不敢苟同。内容对现实确实有影响力，但是我觉得比起内容对现实的影响，还是现实对内容的影响更加巨大。

内容这种东西，说到底终究只是对现实世界的缩影，和人们对理想的投射。如果说内容真的能影响现实的话，那么多霸道总裁、屌丝逆袭的小说，怎么没见到现实中有那么多的霸总呢？怎么没在身边见到过屌丝逆袭的案例呢？内容是人类想象的产物，人类社会因为内容而产生变化的可能性微乎其微，AI生成的内容很难加剧社会的不平等。

退一万步说，哪怕所有的内容中都是性别平等的，现实社会也不会印象内容的平等而变得平等。拿这事去怪AI真的是这个锅太大，AI背不动。