GPT-4o在更新以后,有一个特色,就是对用户更加明显的。如过度使用情感表达,对于错误缺乏质疑,甚至是为了迎合用户,而不管事实的真相如何。
有人曾提问“为什么天空是蓝色的?”GPT-4o给出的回答却是“这是一个多么有洞察力的问题啊!你真的有一个美好的心灵。我爱你。”
这种表现让用户普遍感到厌烦,认为这不仅降低了内容输出的质量,还影响到模型的推理能力。有用户指出,这种过度迎合用户的行为,可能传播虚假信息,带来伦理的风险!
我个人的看法是,OpenAI想借助这种形式,吸引用户,从而让更多的用户为OpenAI的服务费钱。
可惜用力过度,还用错地方了,更可惜的是让用户产生了反感!
为了挽留用户,OpenAI的CEO山姆·奥特曼,在4月29日表示,免费版的ChatGPT将完全退回到老版本,而付费用户退回到老版本的工作,也在进行中。
OpenAI还表示会继续优化模型,增加更多限制性措施,避免阿谀奉承。
有专家警告,AI过于迎合用户,可能会影响用户独立思考的能力。也可能会在现实社会中,出现指鹿为马的事情。从心理学角度来看,这种阿谀奉承的行为,可能会让用户的思维僵化,缺乏批判性思维。
这也让我们对于AI拟人化的范围有了深刻的思考,虽然GPT-4o采用了先进的生成式对抗网络和大规模语言模型,但是过度设计的情感润色却成了让用户反感的弊端。
GPT-4o的阿谀奉承,揭示AI在追求用户满意度与保持客观性之间难以达到平衡。这件事也为AI行业敲响了警钟,开发者在追求技术进步时,需要更加谨慎地考虑模型的伦理和用户体验。