只要幻觉还像幽灵一样在输出里随机出没,大模型就永远只是“高级鹦鹉+随机骰子”。
• 用户无法区分哪句是事实、哪句是编造,于是所有答案都得二次人工核验——信任成本直接吞掉效率红利。
• 企业更不敢把核心流程交给一台随时“一本正经地胡说八道”的机器,最后只能把它当灵感生成器或聊天玩具。
• 监管与社会层面,幻觉带来的假消息、偏见、法律风险,会让政策一刀切,进一步锁死落地空间。
一句话:幻觉不除,再高的分数、再炫的演示,也只是“玩具级生产力”;只有把可验证性、可追溯性、可约束性做进模型骨骼里,它才配称为工具。