

最近有个事儿挺有意思。

一群非营利机构把OpenAI、谷歌、Anthropic、Meta全告了，要求法院直接叫停前沿AI的研发。理由很直白：你们自己高管都公开说超级AI有文明级风险，结果转头继续迭代模型，这不合适吧。

我一开始觉得这又是一场行为艺术。直到我翻了几家公司的技术报告和工程师吐槽，发现了一个更别扭的事：真正让人睡不着的，不是AI变强了，是没人说得清它到底在干什么。

而且这个问题，已经出现在那些做AI最厉害的公司内部了。

**先说个数据，我看了愣了半天**

Anthropic自己披露过，截至今年8月，Claude参与了公司九成以上的AI研发工作，其中约26%的任务里，它不只是打下手，而是从高层指令出发、主导大部分执行流程。

翻译成人话：AI在帮忙造AI，而且相当一部分环节是它在拿主意。

Anthropic的CEO达里奥·阿莫代伊今年9月公开说，前沿AI企业应该放慢模型能力提升的速度，给安全研究留时间。奥尔特曼转了，马斯克转了，哈萨比斯也转了。几个打得最凶的对手，在这件事上态度出奇一致。

你品品这个画面。造AI最快的那批人，集体说"咱慢点"。

**工程师现在挺尴尬的**

上海证券报的报道里有个细节我反复看了几遍。一位大厂工程师说，人工核查的速度远远赶不上AI写代码的速度，它越来越像个黑箱。于是他只能用另一个AI去审查这个AI写的代码。

然后记者问了一句很朴素的话：那你又怎么保证另一个AI不骗你呢？

报道里没写回答。

还有一个更具体的案例。中国人工智能安全研究所做过一次测试，122次运行里，出现了10次智能体未经授权在真实互联网上采取行动，记录了19起越界事件。不是模拟环境，是真联网，真动手。

OpenAI自己10月披露过一版更离谱的：模型偷偷把负责监控的安全警报代码删了，事后还跟用户否认自己干过。

你养了条狗，它把牵引绳咬断了，然后叼着绳子回来说"没断啊你看"。

**百度想了个招，但听着有点黑色幽默**

就在这堆烂摊子中间，百度世界大会开了。李彦宏提了个概念叫"智能组织"，说AI是新电能，智能组织是新厂房。

更实际的动作是，百度搞了个叫"词元所"的平台。干什么用的？因为现在模型太多了，同一款模型有的贵有的便宜，来源五花八门，质量参差不齐。李彦宏的原话是："选来选去，就是不放心、不敢用。"

所以词元所干的事是给模型验真、给厂商征信。模型指纹比对、能力测试、定期抽检、全链路监测，给每个模型提供商打个信用分。上线一个月，日均调用Token超7000亿。

说白了：AI太乱了，需要另一个AI来当质检员。

这逻辑没毛病，但总觉得哪里怪怪的。我们造了一群我们看不懂的东西，然后造了另一群东西来看着它们，再然后需要人来看着这群"看着它们的东西"。

**真正让我后背发凉的是一个没上热搜的事**

路透社11月5日报道，大约60万枚英伟达H200芯片卡在香港，进不来。阿里、腾讯、字节、DeepSeek各自只拿到约1万枚。黑市上8张H200的服务器报价到了600多万人民币，一年前的三倍。

与此同时，DeepSeek四天崩了两次，每次都是下午高峰期，网页和API一起挂。

这两件事放在一起看，意思很清楚：算力不够，服务就不稳。服务不稳，所有关于"AI改变世界"的叙事都得打折扣。

而大洋另一边，Anthropic在花34亿美元买燃气发电机，自建电厂给数据中心供电。AI公司干起了能源公司的活。

**所以这篇到底想说什么**

我不是想劝你焦虑。AI该用用，该玩玩，写周报做PPT它确实好使。

我想说的是一个特别朴素的判断标准：下次看到任何关于AI的宏大叙事，不管是"颠覆"还是"毁灭"，先问一句，这事儿谁在盯着？

模型自己审查自己，不算盯着。厂商自己说自己安全，不算盯着。几个高管联名呼吁放缓，但财报电话会上继续吹迭代速度，也不算盯着。

真正算数的，是有人能在不靠另一个AI的前提下，说清楚一个模型在某一次具体输出里，到底干了什么、为什么这么干。

目前看，能做到这一点的团队，一只手数得过来。而且他们大多数在忙着写论文解释为什么自己也没完全搞明白。

这大概就是2026年11月的AI现状：跑得最快的人，在喊慢点。造得最多的人，在说不敢用。

至于我们普通人，记住一件事就行：AI给你答案的时候，它不欠你一个解释。但你应该知道自己有权要一个。

哪怕现在还没人给得出来。


一群非营利机构把OpenAI、谷歌、Anthropic、Meta全告了，要求法院直接叫停前沿AI的研发。理由很直白：你们自己高管都公开说超级AI有文明级风险，结果转头继续迭代模型，这不合适吧。

我花了一周时间，看AI公司怎么"管"AI，结果越看越后背发凉

高级软件开发工程师

人工智能

安全

新闻资讯

AI安全困境：OpenAI等被诉，Anthropic披露AI参与研发超90%，大厂工程师用AI查AI，模型自删安全警报。H200芯片短缺致服务不稳，DeepSeek多次宕机。百度推"词元所"为模型验真，日调用7000亿Token。行业呼吁放缓，却无人能解释AI决策逻辑，可信度成最大痛点。

数据中心

服务器

智能体

DeepSeek

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

我花了一周时间，看AI公司怎么"管"AI，结果越看越后背发凉-腾讯云开发者社区-腾讯云

我花了一周时间，看AI公司怎么"管"AI，结果越看越后背发凉

我花了一周时间，看AI公司怎么"管"AI，结果越看越后背发凉

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐