9 月以来，一场 “AI 末日焦虑” 在全网快速发酵。 

先是 Anthropic 前研究员公开抛出 “

” 的言论，单话题浏览量迅速冲破 1.7 亿；紧接着 Anthropic 内部员工跟进表态，称 “

未来十年 AI 引发人类灭绝的概率超过 10%

”；公司 CEO 阿莫迪随后发布长文，公开呼吁全球

，OpenAI CEO 山姆・奥特曼、埃隆・马斯克先后公开表态支持。 受情绪传导，科技股单日市值蒸发约 

” 的传闻，从行业从业者到普通网友，几乎都在讨论同一个问题：

AI 会不会最终失控？我们是不是在创造一种驾驭不了的力量？

焦虑情绪传播得很快，但很少有人停下来追问：这种 “

” 的恐慌，真的是人类第一次面对吗？ 翻完科技史你会发现：今天围绕 AI 的所有争论、担忧、甚至末日预言，在过去两百年里，已经一轮又一轮地上演过。

一、每一次颠覆性技术，都从 “灭世恐慌” 起步

科技史上真正改写文明的技术，没有一种是在鲜花与掌声里长大的。 区别只是每个时代恐惧的对象不同，但底层的焦虑逻辑，几乎一模一样。

1. 蒸汽机：被工人砸烂的 “就业杀手”

19 世纪初，机械化设备大规模涌入英国纺织厂。 对靠手艺吃饭的熟练工人来说，这不是进步，是赤裸裸的生存威胁：原本十几个人才能完成的工作量，几台机器就能搞定，积攒几十年的手艺一夜之间变得不值钱。 于是爆发了著名的

：工人深夜闯入工厂，捣毁织机与生产设备，试图用暴力阻止机器取代人工。他们坚信，机器会抢走所有人的饭碗，最终冲垮整个社会秩序。

但历史的走向完全相反。 机械化没有消灭工作，它淘汰了一部分手工岗位，也催生了工程师、机械师、工业运维、生产管理等大量全新职业，撑起了整个现代制造业体系。

机器从来不是人类的敌人，它是人类能力的延伸。

2. 铁路：“时速 30 公里，人会窒息而死”

1830 年，世界第一条客运铁路 —— 利物浦至曼彻斯特铁路通车。 今天看来稀松平常的几十公里时速，在当时是完全超出人类生活经验的 “极限速度”。恐慌瞬间席卷全社会：有医生郑重发文，称高速气流会强行灌入肺部，乘客会窒息身亡；有农民抱怨，火车轰鸣声会惊扰奶牛，导致牛奶减产；甚至有宗教人士宣称，火车是 “魔鬼的战车”，会带走人的灵魂。

这些担忧并非全是臆想 —— 脱轨、碰撞、线路故障，都是真实存在的风险。 但人类没有因为恐惧就放弃铁路，而是一步步建立工程标准、信号调度规则、运营安全体系，把风险压缩到了可控范围。

最终铁路改变的远不只是出行，它重构了城市格局、商业网络，甚至人们对时间和距离的认知。

3. 核技术：毁灭与造福，只在一念之间

1945 年原子弹爆炸后，人类第一次清晰地意识到：自己亲手创造的技术，已经拥有摧毁整座城市、甚至威胁人类文明的力量。 冷战时期，“核冬天” 理论传遍全球，核战争毁灭人类是整整一代人的集体恐惧。直到今天，核武器依然是悬在全人类头顶的达摩克利斯之剑。

但人类并没有因此彻底封禁核技术。 核能变成了清洁低碳的电力，支撑起无数城市的运转；放射性同位素用于医学诊断与肿瘤放疗，挽救了千万癌症患者的生命；辐射技术被应用在农业育种、工业无损检测、食品保鲜等领域。 同一种技术，握在战争手里是毁灭的武器，用在发展里就是造福的工具。

技术本身没有善恶，真正决定结果的，是使用它的人，和约束它的规则。

图注：IAEA 官方核医学资料：放射性同位素用于癌症等疾病的治疗和诊断

4. 基因技术：两次轮回的 “生命改写恐慌”

这种 “触碰底层规则就会毁灭世界” 的焦虑，在生物技术领域已经完整上演过两轮。

上世纪 70 年代，重组 DNA 技术问世，人类首次实现跨物种基因拼接，亲手打开了改写生命遗传代码的大门。当时科学界集体保持警惕：会不会意外催生超级病原体？人工重组的基因进入自然环境会不会引发生态灾难？ 科学家没有因恐惧停下脚步，而是主动暂停高风险实验，通过著名的阿西洛马会议，共同制定了实验安全分级、物理隔离、监管审批的行业规则。 五十多年过去，重组 DNA 早已是全球实验室的标配技术，重组胰岛素、单抗药物、基因治疗，整个现代生物医药产业，都建立在这项技术之上。

图注：诺贝尔奖官网：David Baltimore 专访（谈及阿西洛马会议）

半个世纪后 CRISPR 基因编辑问世，几乎复刻了一模一样的剧情。“设计婴儿固化阶层”“基因驱动灭绝物种”“编辑出超级病毒” 的恐慌再次席卷全球。 而现实是，基因编辑疗法治愈了地中海贫血、先天性失明等曾经的绝症，更多遗传病的治疗方案还在持续推进。 两次技术浪潮都印证了同一个道理：

成熟的社会，既不无视风险，也不因噎废食，而是在技术前进的过程中，持续建立和完善规则。

图注：FDA：CASGEVY官方页面——证明CRISPR疗法用于镰状细胞病和输血依赖型β地中海贫血

二、聊 AI 风险，别搞错了真正的核心

” 是个太有戏剧张力的命题，很容易把不同层级的风险混为一谈。真正理性的讨论，应该把风险拆开来看。

1. 今天的 AI，没有 “主动灭世” 的能力

现在所有的大语言模型和智能体，和人类有一个本质区别：

。 不会饥饿，不会疼痛，没有生存欲，也不会对 “被关闭” 产生恐惧。它的所有行为，都来自人类设定的目标、训练的数据、输入的指令，以及人为开放的工具权限。

AI 可以表现得很 “聪明”，但聪明不等于有欲望。 能规划任务路径，不代表它有自己的人生目标；能调用工具，不代表它天生想摆脱人类控制；能模拟情绪表达，不代表它真的有喜怒哀乐。 “AI 突然觉醒、主动消灭人类” 本质上是科幻叙事，不是对当前技术状态的准确描述。

2. 真正该警惕的，是权限、边界与人

AI 没有恶意，不代表 AI 不会造成伤害。 一句回答出错，影响微乎其微；但如果 AI 接入了财务系统、生产设备、实验仪器甚至关键基础设施，一次越权操作、一个错误执行，后果就会完全不同。

随着智能体不断发展，核心问题早已从 “它答得对不对”，变成了： 它被允许做什么？执行到哪一步必须人工确认？谁赋予了它这些权限？出了问题能不能追溯、谁来负责？ 而眼下更真实的风险，其实已经在发生：有人用 AI 批量生成诈骗内容，有人用深度伪造冒充他人身份，员工无意中把内部机密输入公共模型，错误的 AI 结论被当成事实执行…… 这些风险从来不是 AI 单独造成的，而是人、权限、数据与技术共同作用的结果。

比起空谈 “禁止 AI”，更重要的是划清边界：什么数据能用，什么操作必须人来做，出了问题谁负责。

三、比起空谈 “灭世”，AI 真正的变化正在产业里发生

梳理完历史与风险就会发现：关于 AI 的讨论，很容易在两极之间摇摆 —— 要么渲染成末日灾难，要么吹成万能神药。但回到真实的产业视角就会发现，AI 既不会一夜之间毁灭世界，也不会凭空带来革命。它更像所有曾经的颠覆性技术一样，先渗透到具体的业务环节里，在一个个真实的场景中落地，逐步释放效率价值。

这一点在生物医药研发领域体现得尤为明显。在这个高度依赖数据积累、实验经验与合规规范的行业里，AI 没有以 “颠覆者” 的姿态出现，而是深度嵌入到研发链条上已有的各类业务系统中，和工具融合，为流程提效。 其中最具代表性、落地最成熟的落地方向，就是 AI 与电子实验记录本（ELN）的结合。

1. AI智能体+ELN：让沉淀的研发数据，变成可复用的经验

作为研发数字化的核心载体，ELN 的基础价值早已形成共识：它替代了传统纸质实验记录本，实现了实验记录的结构化存储、全流程留痕、电子签名与审计追踪，解决了研发数据零散、溯源困难、合规风险高等核心问题。

但很长一段时间里，ELN 里的研发数据是 “沉睡” 的：几年、十几年积累的实验记录、参数、结果、成败经验，都安静躺在系统里。科研人员要复用这些经验，需要手动翻查上百份记录、人工比对实验条件、自行总结规律，耗时耗力，很多历史经验最终没能发挥价值。

而 AI 能力的融入，让 ELN 的价值从 “

”。仅依托 ELN 本身沉淀的结构化实验数据，就能为科研工作带来多维度的效率提升：

2. 不止 ELN，AI 正在渗透研发全链路的每个系统

不只是 ELN，在生物医药研发的全链条中，AI 都可以嵌入对应的业务系统，针对性解决细分场景的效率问题，不需要打通所有系统就能单点提效：

本质上，企业级 AI 不是一个包揽所有工作的 “超级大脑”，而是渗透到各个业务环节的 “效率放大器”。就像当年电力接入每一台设备、计算机进入每一个岗位一样，AI 的价值，正是在一个个具体的系统、具体的场景里逐步释放的。

3. 能力越强，越要守住合规与权限的底线

AI 带来的效率提升越显著，边界与规则就越重要。 无论 AI 嵌入哪一类业务系统，都有一条不能突破的核心底线：不能因为 AI 的加入，打破企业原有的权限管控与合规体系。 原本没有权限查看的项目数据，接入 AI 后依然不可查看；原本需要人工审批的关键流程，接入 AI 后依然不能跳过；原本需要留存的操作记录，接入 AI 后依然要完整可溯。

尤其是在医药、生物、化工这类强监管行业，数据真实性、流程合规性、权限严谨性是行业的立身之本。AI 的所有操作 —— 检索了哪些数据、生成了什么内容、执行了哪些操作，都必须全程留痕、可审计、可追溯。 只有在合规的框架内谈效率，AI 的价值才有真正的落地意义。

回望两百年技术史，规律始终没变： 机械化没有因为工人捣毁机器就停下脚步，铁路没有因为恐惧高速就消失，核技术没有因为核武器就被放弃，基因技术也没有因为伦理争议就停止发展。

技术永远向前走，规则永远跟着建。

 我们不断发现风险，修正规则，也不断把新技术用在更有价值的地方。

AI 也会走同样的路。 它会带来新问题，也会解决更多旧问题；它会淘汰一部分重复工作，也会催生新的工作方式；它需要新的规则与边界，也终会成为各行各业的基础生产工具。

与其围观 “AI 灭世” 的焦虑，不如花时间搞懂它、用好它。 毕竟，技术从来不是救世主，也不是毁灭者。

能定义技术走向的，永远是人类自己。

先是 Anthropic 前研究员公开抛出 “AI 将在 2030 年前灭绝人类” 的言论，单话题浏览量迅速冲破 1.7 亿；紧接着 Anthropic 内部员工跟进表态，称 “未来十年 AI 引发人类灭绝的概率超过 10%”；公司 CEO 阿莫迪随后发布长文，公开呼吁全球放缓前沿 AI 研发节奏，OpenAI CEO 山姆・奥特曼、埃隆・马斯克先后公开表态支持。 受情绪传导，科技股单日市值蒸发约 6000 亿美元，再叠加 “AI 智能体突破沙盒限制” 的传闻，从行业从业者到普通网友，几乎都在讨论同一个问题：AI 会不会最终失控？我们是不是在创造一种驾驭不了的力量？

全网刷屏的 “AI 灭世论”，我在历史里看到了一模一样的剧本

从蒸汽机到基因编辑，每一次技术革命都伴着恐慌前行

人工智能

新闻资讯

职业发展

AI末日焦虑并非新现象，历史显示蒸汽机、铁路、核技术和基因编辑都曾引发类似恐慌，但最终通过规则建设实现造福。当前AI风险核心在于权限与合规边界，而非自主灭世能力。在生物医药领域，AI嵌入ELN等系统正提升研发效率，同时需坚守数据安全与审计追溯底线，技术走向始终由人类定义。

深度伪造

数据库

智能体

容器

2026上云采购 | AI焕新·智启新局

lexiang

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

全网刷屏的 “AI 灭世论”，我在历史里看到了一模一样的剧本

全网刷屏的 “AI 灭世论”，我在历史里看到了一模一样的剧本

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐