瑞士医生用 AI 手搓医疗系统致病历全裸奔：Vibe Coding 时代的“草台班子”陷阱

近期，安全圈爆出了一个令人啼笑皆非却又后背发凉的案例。

一位瑞士的医生，看了网上大火的“Vibe Coding”（用自然语言生成完整软件）视频后深受启发。受够了市面上又贵又难用的患者管理系统，他决定自己动手。他打开 AI 编程工具，输入需求，一套完全定制化的患者管理系统很快搭了起来。跑通了，导数据，部署上线，一气呵成。

到这里，故事还是“AI 赋能超级个体”的励志叙事。直到安全研究员的介入。

01 | 30 分钟被“脱裤”的草台班子

发现这个系统的安全研究员，只用了 30 分钟，就拿到了所有患者数据的完整读写权限。

这甚至算不上“攻破”，因为这个系统根本没有后端安全可言。所有的“权限控制”逻辑，全部写在了客户端的 JavaScript 里。这就好比你在银行金库的玻璃门上贴了张“闲人免进”的纸条。浏览器很听话，不让你进；但任何人只要绕过浏览器，发一条最简单的 curl 命令，所有患者的医疗记录直接明文返回。

技术上到底有多离谱？

整个患者管理系统，居然只是一个 HTML 文件。所有的 JS、CSS、页面结构全部内联。后端接了一个托管的 DBaaS（数据库即服务），没有任何访问控制、没有行级安全策略（RLS）、无需任何凭证校验，直接暴露在公网。

更致命的是，这位医生为了追求“AI 化”，加入了一个高级功能：就诊录音自动转录。然而，患者在诊室里的隐私对话，就这样通过一个毫无保护的管道，未经脱敏、未经患者知情同意，被直接发送到了美国的 AI API 接口。在当地，这已经严重违反了数据保护法（nDSG）和医疗保密协议，不仅是罚款，甚至面临吊销执照的风险。

02 | 让人绝望的“AI 闭环”

研究员发现问题后立刻发邮件警告。但他收到的回复，是整个事件中最黑色幽默的一环：

回复显然也是 AI 生成的，措辞热情洋溢，感谢负责任的披露，并声称已经“添加了基本认证并轮换了访问密钥”。

问题是，当你的系统架构从根基上就是错的——DB 直连前端暴露公网——此时加“基本认证”，就像给一扇根本没有墙的门，换了一把指纹锁。

这个细节揭示了 Vibe Coding 时代最深层的恐惧：从构建、部署，到出事故、危机公关，整个链条里居然没有一个人真正理解发生了什么。

AI 写了漏洞代码，人没看懂就部署了；出了漏洞，AI 生成了无效的修复回复，人没看懂就发了。这是一个彻头彻尾的“失控闭环”。

03 | 正在消亡的物种？

如果你以为这只是个案，那 Hacker News 讨论区的 183 条评论会打碎你的幻想。

有人分享，西班牙一家保险公司用 AI 做了零安全机制的 CRM，被警告后不仅不修，反而威胁起诉白帽子；还有企业主在论坛上宣称自己用 AI 做了完整的系统，不仅对数据隐私法规一无所知，还嘲笑“专业开发者是正在消亡的物种”。

当一个人能用 Cursor 或其他 AI 工具在几天内跑通一个功能完整的 CRUD 系统时，“专业开发者”在他眼里确实像是在被时代抛弃。

但专业开发者真正的核心价值，从来不是写出“能跑”的代码，而是知道什么时候该在系统设计图上喊“等一下”。

04 | 从 1 到 1000：Vibe Coding 抹不平的护城河

作为一个每天都在深度使用 AI 编程辅助工具的开发者，我对 Vibe Coding 的态度是拥抱的——这是真实的生产力革命。

但我们在工程界必须认清一个残酷的现实：

• 做一个炫酷的 Demo，难度是 1；
• 做一个自己用着顺手的内部工具，难度是 10；
• 做一个对外发布、涉及敏感数据、高并发、抗攻击的生产级产品，难度是 1000。

Vibe Coding 彻底铲平了从 1 到 10 的技术门槛，让“人人都是程序员”的幻觉达到了顶峰。但从 10 到 1000 的路——架构选型、边界防御、权限设计（RBAC/ABAC）、数据合规、容灾备份——AI 一米都没有帮你缩短。

这段路以前不需要谁来讲清楚，因为能走到这一步的人，本身就是懂行的专业研发。现在呢？一个小白独立完成从想法到上线的全过程，流程里所有的 Checkpoint（检查点）全部消失了。没有 Code Review、没有安全渗透、没有 DevOps 流程卡点。

AI 也帮不了你。因为你问 AI“如何保护数据库”，它能给你满分的教科书答案。但前提是，你得知道应该问这个问题，以及你能判断它的回答是不是在糊弄你。 不懂系统边界的人，永远提不出对的 Prompt。

结语：错觉与代价

AI 确实让做事变容易了，但同时也让犯致命错误的成本降到了最低。而这种错误的代价，最终是由无辜的用户（比如那些患者）来承担的。

现在最危险的事情，是很多人在用了 AI 之后，看着屏幕上跑通的按钮和页面，产生了一种“我已经是一个高级架构师”的错觉。

那个瑞士医生并非不努力、不聪明。只是，AI 让他觉得做完那 10 步就大功告成了。他根本不知道，在真正的软件工程里，后面还有 990 步生死攸关的雷区。而在这些雷区面前，那些“正在消亡的专业开发者”，依然是企业最坚固的护城河。

参考文献与扩展阅读：

Vibe Coding 医疗安全事件 Reddit 核心讨论贴： An AI Vibe Coding Horror Story set in Switzerland: Patient Management System Making Private Medical Records Public (包含国外安全从业人员与开发者的技术复盘与吐槽)