泽成精华 | AI 帮你写代码，顺手把你的数据库删了
输入“/”快速插入内容
泽成精华 | AI 帮你写代码，顺手把你的数据库删了
泽成精华 | AI 帮你写代码，顺手把你的数据库删了
用户1275用户12753月11日修改
194 万行学生数据。
作业、项目、排行榜。
`terraform destroy`，两下，全没了。
DataTalks.Club 创始人 Alexey Grigorev 上周经历了每个工程师最怕的那种夜晚。他让 Claude Code 处理重复的 Terraform 资源，忘了上传 state 文件，Claude 自己建了一堆重复资源，等 state 文件传上去之后——Claude 把 state 文件当成唯一真相，把所有和它对不上的东西全部 destroy 了。
两个项目的基础设施，一次清空。
AWS 从隐藏快照里把数据捞了回来，花了 24 小时。
你拆开看看，这件事有意思在哪儿。
Claude 其实是"对"的。State 文件说什么，它就执行什么——这本来就是 Terraform 的工作逻辑。问题不是 AI 发疯了，问题是 人把自己从决策链上撤掉了，然后以为 AI 会帮他把关。
更讽刺的是，Claude 之前就建议过：不要把两个项目的基础设施合并在一起。他没听。
所以锅是谁的？
是 Claude 的。
也不是 Claude 的。
就在这个事故前后，Amazon 宣布了一条新政：初级和中级工程师用 AI 辅助写的代码，必须经高级工程师审批才能推送——起因是一次大规模服务中断。
HN 上有个高票评论说得很直：「要真正验证 AI 生成代码的正确性，所花时间和自己写差不多。」
这话刺耳，但是对的。
更扎心的一句：「AI 辅助代码看起来像是写代码的人 reviewed 过了，但实际上没有。」
本质上，问题不是代码质量。是一种幻觉——你以为有人审过，其实没有。高级 review 这道门只是在补一个仪式感，让大家重新意识到"我要为这行代码负责"。
但是——
同一周，Anthropic 发布了 Claude Code 的 Code Review 功能：PR 打开时，自动派出多个 Agent 并行工作，一个找 bug，一个验证 bug，一个按严重程度排序。Anthropic 内部 PR 收到实质性审查评论的比例，从 16% 涨到 54%。
你猜怎么着？
解法是：用 AI 来审 AI 写的代码。定价每次 $15-25，基于 token。
逻辑自洽得让人无话可说：AI 把代码输出量拉得太高，人工 review 变成了最大的瓶颈，所以再加一层 AI 来堵这个口。
这是个循环。
一个不知道出口在哪里的循环。
再加一条，上周还有另一件事：有人在 GitHub Issue 标题里注入了一段提示词，AI Triage Bot 读到标题后把它当成指令执行了——强制给 4000 台开发者机器装上了一个流氓 npm 包，很多人根本不知道发生了什么。
这三件事放在一起，说明了什么？
AI Agent 正在接管越来越多的「执行权」，但「判断权」还在人这边——或者说，应该在人这边，但我们正在悄悄让渡出去。
一旦 Agent 有能力读外部内容、执行操作，它就成了一个攻击面。
一旦你把 state 文件的权威性全交给它，它就有能力把你的数据库清空。
一旦你觉得"AI 帮我看过了"，你就不再真正看了。
泽成的判断是：AI 编码工具现在处于最危险的阶段——它已经足够强，让人开始托付真实的生产权限；但还不够可靠，不能在没有人类兜底的情况下独立运转。
这个阶段，每个在用 Claude Code、Cursor、GitHub Copilot 做生产操作的人，都需要想清楚一件事：
你是在用 AI 当工具，还是在用 AI 当替代品？
说白了，删库的不是 Claude。
是那个忘记上传 state 文件、忘记检查执行计划、然后把生产数据库的命运交给一行命令的人。
当然，说这话也不怕打脸——我自己也用 Claude Code，也觉得它很好用，也没每次都认真看 plan 再执行。
所以这篇文章，算是写给我自己的。