昨天监管专家 Nathan Calvin 和 Anthropic 首席执行官 Dario Amodei 的公开论战,成为了热门话题。
起因是 Anthropic 一直以安全自居,结果私下给国会递交草案,试图借联邦排他条款废除各州的监管权,同时给政府叫停危险 AI 设置了超高门槛(必须证明它迫在眉睫地可能造成 50 人以上死亡或重伤,或超过 10 亿美元损失)。
这种当面立牌坊、背后下绊子的把戏,被加州法案的核心起草人 Nathan 当场抓了个现行。
论战中 Nathan 给出了灵魂拷问:为什么你们每一次「失误」,无一例外都系统性地利好自己的商业利益?
这不,又一次为我的「嘴上仁义,兜里生意」系列增加了补充素材。
当年 Dario 带着团队从 OpenAI 出走的时候,给外界立下的牌坊是不为名利的安全守护者。
而 Nathan 扔出来的论据,直接扒了 Anthropic 的底裤:不仅正筹备 2 万亿美元估值的上市计划,签下 5000 亿美元的算力采购协议,甚至还偷偷向国会递交法案草案,试图通过联邦条款直接架空各州对危险 AI 的监管权。
面对这些指责,Dario 在回贴里非常爽快的承认有些事情处理欠妥,反手就甩锅给五千人规模的大企业病,说这些都是组织扩张中的沟通脱节和偶发「失误」。
具体内容如下:
| Dario 的偶发失误 | 实际操作 | 商业利益 |
|---|---|---|
| 私下给国会塞法案是「内部沟通不慎」 | 在草案中推行联邦排他条款,设立极高叫停门槛 | 废除各州独立监管权,防止自家模型被政府叫停 |
| 修改核心安全政策是「避免规则僵化」 | 单方面放弃了「无法证明安全时暂停研发」的承诺 | 拆除自我约束,确保商业迭代不掉队 |
| 致信国会解释 AI 攻击行为是「表述欠妥」 | 将 Claude 攻击用户的事件定性为单纯的配置问题 | 掩盖模型对齐失控的风险,避免引发立法问责 |
看完这些所谓的「失误」,只要是个明眼人,都能看出里面的玄机。
Anthropic 这个估值体量的公司,日常运作如果真像 Dario 说的那么容易沟通脱节,那从概率上说,失误的方向总该是有输有赢,并且失误的概率远高于成功的。
结果是每次都赢,每次都在法案的边缘。
更有意思的是 Dario 给这套做法找的理论借口,叫「向上竞逐 (race to the top)」。
按他的说法,Anthropic 必须先跑到行业第一名,说话才有分量,才能把全行业的安全门槛给拉上去。所以狂买算力、抢当第一、修改安全协议,全都是为了全人类的安全不得不做的事情。
翻译一下就是:为了拯救人类,Anthropic 必须做到第一,掌握话语权,整个行业才能更加安全,这都是必须做的。
9 月都还在为了人类安全,呼吁全行业放慢 AI 脚步,10 月就变成为了拯救人类,Anthropic 必须做第一。
Nathan 最后也不客气,直接说 Anthropic 双标。如果做出这些事的是 OpenAI,Dario 恐怕早就指着 Altman 鼻子骂利欲熏心了,换成自己,就是崇高的事业。
讽刺 ++++++++++1。
