今早整理素材时,一条 BBC 标题让手停了一下。
“Anthropic 联合创始人警告:AI 需要‘刹车踏板’。”
第一反应:连他们自己都害怕了?第二反应:不对,两个月前不是刚把安全承诺给改了吗?
顺着线索往下扒,事情比标题复杂得多。
6 月 4 号,BBC Newsnight 放了段采访。Jack Clark,Anthropic 联合创始人,说 AI 可能发展到完全不需要人类输入的程度,必须得装个“刹车”。他说得很严肃,媒体也给了大版面。
(BBC 采访原文是高可信一手来源,但观点本身是立场表达。)
我随手又翻到 TIME 的一篇报道,是今年 2 月底的事。Anthropic 悄悄更新了自家“负责任的扩展政策”,把原来一条核心承诺给抹了——原先说,如果没把握保证安全,就不训练、不部署更聪明的模型。现在改成了:单方面承诺没用,因为竞争对手不守规矩,我们一家慢下来只会吃亏。
首席科学官 Jared Kaplan 对 TIME 说得直白:“这对任何人都没好处。”
(TIME 是高可信媒体,报道确认了政策修改。)
Futurism 和 CBC 都跟进报了。这事儿在 Reddit 上也炸了,有人指出,背后是特朗普政府想限制州级 AI 立法,导致环境不公平,Anthropic 才退一步。
(Futurism、CBC 属中可信媒体,Reddit 讨论仅作线索参考。)
也就是说,这家以“安全”立命、靠“负责任的 AI”讲故事的公司,在竞争压力和政策夹缝里,自己先把安全底线往下调了。
然后两个月后,又站出来呼吁整个行业踩刹车。
矛盾吗?不一定。如果换个角度:它喊刹车,可能不是为了约束自己,而是想用监管把对手也绑住。
证据是,CEO Dario Amodei 去年 10 月就公开支持加州 SB 53 法案,要求大模型开发者公开安全协议。这法案听着挺狠,但仔细看,它豁免了营收低于 5 亿美元的公司。按目前估值,Anthropic 离那个槛还有段距离,而它的主要竞争对手 OpenAI、Google 都在射程内。
(Anthropic 官网专门发了篇文章强调与特朗普政府政策“对齐”,并支持该法案,属高可信但立场性极强的来源。)
姿态摆得正,但这更让人觉得,他们是在游戏规则上作文章,而不是真的想把自己绑死。
对咱们这些在普通公司写代码、搞副业的人来说,这事现在直接冲击不大。但警醒点在哪?
万一监管真的落地,大厂可以靠合规团队和审计预算扛过去,小团队可能就难了。你接个 AI API 做个应用,对方说你要提供安全协议、通过第三方审计,这活儿还能不能干?
这是典型的“巨头博弈、散户买单”的局面。
所以我的判断很简单:这不是垃圾局,也不是纯吃瓜,它是一个“先拆不开”的信号。政策细则没出,法案还在飘,证据缺口还很大(Clark 具体呼吁的是什么性质的刹车?州法案到底怎么执行?),咱们只能观察。
唯一能做的是,脑子里挂根弦:以后选 AI 服务商时,稍微看一眼他们的安全承诺变更记录。今天吹安全的,明天可能最先把安全卖掉。
这不是道德批评,是商业逻辑。咱们输不起的人,更得看清这一点。
我是老花,一个 30 多岁、还在一线摸爬滚打的小公司 IT 技术经理。这里不教成功,只记录我追过的信号、踩过的坑,和我暂时想明白的一点判断。
以上。
既然看到这里了,觉得有点用的话,点个赞或者转发一下,让更多朋友看到。
我们下次再聊。
老花 / Easton Hua