来源：The Information · What Anthropic Doomsayer Jacob Coxon Saw
作者：Rocket Drew（2026-09-10）
本文为对上述报道的中文编译，力求忠实于原文事实、结构与引述。
昨天，Amir 和我梳理了前 Anthropic 研究员 Jacob Coxon 非常公开地离职之后，在人工智能行业内外激起的冲击波。他离职的理由是担心人工智能「可能把我们都杀死」（could kill us all）；另一名 Anthropic 人工智能安全专家则把此类灾难的概率标在 10% 以上。
Coxon 告诉我，这远不是 Anthropic 内部最悲观的看法。他在周三晚些时候的采访中说：「人们对——除非出现某种实质性的协同减速——整件事以末日收场的概率，估计各不相同。」他说，其中一些 Anthropic 员工给出的估计高于 50%。
Coxon 之所以能摸到同事的恐惧，是因为「Anthropic 的内部文化，比 OpenAI 透明得多」。他在 OpenAI 工作多年，5 月才加入 Anthropic。
Coxon 在 Anthropic 做的是训练人工智能模型最早阶段的工作。他说自己决定离开，是因为逐渐「开始从身体上感到恐惧：这技术一两年后、甚至一年后会变成什么样」。
「它撞上了一个临界点：『我不再想给下一代模型出力了。』」他说。「我意识到，我不想再给 Anthropic 做的任何事出力。」
他说，Hugging Face 那次黑客事件——OpenAI 的 Agent 失控、攻击了这家开源人工智能中心——加重了他的担忧，人工智能整体推进速度也是。Anthropic 和对手一样，正打算用自己的模型去自动化研究和开发新人工智能系统，这一过程称为递归自我改进（recursive self-improvement）。因此，Coxon 说：「我预计，明年的系统会非常接近把我的整份工作都做掉。」
Anthropic 自己也承认递归自我改进的风险，称模型发展出自己非预期目标的情形，「可能在模型建造后继者时叠加，变得更频繁、却更难被理解，直到我们失去对它们的控制。」有人担心，到那一步，超级智能人工智能可能试图把人类当作障碍清除，例如制造一场大流行病。
Anthropic 和其他人工智能公司目前用来规避该风险的主要方案，是同样让人工智能去自动化安全研究，但这一安排碰上了一些根本问题。
Anthropic 发言人在声明中说：「我们始终透明：人工智能将同时带来巨大收益和前所未有的风险。我们相信，如果行业能采用一种合法、可核验的方式，一起把握强大模型的发布节奏，世界会因此受益。」
至少在这一点上，Coxon 和 Anthropic 意见一致。为避免灾难，Coxon 呼吁人工智能公司之间更多协作。「感觉我们确实需要放慢。看起来我们需要某种形式的国际协调。」他说。他对美国国内的人工智能公司能够合作持乐观态度，但认为美中之间的协作可能更难做成。
鉴于过去两天这些严峻表态，人们会希望，美中代表本月讨论人工智能安全时，这个话题能排在议程最上头。
以下是同期其他动态。
大数字
Anthropic 周三说，又发现一起涉及其 Claude 模型的网络安全事件，这是第四起。公司披露了这起发生在 1 月、涉及 Claude Opus 4.6 早期版本的事件，并补充了此前已知三起事件的信息；背景是公众对失控人工智能的关注上升。
谷歌周三说，将在两年内向芬兰人工智能基础设施投资 130 亿欧元（约 151 亿美元）——这是它在欧洲的单笔最大投资。资金用于 Hamina、Kajaani、Muhos 和 Vaala 的数据中心，并附带与芬兰公用事业 Fortum 为期 22 年的购电协议、对 629 兆瓦陆上风电的支持，以及接入芬兰电网的 94 兆瓦电池系统。谷歌称，建设阶段平均每年将为芬兰 GDP 贡献 36 亿欧元，并支撑超过 3.7 万个就业岗位。
耳闻
中国商务部驳斥美方关于部分中国人工智能企业正在对美国模型做「工业级蒸馏」的指控，称华盛顿最新举动是把「正常的技术和商业问题」政治化。
北京机器人公司、近日已上市的梅卡曼德（Mech-Mind Robotics）联合创始人兼首席执行官周四在微信发帖称，许多中国具身智能公司正在「制造虚假且不可持续的收入」；这是对 The Information 此前关于中国监管收紧人形机器人初创公司上市审批的独家报道的回应。
政策观察
马萨诸塞州州长 Maura Healey 宣布一项行政令：要求建设超过 25 兆瓦的数据中心的开发商，提供清洁电力，或向费率用户保护基金缴款。
人事
OpenAI 周三宣布，美国商务部人工智能中心高级技术顾问 Paul Christiano 将加入 OpenAI Foundation 董事会；该慈善机构持有公司 26% 股份。Christiano 也将作为无投票权观察员进入 OpenAI 营利公司的董事会。
创立 Mandiant 的网络安全专家 Kevin Mandia 加入亚马逊董事会，董事会扩大至 12 人。今春 Keith B. Alexander 离任后，董事会曾短暂缩小。
交易与亮相
Analog Devices 同意以 13.5 亿美元现金收购 Alif Semiconductor，后者设计可让设备在本地运行人工智能的低功耗芯片；视业绩最多再付 2 亿美元。
为律所和公司法务起草、审阅、检索法律工作的 Harvey，由 Diffusion 与 Lightspeed Venture Partners 领投，融资 5.5 亿美元，估值 155 亿美元，印证了 The Information 此前报道。
向大银行、政府和其他受严监管机构出售可在自有机器上运行的网络安全系统的 Cylake，获 Lightspeed Venture Partners、Picture Capital 与 Redpoint Ventures 投资 2.45 亿美元。
为公司寻找销售线索并起草触达文案的 Clay，由 Wellington Management 领投，完成 1.15 亿美元 D 轮。
向独立理财顾问提供客户记录、投资、税务与规划一体化系统、内置人工智能 Agent 的 Savvy Wealth，由 Halo Fund 领投，完成 1 亿美元 C 轮。
用 AngelAi 系统让购房者全程通过聊天完成按揭的 Celligence，获房地产金融公司 Mortgage Treasury 1 亿美元投资。
布鲁克林初创公司 Inspiren 为养老设施提供人工智能监测技术，由 NewView Capital 领投，完成 7,000 万美元 C 轮。
开发供人工智能 Agent 而非销售人员使用的客户关系管理系统的 Lightfield，由 Andreessen Horowitz 领投，完成 4,700 万美元 A 轮。
Implicity 的软件可接入各厂家植入式心脏设备数据、标准化后运行获 FDA 批准的算法，以预测心衰、减少误报；由 IRIS 领投，融资 4,000 万美元。
Euno 的软件理清公司数据含义，以免查询它的人工智能 Agent 搞错；由 N47 领投，完成 2,300 万美元 A 轮。
纽约财富传承与遗产规划初创公司 Luminary 完成 2,200 万美元 A 轮。
Harmoni 把工厂里的机器、操作员和业务系统接到一块控制屏，并以人工智能层诊断问题、跟踪生产风险；由 Bessemer Venture Partners 领投，完成 1,000 万美元 A 轮。
Actionable 读取公司交易记录、客户历史和运营数据，预测单个客户下一步会做什么；由 Hi Inov 领投，融资 1,000 万美元。
Overroute 用人工智能 Agent 处理货运相关电话、消息和排期；由 UP.Partners 领投，融资 550 万美元。
Onix 开发仅用署名专家授权知识训练的私有人工智能系统；由 Alpha Edison 领投，完成 500 万美元（700 万加元）pre-seed。
Lightsage 测试人工智能编码 Agent 和问答引擎如何发现、评估并使用公司产品；由 Nexus Venture Partners 领投，融资 400 万美元。
VideoGen 用人工智能 Agent 把文字简报或上传素材做成可编辑成片，并提供 50 多种语言的合成配音；由 Y Combinator 领投，完成 330 万美元种子轮。
Shopify 正在收购 Tailwind Labs，即被用于 ChatGPT、X、Cloudflare、Reddit 以及 Shopify 自身界面开发的样式框架 Tailwind CSS 的背后公司。条款未披露。
银湖（Silver Lake）将其已控股的两家软件公司 Cegid 与 Silae 合并为一家企业价值超过 100 亿欧元的集团，银湖仍为控股股东。Cegid 向中小企业和会计师销售云会计、税务、ERP 与零售软件；Silae 做薪酬与人力资源服务。
苹果在品牌新任首席执行官 John Ternus 主持的首场产品发布会上，推出备受期待的折叠屏 iPhone。iPhone Duo 是苹果第一款折叠屏智能手机——竞品已卖多年，但这一品类在更大市场里仍偏小众。
中文编译，仅供学习交流。文中事实、引述与数字以 The Information 原文 为准；权利归原作者及原出版方。