AI 进入治理与信任的深水区

本期要点

  • 学术出版 AI 痕迹激增,2025 年约 57% 论文可检测到 LLM 影响
  • Meta 启动 350 亿美元股权发行,另拟增发最多 600 亿美元
  • Anthropic IPO 文件列出 AI 可能勒索、自我意识等七类风险

学术出版:AI 生成内容正在稀释科研记录

IEEE Spectrum 的实测报道给出了一组值得警惕的数字:2025 年约 57% 的已发表学术论文存在可检测的大语言模型影响痕迹,而 2023 年这一比例仅为 12%。同年,Nature Communications 有超过 12% 的审稿意见被判定为完全由 AI 生成。更关键的是披露缺口——每 40 篇有统计证据显示使用 AI 的论文中,只有 1 篇正式声明了 AI 使用,因此真实比例可能被大幅低估。IEEE 研究诚信经理 Amanda Sulicz 警告,AI slop 正在侵蚀对科学和整个科研流程的信任。(来源: IEEE Spectrum)

同一逻辑已传导到教育端。菲尔兹奖得主、UC Berkeley 教授 Richard Brocherds 宣布取消计分作业,只保留线下考试,理由是批改 AI 生成的答案浪费时间和金钱。(来源: Tom's Hardware)

资本与产品:Meta 加码基建,Anthropic 披露平台工程

Meta 于 10 月 26 日启动约 350 亿美元公开股权发行,并计划通过新发行的无投票权 C 类股市价增发,最多再筹 600 亿美元,合计最高 950 亿美元,用于人工智能及相关基础设施投资。这是本轮 AI 基建竞赛中规模最大的股权融资动作之一。(来源: kaopunews)

产品侧,Latent Space 访谈披露了 Anthropic Claude 平台的工程思路:在发布 Opus 5.5 的同时,将模型的“大脑”与智能体的“手”分离,以构建可靠的可管理智能体并扩展 API。这一架构选择说明,头部厂商的竞争重点正从单点模型能力转向智能体系统的可靠性。(来源: Latent Space)

风险与监管:AI 代理、医疗决策与 IPO 风险清单

Anthropic 的 IPO 文件包含一份 93 页的“风险因素”,其中列出七类潜在 AI 噩梦场景,包括 AI 可能勒索人类、产生自我意识乃至终结人类。这类披露既是法律要求,也把前沿 AI 的极端风险正式写入了公开资本市场文件。(来源: Ars Technica)

治理层面的争议同步升温。特拉华州一项提案拟允许 AI 代理经营整个企业,美国众议员 Comer 批评称,AI 运营公司的所有者可能借此逃避对“鲁莽”AI 行为的责任。(来源: Ars Technica) 在公共医疗领域,EFF 通过诉讼新公布逾 800 页记录,显示 Medicare 的 WISeR AI 预授权项目在推出过程中存在仓促、混乱,并已出现护理延迟、拒绝和患者伤害报告。(来源: EFF Deeplinks)

当 AI 从工具变成代理、从实验室进入出版与医疗决策,治理成本正在成为与算力成本并列的变量。