AI安全
标签「AI安全」下的全部文章
- 032026-11LLM可直接读写神经网络权重，两项Qwen实验引关注近期两项围绕Qwen模型权重空间的实验引发技术社区关注：一项通过编辑权重减少推理循环，另一项将32位RISC-V CPU编译并插入Qwen 3.5 4B权重中。两项工作共同指向“权重空间编程”方向，目前均处早期阶段，技术细节与可复现性尚未公开。
- 022026-11AI安全漏洞频发引质疑，LLM滥用侵蚀软件信任英国《金融时报》报道称，AI安全漏洞正引发外界对领先实验室管控能力的质疑。同日，软件测试机构Jepsen创始人Kyle Kingsbury警告，大语言模型滥用正在侵蚀对文档、软件及生产机构的信任。两则信息共同指向AI产业面临的安全治理与技术信任双重挑战。
- 312026-10Horizon3 CEO：AI代理应作为内部威胁管理Horizon3 CEO Snehal Antani在访谈中指出，AI安全领域存在炒作，真正风险是漏洞利用加速，企业应将AI代理视为内部威胁而非效率工具。近期Synology NAS勒索攻击和GitHub恶意软件事件印证了基础疏忽与供应链攻击的持续威胁。
- 282026-10Anthropic冲刺IPO：创始人收紧控制权，招股书披露AI极端风险Anthropic在IPO前夕，七位创始人收紧公司控制权，并将未来押注于保持团结。同时，其招股书用93页风险因素章节，披露AI可能勒索人类、产生自我意识乃至终结人类等极端风险，凸显治理与安全双重主线。
- 272026-10Anthropic递交IPO文件 估值或达2万亿美元AI公司Anthropic已递交上市文件，潜在估值或达2万亿美元，2026年上半年营收163亿美元。Stratechery评论指出其核心业务盈利能力强，但竞争可能吞噬利润且投资者面临持续稀释。文件同时警示AI安全措施或难阻灾难性风险。OpenAI与Cerebras也在推进上市。
- 242026-10Anthropic 研究员谈语言模型内部机制：规划、意识与安全Anthropic 研究员 Emmanuel Ameisen 在 Lenny's Newsletter 播客中，围绕语言模型的内部运作机制展开约 72 分钟的讨论，聚焦规划、意识与 AI 安全三类议题。节目未披露具体技术细节与结论，仅从可解释性视角概括了通过观察模型内部状态理解其行为的方法论。
- 242026-10AI安全讨论升温：暂停呼吁与理性化声音并行近期AI安全与监管讨论再度升温。DeepMind与Anthropic早期投资人Jaan Tallinn公开呼吁暂停AI发展，The Curve会议热议“智能硬上限”，而Big Technology则呼吁为风险讨论引入理性视角，反对极端叙事。两条脉络并行，后续是否转化为具体政策或行业倡议值得关注。
- 242026-10OpenAI参与发现PHP核心漏洞，影响全球约70%网站据Latent Space报道，OpenAI的Patch the Planet项目参与发现PHP核心漏洞PHP2Shell，该漏洞影响全球约70%的网站，相关方进行了为期两个月的协调响应。漏洞具体技术细节、受影响版本区间及是否发生实际攻击均未披露。
- 242026-10AI代理可推翻多义性假说？可解释性研究引关注据Latent Space报道，AI研究者Nick Cammarata提出代理可推翻多义性假说，并大幅提升可解释性与对齐研究。该主张若成立，将改变对神经网络内部表征的理解，但目前缺乏技术细节与实验证据，尚未经同行评议。
- 242026-10AI伪造收据与邮件审批：欺诈新手段与企业拦截实录财务博客OnlyCFO披露攻击者利用AI伪造收据和电子邮件审批链，应付账款团队凭内部控制成功拦截。开发者Simon Willison引用Armin Ronacher评论，将AI安全风险与过去三十年劣质软件问题关联，指出欺诈门槛降低与防御挑战。
- 242026-10OpenAI开发者大会前夕叫停新模型 转而推出企业级agent产品Dots据Platformer报道，OpenAI在开发者大会前夕因安全担忧取消一款新模型发布，随后推出面向企业市场的agent产品Dots。报道称Dots推出时安全疑问仍在发酵，显示AI头部公司在商业化推进与安全考量之间的张力。被取消模型的具体信息及Dots的功能定价均未披露。
- 242026-10OpenAI披露前沿模型训练环境安全加固措施OpenAI于2026年10月23日发文，披露前沿模型训练与评估环节的安全加固措施，涵盖离线环境与高算力红队测试两大方向。在AI安全争议升温背景下，头部实验室主动公开安全工程实践，被视为观察行业安全标准演进的窗口。具体技术细节与第三方评估尚未披露。
- 242026-10OpenAI参与发现PHP核心漏洞PHP2Shell，波及全球约七成网站据Latent Space报道，OpenAI的Patch the Planet项目作为两方之一，参与发现了PHP核心中的PHP2Shell漏洞，该漏洞影响全球约70%的网站。协调响应历时两个月，过程中使用了GPT-5.6 Sol。这是AI辅助安全研究在关键基础设施领域的一次标志性案例。
- 242026-10OpenAI推出Patch the Planet计划，协调AI代理发现的开源漏洞OpenAI于2026年10月21日发布Patch the Planet计划，旨在连接安全研究者、维护者与应急响应人员，协调应对开源软件中的关键漏洞。Cloudflare已使用OpenAI Daybreak调查漏洞、Codex提升开发效率。AI代理加速漏洞发现，推动全球协调披露机制需求上升。
- 242026-10OpenAI与波兰NASK达成AI安全合作OpenAI与波兰国家研究机构NASK于2026年10月23日宣布建立合作伙伴关系，聚焦AI安全、安保及技术研究。这是OpenAI在中东欧首个此类安全研究合作，也是全球AI监管趋严下前沿AI公司通过国际合作推进合规的最新案例。
- 242026-10AI安全运动的边界之争：大帐篷还是小帐篷AI Snake Oil于2026年10月1日发文指出，AI安全运动内部存在一个未被言明的分歧：运动应包容多元观点的"大帐篷"，还是聚焦核心议题的"小帐篷"。文章认为，这一分歧影响各方立场与联盟选择，也解释了技术性辩论为何常演变为立场对立。