AI安全
標籤「AI安全」下的全部文章
- 032026-11LLM可直接讀寫神經網絡權重，兩項Qwen實驗引關注近期兩項圍繞Qwen模型權重空間的實驗引發技術社區關注：一項通過編輯權重減少推理循環，另一項將32位RISC-V CPU編譯並插入Qwen 3.5 4B權重中。兩項工作共同指向“權重空間編程”方向，目前均處早期階段，技術細節與可復現性尚未公開。
- 022026-11AI安全漏洞頻發引質疑，LLM濫用侵蝕軟件信任英國《金融時報》報道稱，AI安全漏洞正引發外界對領先實驗室管控能力的質疑。同日，軟件測試機構Jepsen創始人Kyle Kingsbury警告，大語言模型濫用正在侵蝕對文檔、軟件及生產機構的信任。兩則信息共同指向AI產業面臨的安全治理與技術信任雙重挑戰。
- 312026-10Horizon3 CEO：AI代理應作為內部威脅管理Horizon3 CEO Snehal Antani在訪談中指出，AI安全領域存在炒作，真正風險是漏洞利用加速，企業應將AI代理視為內部威脅而非效率工具。近期Synology NAS勒索攻擊和GitHub惡意軟件事件印證了基礎疏忽與供應鏈攻擊的持續威脅。
- 282026-10Anthropic衝刺IPO：創始人收緊控制權，招股書披露AI極端風險Anthropic在IPO前夕，七位創始人收緊公司控制權，並將未來押注於保持團結。同時，其招股書用93頁風險因素章節，披露AI可能勒索人類、產生自我意識乃至終結人類等極端風險，凸顯治理與安全雙重主線。
- 272026-10Anthropic遞交IPO文件 估值或達2萬億美元AI公司Anthropic已遞交上市文件，潛在估值或達2萬億美元，2026年上半年營收163億美元。Stratechery評論指出其核心業務盈利能力強，但競爭可能吞噬利潤且投資者面臨持續稀釋。文件同時警示AI安全措施或難阻災難性風險。OpenAI與Cerebras也在推進上市。
- 242026-10Anthropic 研究員談語言模型內部機制：規劃、意識與安全Anthropic 研究員 Emmanuel Ameisen 在 Lenny's Newsletter 播客中，圍繞語言模型的內部運作機制展開約 72 分鐘的討論，聚焦規劃、意識與 AI 安全三類議題。節目未披露具體技術細節與結論，僅從可解釋性視角概括了通過觀察模型內部狀態理解其行為的方法論。
- 242026-10AI安全討論升溫：暫停呼籲與理性化聲音並行近期AI安全與監管討論再度升溫。DeepMind與Anthropic早期投資人Jaan Tallinn公開呼籲暫停AI發展，The Curve會議熱議“智能硬上限”，而Big Technology則呼籲為風險討論引入理性視角，反對極端敘事。兩條脈絡並行，後續是否轉化為具體政策或行業倡議值得關注。
- 242026-10OpenAI參與發現PHP核心漏洞，影響全球約70%網站據Latent Space報道，OpenAI的Patch the Planet項目參與發現PHP核心漏洞PHP2Shell，該漏洞影響全球約70%的網站，相關方進行了為期兩個月的協調響應。漏洞具體技術細節、受影響版本區間及是否發生實際攻擊均未披露。
- 242026-10AI代理可推翻多義性假說？可解釋性研究引關注據Latent Space報道，AI研究者Nick Cammarata提出代理可推翻多義性假說，並大幅提升可解釋性與對齊研究。該主張若成立，將改變對神經網絡內部表徵的理解，但目前缺乏技術細節與實驗證據，尚未經同行評議。
- 242026-10AI偽造收據與郵件審批：欺詐新手段與企業攔截實錄財務博客OnlyCFO披露攻擊者利用AI偽造收據和電子郵件審批鏈，應付賬款團隊憑內部控製成功攔截。開發者Simon Willison引用Armin Ronacher評論，將AI安全風險與過去三十年劣質軟件問題關聯，指出欺詐門檻降低與防禦挑戰。
- 242026-10OpenAI開發者大會前夕叫停新模型 轉而推出企業級agent產品Dots據Platformer報道，OpenAI在開發者大會前夕因安全擔憂取消一款新模型發佈，隨後推出面向企業市場的agent產品Dots。報道稱Dots推出時安全疑問仍在發酵，顯示AI頭部公司在商業化推進與安全考量之間的張力。被取消模型的具體信息及Dots的功能定價均未披露。
- 242026-10OpenAI披露前沿模型訓練環境安全加固措施OpenAI於2026年10月23日發文，披露前沿模型訓練與評估環節的安全加固措施，涵蓋離線環境與高算力紅隊測試兩大方向。在AI安全爭議升溫背景下，頭部實驗室主動公開安全工程實踐，被視為觀察行業安全標準演進的窗口。具體技術細節與第三方評估尚未披露。
- 242026-10OpenAI參與發現PHP核心漏洞PHP2Shell，波及全球約七成網站據Latent Space報道，OpenAI的Patch the Planet項目作為兩方之一，參與發現了PHP核心中的PHP2Shell漏洞，該漏洞影響全球約70%的網站。協調響應歷時兩個月，過程中使用了GPT-5.6 Sol。這是AI輔助安全研究在關鍵基礎設施領域的一次標誌性案例。
- 242026-10OpenAI推出Patch the Planet計劃，協調AI代理髮現的開源漏洞OpenAI於2026年10月21日發佈Patch the Planet計劃，旨在連接安全研究者、維護者與應急響應人員，協調應對開源軟件中的關鍵漏洞。Cloudflare已使用OpenAI Daybreak調查漏洞、Codex提升開發效率。AI代理加速漏洞發現，推動全球協調披露機制需求上升。
- 242026-10OpenAI與波蘭NASK達成AI安全合作OpenAI與波蘭國家研究機構NASK於2026年10月23日宣佈建立合作夥伴關係，聚焦AI安全、安保及技術研究。這是OpenAI在中東歐首個此類安全研究合作，也是全球AI監管趨嚴下前沿AI公司通過國際合作推進合規的最新案例。
- 242026-10AI安全運動的邊界之爭：大帳篷還是小帳篷AI Snake Oil於2026年10月1日發文指出，AI安全運動內部存在一個未被言明的分歧：運動應包容多元觀點的"大帳篷"，還是聚焦核心議題的"小帳篷"。文章認為，這一分歧影響各方立場與聯盟選擇，也解釋了技術性辯論為何常演變為立場對立。