本週 AI:Claude 管制、Siri 重做與 Agent 安全

整理本週 Claude 模型管制、Apple Siri AI 架構重做,以及 Google DeepMind 對自主 Agent 的安全規劃,觀察 AI 治理趨勢。

本週 AI 新聞聚焦模型管制、系統級 AI 與自主 Agent 安全三條主線。 第一,前沿 AI 模型不再只是科技公司產品,已經開始被美國政府用國安和出口管制的角度看待。 第二,Apple 的 Siri AI 從 WWDC 後續討論一路延燒,外界終於看到它不只是小更新,而是一次整個語音助理架構的重做。 第三,Google DeepMind 公開談到如何防止未來更自主的 AI agent 失控,這代表會自己做事的 AI還沒真正普及,安全框架就已經先變成大題目。 讓我們一起來看看上週值得關注的新聞。 最強 AI 模型也開始被當成戰略物資,Claude Mythos 5 與 Fable 5 一上線就被禁止 Anthropic 這週遇到一件很敏感的事,美國政府因國安疑慮,要求限制 Anthropic 最新高階模型 Claude Mythos 5 與 Fable 5 供外國人使用。問題是,這個限制不只是擋住海外客戶,也可能涵蓋在美國境內的外籍員工。Anthropic 表示,因為很難只精準擋住特定身分的人,最後只能先把相關模型大範圍關閉,並和政府談判。 這件事不是單純某個 AI 功能下架,它比較像是 AI 被出口管制,政府開始認為最前沿的模型能力可能有國安風險,不能像普通軟體一樣全球開放。許多報導提到,爭議焦點和模型可能被用來找出軟體漏洞、被繞過安全限制有關,但 Anthropic 則認為政府反應過大,因為類似能力並非只存在於它的模型。 對一般使用者來說,這件事短期可能不會影響每天用 AI 寫信或整理資料;但對企業、開發者和跨國公司來說,影響很大,未來你能不能用到最強模型,可能不只看你付不付得起,也要看你在哪個國家、公司身分是什麼、資料和使用場景是否被政府認定有風險,AI 正在從商業產品,變成更接近戰略資源。 Siri AI 不是小修小補,而是砍掉重練,未來擬推出付費訂閱方案? Apple 的 Siri AI 這週也有不少後續消息,Apple 官方於 WWDC26 發表新版 Siri AI 由 Apple Intelligence 驅動,主打更自然的對話、更豐富的回答,以及一個新的專屬 App。 TechRadar 報導則提到 ,Apple 主管 Mike Rockwell 在 WWDC 後說明,Apple 原本曾嘗試在舊 Siri 架構上疊加新能力,但後來覺得效果不夠好,因此決定把 Siri AI 從底層重做。 這個說法很重要,因為它等於承,生成式 AI 帶來的變化,不是把舊語音助理加上幾個新功能就能解決。過去 Siri 最常被批評的問題,是聽得懂簡單指令,卻不太懂上下文,也很難真正幫你完成複雜任務。 Business Insider 的早期測試指出,新版 Siri 在理解個人脈絡、照片、行事曆和生活資訊上有明顯進步,但仍有口音辨識、部分 App 存取等 beta…