Hugging Face 遭 AI 代理入侵，被迫改用開源模型防御

ChainCatcher 消息，Hugging Face 披露其于 7 月遭遇由自主 AI 代理系統驅動的入侵事件。攻擊代理在 5 月初測試開始后，利用 OpenAI 的 Artifactory 實例留下漏洞利用筆記，隨后對 Hugging Face 發起約 17,600 次攻擊，影響其數據集處理基礎設施、生產環境、內部網絡及云憑證等。確認的客戶數據訪問僅限于與 ExploitGym/CyberGym 基準相關的五個數據集。Hugging Face 在調查中發現，由于 OpenAI 和 Anthropic 等頂級模型提供商的安全護欄限制，公司無法使用這些商業模型進行防御分析，被迫轉向運行在中國開源模型 zai-org/GLM-5.2 上，且該模型運行在公司自有基礎設施上，確保攻擊者數據和憑證不離開其環境。公司指出，攻擊者不受任何使用政策約束，而防御方的取證工作卻被托管模型的護欄所阻礙。這一事件凸顯了開放權重模型與封閉模型之間的安全悖論。文章還討論了關于開放權重 AI 安全性的持續爭論，包括 OpenAI 和 Anthropic 推動限制開源模型，以及研究人員通過檢查模型權重變化來檢測惡意行為的進展。Hugging Face 建議防御方在事件發生前準備好可在自有基礎設施上運行的模型，以避免護欄鎖定并保護攻擊者數據。

• 喜歡使用社交軟體關注？關注我們的 Twitter，或者加入 Telegram！
• 想關注最新資訊？ 下載CoinCarp App吧
• 有新聞需要爆料，官方公告需要發布? 來給我們發郵件吧！[email protected]