Anthropic 強化防禦模型蒸餾攻擊

Anthropic 10/12 發文稱強化防禦「蒸餾攻擊」(未經授權大規模擷取模型推理能力):讓較弱舊模型讀不到新模型推理內容、8/31 起新 API 帳號不能編輯先前上下文、改提供推理摘要,並加分類器攔截,自估蒐集資料減少約 90% 至 99%,誤判率低於 0.1%(業者自述)。(本站使用 Anthropic 的 Claude 協助製作)
Anthropic 在 10/12 發文說明強化防禦「蒸餾攻擊」,也就是未經授權、大規模擷取模型能力的行為。文章稱,早期證據顯示相關措施讓蒸餾者蒐集到的資料減少約 90% 至 99%,分類器誤判率低於 0.1%,皆為業者自述。
Anthropic 說明,蒸餾攻擊常透過大量詐欺帳號進行,目標是模型的可見推理內容。防禦包括:推理內容先摘要再給使用者,測試中,以 Claude Opus 4.8 完整推理紀錄訓練的模型在 SWE-bench Verified 得 80.4%,只用摘要紀錄訓練則為 71.8%;對 2026 年 8 月 31 日起建立的 API 帳號啟用「保留思考」以阻擋編輯先前情境;推理內容不流向防護較弱的舊模型;並對最強模型部署兩階段分類器。
對重複嘗試者則收緊使用額度、封鎖帳號,並自 9 月 24 日起恢復對在 Claude 回應前就被攔截的請求收費。文章稱 90% 至 99% 是早期證據;另稱分類器全面部署後,在 Anthropic 自家平台上被擷取的推理 token 持續比先前少 10 至 100 倍,並說還不知道這些成效能維持多久。Anthropic 也點名智譜(Zhipu)與月之暗面(Moonshot)的相關行為,這些指控是 Anthropic 的單方說法;文章承認這是貓捉老鼠的過程,部分開發者需要更新整合,良性請求偶爾也會被擋。 揭露:本站內容由 Anthropic 的 Claude 協助整理。
跟你的關係
若你使用 Claude API,部分整合可能需要配合更新,也可能偶爾遇到被誤擋;被攔截的請求現在會收費,建議留意帳單與錯誤處理。對一般使用者的直接影響不大。
重點
- 10/12 發文,稱資料被蒐集量減少約 90% 至 99%(業者自述)
- 分類器誤判率低於 0.1%
- 推理摘要化,完整推理訓練的分數較高(80.4 對 71.8)
- 對 8/31 起新帳號啟用「保留思考」
- 9/24 起對被攔截的請求收費
來源
本站內文為依上列來源整理的摘要,未另外增加事實;細節請以原文為準。