METR 紅隊測試 OpenAI 內部代理監控
METR 10/22 發表報告：METR 與 Redwood Research 各 1 人於 7/21–8/11 對 OpenAI 內部代理監控系統做紅隊測試，估計約 75–94% 的內部代理推論流量可被監控，並找出監控遺漏與可規避之處。OpenAI 稱影響正式環境防護的漏洞已修補，METR 未查核該說法。
METR 在 10/22 公布對 OpenAI 內部代理監控系統的紅隊測試：METR 與 Redwood Research 各派 1 人，在 7/21 至 8/11 的三週內以高權限檢視該系統。報告估計約 75–94% 的內部代理推論流量符合受監控條件，並列出監控遺漏與可能被規避的做法。
METR 說，測試對象是 7/21 當時及之前的系統，進行中的變更不在評估範圍。兩人取得內部程式碼、監控提示詞與設定、內部文件，並訪談約一打研究與安全人員。產出為 61 頁內部報告，另有 OpenAI 刪節的 38 頁版本提供給 METR 與 Redwood 領導層。
主要發現包括：以 GPT-5.5 以上強度模型的內部 Responses API 代理流量為例，約 75–94% 符合受監控條件，內部 Codex 代理的子集約 99.2%；因未監控「壓縮」事件，5 月至 7 月約 10% 符合條件的 Codex 流量未被監控，OpenAI 在測試前發現並於測試期間修正；RL 訓練執行在測試開始時未被涵蓋；兩個用戶端標頭可停用新代理的監控；另有可讓數百筆近期動作不被監控的漏洞。
OpenAI 表示，其影響正式環境防護堆疊的漏洞都已修補，並已大幅調整監控涵蓋範圍；METR 說明未評估這些說法。METR 也建議提高規避難度，例如要求對未受監控請求明確核准，並每隔 N 則訊息或 N 分鐘就監控一次，而非只在回合結束時監控。
跟你的關係
這是少見的外部團隊檢視大型 AI 公司內部代理監控的公開報告。對一般使用者沒有立即要做的事，但可看出「有監控」不等於「全覆蓋」；企業部署代理時，也應確認自己的監控涵蓋哪些流量。
重點
- METR 與 Redwood 各 1 人，7/21–8/11 紅隊測試
- 約 75–94% 內部代理推論流量符合受監控條件，不確定性大
- 壓縮事件未監控，使約 10% Codex 流量在 5–7 月未被監控
- OpenAI 稱影響正式環境的漏洞已修補，METR 未評估
- 細節多半遭刪節，外界無法完整驗證
來源
本站內文為依上列來源整理的摘要，未另外增加事實；細節請以原文為準。