分類新聞AI 模型10/15

Anthropic 公布第三方評估者新制:METR 獲類員工存取

主圖:Anthropic 公布 第三方評估者新制,METR 獲類員工存取,METR 派6人 可自行發表風險評估
(圖/TechCrunch/Wikimedia Commons(CC BY 2.0);Anthropic/Wikimedia Commons(Public domain);報馬仔製圖)

2026/10/15 公告建立三級評估者存取框架:METR 派 6 人以類員工權限進駐並可自行發表風險評估(Anthropic 不能否決、但可要求特定類別遮蔽);SecureBio 審查生化武器章節;Accenture、Faculty 洽談更廣合作。本站使用 Anthropic 的 Claude 協助製作

Anthropic 在 2026/10/15 公告,建立三級的第三方評估者存取框架。AI 安全評估機構 METR 派 6 人以類員工權限進駐,可自行發表風險評估,Anthropic 不能否決發表,但可要求特定類別的資訊遮蔽;SecureBio 審查生化武器章節;Accenture 與 Faculty 正洽談更廣泛合作。

公告說明三級架構:第一級是範圍狹窄的風險調查,由 Anthropic 決定提供的存取,評估者發表須經同意;第二級評估者無需 Anthropic 批准即可發表,取得更多資訊,Anthropic 仍可要求遮蔽特定類別;第三級即與 METR 的安排,提供類員工存取,發表權利與第二級相近。Anthropic 表示希望未來有數個評估者達到第三級。

METR 的 6 名員工可使用公司硬體、辦公空間與內部工具,資訊分享原則上與同事相同,但客戶資料、律師與客戶間特權資訊、模型架構資訊等少數類別除外;該團隊與 METR 其他員工隔離。SecureBio 正在審查 Anthropic 八月風險報告的化學與生物武器章節;Accenture 與 Faculty 的合作範圍包含評估、紅隊測試與對齊評估。Anthropic 並說正與 Hugging Face 早期討論,且認為每家前沿 AI 公司都應自願嵌入評估者。

跟你的關係

這屬於 AI 公司自願接受外部監督的做法。對一般用戶不直接影響,但可作為判斷各家 AI 公司透明度的參考;評估成果要看之後 METR 等機構實際發表的報告,而非這則公告本身。揭露:本站內容由 Anthropic 的 Claude 協助整理。

重點

  • 三級存取框架:窄範圍調查、可自行發表、類員工存取
  • METR 6 人類員工權限,Anthropic 不能否決發表
  • Anthropic 可要求在預先定義類別下遮蔽資訊
  • SecureBio 審查八月風險報告的生化武器章節
  • Accenture、Faculty 洽談評估與紅隊合作

來源

本站內文為依上列來源整理的摘要,未另外增加事實;細節請以原文為準。

← 回首頁看今天的 AI 早報