分類新聞AI 技術10/21

NVIDIA 擴充 Agent Toolkit 加知識層

主圖:NVIDIA 擴充 代理知識層,縮短90%,本體建立時間 NVIDIA自測
(圖/Nvidia/Wikimedia Commons(Apache License 2.0);報馬仔製圖)

NVIDIA 於 10 月 21 日在 GTC Berlin 期間擴充開源 Agent Toolkit,新增 Agent Knowledge Foundation,含 Nemotron Retriever 檢索模型、Auto-Ontology 函式庫、Kumo 結構化資料模型與 CUDA-X 資料函式庫。NVIDIA 稱企業不必搬動資料即可使用,各項加速倍數為業者自述。

NVIDIA 在 GTC Berlin 擴充開源的 Agent Toolkit,新增 Agent Knowledge Foundation,把檢索模型、知識本體工具、結構化資料模型與 GPU 加速資料函式庫組成一套,讓企業代理直接讀取既有的公司資料。NVIDIA 稱不需搬移資料或改動治理控管。

這套基礎層包含:Nemotron Retriever 開放模型(文件解析、嵌入與重排序)、Kumo 系列預訓練模型(Tabular、Relational、Time Series、Forecast)、Auto-Ontology 函式庫(把原始資料對應到客戶、產品、訂單等業務概念),以及 cuDF、cuVS 等 CUDA-X 函式庫。

NVIDIA 公布的數字皆屬業者自述:Auto-Ontology 在內部測試中讓本體建立時間減少 90%;Nemotron Parse 處理多模態文件最高快 3.5 倍;cuVS 在支援的工作負載上最高快 18 倍。

NVIDIA 文章點名的採用者包括 Amazon OpenSearch Service(以 Nemotron Retriever 嵌入改善搜尋相關性)、SAP(微調後的重排序器約快 3 倍)、ServiceNow(重排序品質提升,延遲降低近四分之一)與 Zoom。這些成效為 NVIDIA 轉述,本站未向各公司查證;授權條款與價格頁面未載明。

跟你的關係

若你的公司在做內部文件問答或企業代理,這代表檢索、重排序與資料前處理開始有一組同廠牌的開放元件可選。不過各項倍數出自 NVIDIA 自家測試,導入前仍需用自己的資料實測。

重點

  • 10 月 21 日擴充開源 Agent Toolkit,新增知識基礎層
  • 含 Nemotron Retriever、Kumo、Auto-Ontology
  • Auto-Ontology 縮短本體建立時間 90%(自家測試)
  • NVIDIA 稱不需搬移資料或改變治理控管
  • 授權條款與價格未載明,倍數皆為業者自述

來源

本站內文為依上列來源整理的摘要,未另外增加事實;細節請以原文為準。

← 回首頁看今天的 AI 早報