分類新聞AI 技術10/15

NVIDIA 釋出 Nemotron 3.5 開放權重模型

主圖:NVIDIA 釋出 Nemotron 3.5,開放權重模型,Bolt 74B 24GB可跑 速度為業者自述
(圖/VQTCS/Wikimedia Commons(CC BY 4.0);Nvidia/Wikimedia Commons(Apache License 2.0);報馬仔製圖)

NVIDIA 10/15 公布 Nemotron 3.5:Super VL 120B 可處理文件與圖表;Bolt 74B-A9B 原生 2 位元、24GB 可跑。速度與排名皆業者自述。

NVIDIA 在 10/15 於官方部落格公布 Nemotron 3.5 系列:Super VL 為 1,200 億參數、可處理文件與圖表的開放模型;Bolt 74B-A9B 採原生 2 位元量化,可放進 24GB 記憶體。NVIDIA 說模型以開放權重、開放資料集與訓練配方釋出,速度與排名皆為業者自述。

依部落格,Super VL 120B 號稱與 NVIDIA 最大的推理模型相當,參數量約為其五分之一,吞吐量「最高快 5 倍」;訓練用了約 26 兆 token 的預訓練與持續預訓練,再以約 380 萬筆樣本後訓練並加上強化學習。已在 Hugging Face、OpenRouter、ModelScope 上架,也提供 NVIDIA NIM。

Bolt 74B-A9B 24GB 已在 Hugging Face 提供,支援 llama.cpp、Ollama、LM Studio、Unsloth、vLLM 等;NVIDIA 稱它是同級開放模型在 PinchBench 排第 1、BrowseComp 排第 2。更小的 Bolt E4B 4GB 預告 10/23 推出。部落格列出 Salesforce、CrowdStrike、Perplexity 等整合夥伴,但沒有寫明授權條款名稱。

跟你的關係

24GB 的規格接近高階消費級顯卡的記憶體,讓有 RTX 級硬體的開發者可能在本機試跑大型開放模型。但速度與排名是 NVIDIA 自己的說法,中文與繁體任務表現未提,採用前請看授權條款並自行測試。

重點

  • Super VL 120B:文件與圖表理解,吞吐量最高快 5 倍(自述)
  • Bolt 74B-A9B:原生 2 位元,24GB 記憶體可跑
  • Hugging Face、OpenRouter、ModelScope 已上架
  • 宣稱開放權重、資料集與訓練配方
  • 授權條款名稱部落格未寫明

來源

本站內文為依上列來源整理的摘要,未另外增加事實;細節請以原文為準。

← 回首頁看今天的 AI 早報