分類新聞AI 模型10/23

NVIDIA 釋出 4B 級小模型 Bolt E4B

主圖:NVIDIA 釋出 Bolt E4B 小模型,約4GB 顯存,OpenMDW-1.1 授權
(圖/Nvidia/Wikimedia Commons(Apache License 2.0);報馬仔製圖)

NVIDIA 10/23 在 Hugging Face 釋出 Nemotron 3.5 Bolt E4B:由 Gemma 4 E4B 後訓練的 8B(有效 4B)文字模型,上下文 64K,OpenMDW-1.1 授權;NVIDIA 稱在多項指令遵循與角色扮演評測領先 Gemma 4 E4B。

NVIDIA 在 2026/10/23 於 Hugging Face 釋出 Nemotron 3.5 Bolt E4B。模型卡載明,它由 Google 的 Gemma 4 E4B 後訓練而來,總參數 8B、有效 4B,文字輸入輸出,上下文最長 64K,授權為 OpenMDW-1.1。

模型卡列出 NVIDIA 自行評測的結果(BF16 精度):MultiChallenge 53.10(Gemma 4 E4B-it 為 42.08)、RoleBench 67.05(49.95)、IFBench 63.79(42.84);但在 Tau2-Bench 與 RULER(64K)上,Qwen3.5 4B 分別為 75.06 與 95.15,高於 Bolt 的 55.10 與 86.99。NVIDIA 並註明數字可能與其他業者自報結果不同。

卡片說明 BF16 版主要供客製與後訓練,一般使用建議用 Q4_K_M 量化版。二手整理稿指出,名稱中的「4GB」指顯存需求,NVIDIA 實測約 3.1 至 4.2 GB,可用 llama.cpp 或 Ollama 執行,主打機器人、本機助理與遊戲角色對話;這些使用情境與速度數字出自整理稿,模型卡未載明。

跟你的關係

想在自己的電腦或小型裝置上跑對話模型時,這類 4B 級模型的門檻低;但各項評測互有勝負,是否適合你要看任務,例如多輪工具呼叫上 Qwen 較強。建議先用量化版在自己的資料上實測。

重點

  • 10/23 釋出,8B 總參數、4B 有效、64K 上下文
  • 由 Gemma 4 E4B 後訓練,OpenMDW-1.1 授權
  • NVIDIA 自評 RoleBench 67.05,高於 Gemma 4 E4B-it
  • Tau2-Bench、RULER 上 Qwen3.5 4B 較高
  • 約 4GB 顯存為二手整理稿說法

來源

本站內文為依上列來源整理的摘要,未另外增加事實;細節請以原文為準。

← 回首頁看今天的 AI 早報