← 返回 AI 資訊

#Nemotron Bolt

共 1 篇文章

模型發布

NVIDIA Nemotron 3.5 Bolt 74B 發布:以 2-bit 量化 MoE 推動本地代理運算

NVIDIA 於 10 月 15 日正式發布 Nemotron 3.5 Bolt 74B-A9B:一款 74B 總參數、9B 活躍參數的 MoE 模型,以 2-bit 量化與量化感知訓練壓縮至 24GB,專為 RTX Spark 筆電上的本地 AI 代理設計,並完整開源權重、訓練數據與配方。此舉是 NVIDIA 把代理工作負載從雲端推向終端設備的關鍵一步,也將本地推論的性價比之爭推向新階段。