NVIDIA Presenta Nuovi Modelli AI Aperti per Agenti in Tutto lo Stack

NVIDIA ha appena lanciato Nemotron 3.5 Super VL, un modello aperto da 120 miliardi di parametri, insieme a due nuovi modelli orientati all'edge: Nemotron 3.5 Bolt 74B-A9B 24GB e Nemotron 3.5 Bolt E4B 4GB. Con questi, NVIDIA afferma che la linea Nemotron ora copre lo spettro—che tu stia eseguendo agenti su server aziendali o implementando su dispositivi edge leggeri. Super VL e Bolt 74B-A9B sono disponibili immediatamente; Bolt E4B arriverà il 23 ottobre.

Cosa c'è di Nuovo: Dettagli sui Modelli Nemotron 3.5 Super VL e Bolt

Ecco cosa salta all'occhio: Nemotron 3.5 Super VL è progettato in collaborazione con la Nemotron Coalition. È un modello aperto da 120B parametri mirato a compiti agentici ad alta precisione—seguire istruzioni, integrazione di strumenti, flussi di lavoro multistep e lettura di documenti visivi. NVIDIA sostiene che Super VL eguaglia il loro modello di ragionamento più grande per precisione, ma riduce le dimensioni a un quinto, e nella classifica dell'Artificial Analysis Intelligence Index, offre fino a 5 volte il throughput rispetto ai concorrenti.

Il formato aperto significa che puoi ri-addestrare il modello con i tuoi dati e farlo girare sul tuo stack.

Per quanto riguarda l'edge, Bolt 74B-A9B 24GB è costruito per lavori agentici locali, utilizzando la quantizzazione a 2 bit per adattarsi a 24GB di memoria. Questo lo rende adatto per sistemi RTX e DGX Spark, permettendoti di gestire compiti quotidiani degli agenti—ricerca web, scrittura, debug del codice—senza il cloud. NVIDIA afferma che Bolt 74B-A9B è il leader della sua classe su PinchBench e si classifica secondo su BrowseComp.

Poi c'è Bolt E4B 4GB, che mira a implementazioni edge veloci—pensa a agenti conversazionali e personaggi interattivi su GeForce RTX, Jetson e RTX/DGX Spark. Ottimizzato per intelligenza per gigabyte, è destinato ad assistenti vocali e interfacce integrate. Sarà disponibile il 23 ottobre ed è pensato per dispositivi con budget di memoria ristretti, rendendolo pratico per usi embedded o in tempo reale dove la velocità e l'efficienza sono fondamentali.

Tutti questi si uniscono al roster esistente di Nemotron: Lightning (gestisce alti throughput), Ultra (per ragionamento complesso) e il modello originale Bolt (per intelligenza edge). Quindi ora, Nemotron si estende dai data center ad alta potenza all'hardware consumer, offrendo alle organizzazioni un menu di opzioni—senza escluderle dall'apertura o dalla messa a punto.

Perché Questo è Importante: AI Aperta e Personalizzabile per Agenti Aziendali Reali

Questo è un grande passo da parte di NVIDIA per chiunque desideri agenti AI su misura per la propria azienda, ma non voglia essere limitato da modelli chiusi e controllati dai fornitori. Con pesi e dataset aperti, puoi modificare e ri-addestrare questi modelli per adattarli ai tuoi strumenti, dati e flussi di lavoro—che tu stia gestendo richieste di assicurazione, analisi finanziaria, sanità o SaaS. Ad esempio, i team assicurativi potrebbero eseguire rilevamenti di frodi internamente, mantenendo i dati privati.

Le banche potrebbero implementare agenti di analisi del credito che riflettono le proprie regole di prestito, senza inviare un byte al cloud.

Le capacità di visione-linguaggio in Nemotron 3.5 Super VL sono una vera vittoria per qualsiasi agente che lavora con documenti reali. Legge pagine web, estrae testo, decifra grafici e tabelle, e restituisce approfondimenti strutturati. Poiché può gestire sia testo che visivi in un colpo solo, non devi rimbalzare i dati tra modelli separati—significa risultati più rapidi e un contesto migliore mentre passi dal documento alla decisione.

Immagina un agente che analizza un contratto PDF, trova le clausole importanti e le verifica con i grafici negli allegati—tutto in un'unica passata di inferenza.

Alcune organizzazioni che stanno già personalizzando Super VL includono:

  • Scale AI, per l'agente di finanziamento del credito dei fornitori di Skydance e l'agente di due diligence M&A di EY
  • AfterQuery, per l'analisi dell'accordo di credito di Hebbia
  • AI21 e Alice, per la resilienza agli attacchi informatici
  • Mercor, per agenti di codifica software che utilizzano benchmark APEX-SWE
  • Ramp, per l'intelligenza dei documenti finanziari
  • Dream, per la ricerca sulla cybersecurity potenziata dall'AI
  • Lila Sciences, per la scoperta scientifica
  • R1, per l'analisi delle richieste mediche
  • TrainLoop, per applicazioni di dati dermatologici, inclusa la scrittura di prescrizioni guidata dall'AI di Nolla

Grandi piattaforme software—Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce e Synopsys—stanno anche integrando Super VL in compiti come ricerca agentica e verifica del design dei chip. Atlassian, ad esempio, lo sta utilizzando per potenziare la ricerca su Jira e Confluence, mentre Salesforce sta automatizzando flussi di lavoro governativi complessi in ambienti sicuri tramite Missionforce Operations. Puoi vedere come questi modelli aperti si adattino alle esigenze specifiche del settore in produzione reale, non solo in dimostrazioni.

Come Utilizzare Questi Modelli nella Tua Azienda

Se stai considerando i modelli Nemotron 3.5 per i tuoi agenti AI, ecco un percorso semplice:

  1. Scarica i pesi aperti per Super VL o Bolt da Hugging Face, ModelScope o Open Router. Troverai la documentazione ufficiale su la pagina Nemotron di NVIDIA. Questi repository ti indirizzeranno anche verso aiuti e guide della comunità.
  2. Affina il modello utilizzando NVIDIA NeMo, pipeline Python o dataset aperti. NVIDIA sta rilasciando dataset su Hugging Face che coprono uso degli strumenti, finanza, seguire istruzioni, contesti lunghi, equità e visione-linguaggio. Puoi affinare con i tuoi dati privati e strumenti per ottenere i migliori risultati per il tuo campo.
  3. Implementa su qualsiasi hardware adatto alla tua scala—DGX Spark, DGX Station, RTX PRO, PC GeForce RTX o Jetson. I modelli Bolt mirano a edge e workstation; Super VL è migliore per lavori aziendali ad alto volume. Per gli sviluppatori, Bolt 74B-A9B 24GB si integra bene con imbracature per agenti e strumenti popolari come llama.cpp, Ollama, LM Studio, Unsloth, Canonical e vLLM, quindi non sei costretto in un angolo.
  4. In produzione, considera NVIDIA NIM, che raggruppa il modello come un microservizio con configurazioni ottimizzate e aggiornamenti regolari di prestazioni/sicurezza. NIM offre implementazione a livello enterprise—patch di sicurezza ogni due settimane, ottimizzazioni delle prestazioni e capacità di servire fino a 8 volte più utenti con una latenza inferiore dell'85% sui backend NVIDIA Dynamo.
  5. Collegati alla comunità: blog tecnici, guide architettoniche, tutorial video, livestream e forum. Le risorse di NVIDIA possono aiutarti a muoverti più velocemente e a evitare errori comuni mentre implementi questi modelli.

Come è Stato Costruito e Addestrato Nemotron 3.5 Super VL

Il training di Nemotron 3.5 Super VL ha coinvolto circa 26 trilioni di token—coprendo sia il pretraining iniziale che quello continuato—poi ri-addestramento con circa 3,8 milioni di campioni, oltre a rinforzo dell'apprendimento in decine di ambienti. Questo rigoroso regime mira a costruire un forte ragionamento multimodale, seguire istruzioni e uso degli strumenti. NVIDIA sta anche rilasciando dataset aperti su Hugging Face per tutto, dall'uso degli strumenti e finanza a visione-linguaggio ed equità, oltre a ambienti RL in NeMo Gym.

Ciò significa che puoi replicare o estendere l'addestramento per i tuoi casi d'uso personalizzati.

Se stai sviluppando o ricercando, pesi aperti, dataset e ricette di addestramento significano che puoi controllare l'intero ciclo di vita del modello—testare, sperimentare e passare alla produzione, internamente o con partner, senza lock-in del fornitore. Questo è un grande affare per le industrie con regole di conformità o residenza dei dati, come sanità, finanza e governo.

La Mia Prospettiva: I Vantaggi e i Compromessi

Ecco la mia opinione: l'approccio aperto di NVIDIA è rinfrescante. Pesi aperti, dati e ricette ti permettono di possedere effettivamente la tua implementazione AI—non qualcosa che ottieni con la maggior parte dei modelli cloud. Puoi ri-addestrare sui tuoi dati, mantenere le cose on-prem e spuntare le caselle per sicurezza e conformità—particolarmente importante per settori regolamentati o chiunque abbia flussi di lavoro sensibili.

Ma dovresti conoscere i compromessi. Eseguire i modelli più grandi localmente significa che hai bisogno di hardware serio—DGX Spark, RTX PRO o simili. I modelli Bolt rendono l'uso edge più accessibile, ma avrai comunque bisogno di GPU NVIDIA.

C'è anche una curva di apprendimento: l'affinamento, l'implementazione e la gestione delle pipeline di inferenza richiedono tutte competenze tecniche. E mentre NVIDIA vanta punteggi elevati nei benchmark, i tuoi risultati nel mondo reale dipenderanno dai tuoi dati e dalle tue esigenze.

E ricorda: i modelli aperti sono sicuri solo quanto la tua implementazione. Pratiche solide di MLOps e sicurezza sono un must, altrimenti i vantaggi del controllo on-prem potrebbero ritorcersi contro. Investi in monitoraggio, controlli di accesso rigorosi e aggiornamenti regolari per mantenere le cose sicure e affidabili.

La Conclusione

La suite espansa Nemotron 3.5 di NVIDIA porta modelli di agenti AI aperti e personalizzabili a portata di mano—se hai l'attrezzatura e le competenze giuste. Se controllare i tuoi dati, adattare i modelli alla tua azienda e implementare in modo flessibile tra cloud e edge è importante per te, vale la pena dare un'occhiata. Con accesso aperto, prestazioni solide e supporto per la messa a punto specifica del settore, Nemotron 3.5 sembra ben posizionato per la prossima ondata di agenti AI aziendali.