Mellum 2.1: il modello JetBrains per agenti di codice in locale

JetBrains ha rilasciato Mellum 2.1, la nuova versione del suo modello open per agenti di codice: stessa architettura della versione 2 (12 miliardi di parametri totali, 2,5 miliardi attivi), ma un post-training quasi interamente rifatto con reinforcement learning in ambienti reali. Il risultato dichiarato è un modello che esplora una codebase, modifica i file e verifica da solo le modifiche. Questa guida spiega cosa dice JetBrains, come leggere i numeri pubblicati e come provare il modello sulle tue macchine senza mandare il codice a un servizio esterno.

Cos'è: 12 miliardi totali, 2,5 attivi

Mellum 2.1 è un mixture-of-experts da 12 miliardi di parametri di cui solo 2,5 attivi per ogni token: 64 esperti totali, 8 attivi, 28 layer, contesto da 131.072 token, pesi in bfloat16, licenza Apache 2.0. La licenza è quella permissiva vera: uso commerciale consentito, come verificabile nella model card su Hugging Face. Pochi parametri attivi significano meno calcolo per token: è la strada per far girare un ragionatore per agenti su hardware proprio invece che su API a consumo.

• Parametri: 12B totali, 2,5B attivi per token (MoE 64 esperti, 8 attivi)
• Contesto: 131.072 token, con sliding window su tre layer su quattro
• Licenza: Apache 2.0, verificata nella model card ufficiale
• Dove trovarlo: collezione ufficiale JetBrains mellum21 su Hugging Face

Il post-training: RL in ambienti veri

Secondo il post di annuncio, quasi tutto il lavoro di questa versione è nel post-training: il reinforcement learning è passato da fase finale breve a parte principale dell'addestramento, con nuovi compiti di matematica, programmazione competitiva, scienza, uso di strumenti e ingegneria del software. Ogni fonte di dati è stata filtrata perché i dataset aperti spesso contengono test rotti o risposte non verificabili. Per le capacità agentiche, JetBrains dichiara di aver costruito migliaia di ambienti RL in casa e lanciato milioni di esecuzioni sandbox: il modello si allena dentro repository veri, con shell e strumenti di modifica file, e viene premiato quando i test passano.

I numeri dichiarati (e come leggerli)

La model card pubblica una tabella di valutazioni con un'avvertenza chiara: tutti i valori sono autodichiarati da JetBrains, misurati con la stessa pipeline per ogni modello. Vanno letti come indicazioni del venditore, non come misure indipendenti. I punti che contano per il laboratorio sono quelli agentici, misurati con lo stesso harness open (Pi v0.73.1, shell e file tools) per tutti i modelli.

• LiveCodeBench v6: 82,0 per Mellum 2.1 contro 69,4 di Mellum 2 (autodichiarato JetBrains)
• SWE-bench Verified: 47,0 contro 2,0 della versione precedente (autodichiarato JetBrains)
• BFCL v4 tool calling: 62,3 contro 49,6 (autodichiarato JetBrains)
• Velocità: con multi-token prediction circa 1,6 volte più veloce per singola richiesta e quasi il doppio dei token serviti sotto carico rispetto a Qwen3.5-9B, sempre secondo JetBrains

Provarlo senza mandare codice al cloud

Il caso d'uso che interessa al laboratorio è il deployment privato: modello sulle tue macchine, codice e dati sotto il tuo controllo. La strada documentata nella model card è il serving con vLLM, con API compatibile OpenAI. I comandi di esempio usano il parser di ragionamento qwen3 e, per il tool calling, la scelta automatica degli strumenti.

vllm serve JetBrains/Mellum2.1-12B-A2.5B-Thinking \
  --max-model-len 131072 \
  --reasoning-parser qwen3 \
  --enable-auto-tool-choice \
  --tool-call-parser hermes

Attenzione a un dettaglio onesto: le build GGUF per llama.cpp, Ollama e LM Studio e la testa multi-token per vLLM sono annunciate come in arrivo, non ancora pubblicate al momento della stesura. Il checkpoint in bfloat16 da 12 miliardi richiede una GPU con memoria adeguata: prima di provarlo, verifica i requisiti della release e dello stack di serving che usi. Quando le quantizzate usciranno, il modello diventerà candidato naturale per il PC del laboratorio, come worker veloce dentro sistemi agentici.

Limiti onesti

• Versioni leggere per PC non ancora pubblicate: oggi serve infrastruttura con GPU adeguata
• Tutti i benchmark sono autodichiarati dal venditore: nessuna misura indipendente al momento della stesura
• È un modello thinking da 12B, non un sostituto di un modello di frontiera per problemi aperti
• Contesto lungo fino a 131.072 token: utile, ma consuma memoria e va dimensionato

Quando ha senso (e quando no)

• Ha senso come worker veloce dentro sistemi agentici: diagnosi di un test fallito, bozza di fix, verifica con i test
• Ha senso dove il codice deve restare in azienda: self-hosted invece di API esterne, per controllo e conformità
• Ha meno senso come chatbot generico o per problemi aperti: lì pesano altre qualità
• Prima di adottarlo, misura sul tuo repository: un sottoinsieme di task reali con test che passano o falliscono

Fonte: Post di annuncio ufficiale di JetBrains — dettagli su post-training RL e casi d'uso

Fonte: Collezione ufficiale Mellum 2.1 su Hugging Face — pesi, licenza Apache 2.0 e istruzioni di serving