Soluzioni

Mistral Small 3.1

March 17, 2025

By Mistral AI

Oggi annunciamo Mistral Small 3.1: il miglior modello nella sua classe di peso.

Basato su Mistral Small 3, questo nuovo modello offre prestazioni testuali migliorate, comprensione multimodale e una finestra di contesto estesa fino a 128k token. Il modello supera modelli comparabili come Gemma 3 e GPT-4o Mini, offrendo al contempo velocità di inference di 150 token al secondo.

Mistral Small 3.1 è rilasciato con licenza Apache 2.0. 

Perf Gpqa Diamond Mistral

Le applicazioni di AI moderne richiedono una combinazione di capacità: gestione del testo, comprensione di input multimodali, supporto di più lingue e gestione di contesti lunghi, con bassa latenza ed efficienza dei costi. Come mostrato di seguito, Mistral Small 3.1 è il primo modello open source che non solo eguaglia, ma di fatto supera, le prestazioni dei principali modelli small proprietari in tutte queste dimensioni.

Di seguito sono disponibili maggiori dettagli sulle prestazioni del modello. Quando possibile, mostriamo i dati precedentemente riportati da altri provider; in caso contrario, valutiamo i modelli tramite il nostro harness di valutazione comune.

Prestazioni Instruct

Benchmark text instruct

 

 

Benchmark Instruct multimodali

MM-MT-Bench normalizzato tra 0 e 100.

 

 

Multilingue

 

Contesto lungo

 

 

Prestazioni pretrained

Rilasciamo anche il modello base pretrained per Mistral Small 3.1.

Pretrain complessivo

 

 

Casi d’uso

Mistral Small 3.1 è un modello versatile progettato per gestire un’ampia gamma di attività di AI generativa, tra cui instruction following, assistenza conversazionale, comprensione delle immagini e function calling. Offre una base solida per applicazioni di AI sia enterprise sia consumer-grade.

Funzionalità e capacità principali

  • Leggero: Mistral Small 3.1 può essere eseguito su una singola RTX 4090 o su un Mac con 32 GB di RAM. Questo lo rende particolarmente adatto ai casi d’uso on-device.

  • Assistenza conversazionale a risposta rapida: ideale per assistenti virtuali e altre applicazioni in cui risposte rapide e accurate sono essenziali. 

  • Function calling a bassa latenza: in grado di eseguire rapidamente funzioni all’interno di workflow automatizzati o agentici

  • Fine-tuning per domini specializzati: Mistral Small 3.1 può essere sottoposto a fine-tuning per specializzarsi in domini specifici, creando esperti di materia accurati. Questo è particolarmente utile in ambiti come consulenza legale, diagnostica medica e supporto tecnico.

  • Base per reasoning avanzato: continuiamo a essere colpiti dal modo in cui la community costruisce sui modelli open di Mistral. Solo nelle ultime settimane abbiamo visto diversi eccellenti modelli di reasoning basati su Mistral Small 3, come DeepHermes 24B di Nous Research. A tal fine, rilasciamo sia checkpoint base sia instruct per Mistral Small 3.1, così da consentire un’ulteriore personalizzazione downstream del modello.

Mistral Small 3.1 può essere utilizzato in varie applicazioni enterprise e consumer che richiedono comprensione multimodale, come verifica dei documenti, diagnostica, elaborazione di immagini on-device, ispezione visiva per controlli qualità, rilevamento di oggetti nei sistemi di sicurezza, supporto clienti basato su immagini e assistenza general purpose.

Disponibilità 

Mistral Small 3.1 è disponibile per il download sul sito web di huggingface Mistral Small 3.1 Base e Mistral Small 3.1 Instruct. Per deployment enterprise con infrastruttura di inference privata e ottimizzata, La invitiamo a contattarci

Da oggi è anche possibile provare il modello via API sul developer playground di Mistral AI La Plateforme. Il modello è inoltre disponibile su Google Cloud Vertex AI. Mistral Small 3.1 sarà disponibile su NVIDIA NIM e Microsoft Azure AI Foundry nelle prossime settimane. 

Buon lavoro di sviluppo.