Rilasciamo Mistral Large, il nostro modello linguistico più recente e avanzato. Mistral Large è disponibile tramite la Plateforme. Lo rendiamo inoltre disponibile tramite Azure, il nostro primo partner di distribuzione.
Mistral Large, il nostro nuovo modello di punta
Mistral Large è il nostro nuovo modello di generazione di testo all'avanguardia. Raggiunge capacità di reasoning di livello superiore. Può essere utilizzato per attività complesse di reasoning multilingue, tra cui comprensione e trasformazione del testo e generazione di codice.
Mistral Large ottiene risultati solidi sui benchmark comunemente utilizzati, diventando il secondo modello al mondo disponibile al pubblico tramite API (dopo GPT-4) [veda di seguito i dettagli sui benchmark].
Figura 1: confronto tra GPT-4, Mistral Large (pre-addestrato), Claude 2, Gemini Pro 1.0, GPT 3.5 e LLaMA 2 70B su MMLU (Measuring massive multitask language understanding).
Mistral Large introduce nuove capacità e punti di forza:
È nativamente fluente in inglese, francese, spagnolo, tedesco e italiano, con una comprensione sfumata della grammatica e del contesto culturale.
La sua finestra di contesto da 32K token consente di richiamare con precisione informazioni da documenti di grandi dimensioni.
La sua aderenza precisa alle istruzioni consente agli sviluppatori di progettare le proprie policy di moderazione -- l'abbiamo usata per configurare la moderazione a livello di sistema di Le Chat.
È nativamente in grado di eseguire function calling. Questo, insieme alla modalità di output vincolato implementata su la Plateforme, abilita lo sviluppo di applicazioni e la modernizzazione dello stack tecnologico su larga scala.
Collaboriamo con Microsoft per fornire i nostri modelli su Azure
In Mistral, la nostra missione è rendere l'IA all'avanguardia ubiqua. Per questo annunciamo oggi l'arrivo dei nostri modelli open e commerciali su Azure. La fiducia di Microsoft nel nostro modello è un passo avanti nel nostro percorso. I nostri modelli sono ora disponibili tramite:
La Plateforme: ospitato in modo sicuro sull'infrastruttura Mistral in Europa, questo punto di accesso consente agli sviluppatori di creare applicazioni e servizi su tutta la nostra gamma completa di modelli.
Azure: Mistral Large è disponibile tramite Azure AI Studio and Azure Machine Learning, con un'esperienza utente fluida quanto le nostre API. I clienti Beta lo hanno utilizzato con successo significativo.
Self-deployment: i nostri modelli possono essere distribuiti nel Suo ambiente per i casi d'uso più sensibili con accesso ai pesi del modello; legga le storie di successo su questo tipo di deployment e contatti il nostro team per ulteriori dettagli.
Capacità di Mistral Large
Confrontiamo le prestazioni di Mistral Large con i principali modelli LLM sui benchmark comunemente utilizzati.
Reasoning e conoscenza
Mistral Large mostra potenti capacità di reasoning. Nella figura seguente riportiamo le prestazioni dei modelli pre-addestrati sui benchmark standard.
Figura 2: prestazioni sui benchmark diffusi di senso comune, reasoning e conoscenza dei principali modelli LLM sul mercato: MMLU (Measuring massive multitask language in understanding), HellaSwag (10-shot), Wino Grande (5-shot), Arc Challenge (5-shot), Arc Challenge (25-shot), TriviaQA (5-shot) e TruthfulQA.
Capacità multilingue
Mistral Large ha capacità multilingue native. Supera nettamente LLaMA 2 70B sui benchmark HellaSwag, Arc Challenge e MMLU in francese, tedesco, spagnolo e italiano.
Figura 3: confronto tra Mistral Large, Mixtral 8x7B e LLaMA 2 70B su HellaSwag, Arc Challenge e MMLU in francese, tedesco, spagnolo e italiano.
Matematica e Coding
Mistral Large mostra prestazioni di alto livello nelle attività di coding e matematica. Nella tabella seguente riportiamo le prestazioni su una suite di benchmark popolari per valutare le prestazioni di coding e matematica di alcuni dei principali modelli LLM.
Figura 4: prestazioni sui benchmark popolari di coding e matematica dei principali modelli LLM sul mercato: HumanEval pass@1, MBPP pass@1, Math maj@4, GSM8K maj@8 (8-shot) e GSM8K maj@1 (5 shot).
Un nuovo Mistral Small, ottimizzato per workload a bassa latenza
Insieme a Mistral Large, rilasciamo un nuovo modello ottimizzato, Mistral Small, ottimizzato per latenza e costi. Mistral Small supera Mixtral 8x7B e ha una latenza inferiore, diventando una soluzione intermedia raffinata tra la nostra offerta open-weight e il nostro modello di punta.
Mistral Small beneficia della stessa innovazione di Mistral Large per quanto riguarda l'abilitazione RAG e il function calling.
Stiamo semplificando la nostra offerta di endpoint per fornire quanto segue:
Endpoint open-weight con pricing competitivo. L'offerta include
open-mistral-7Beopen-mixtral-8x7b.Nuovi endpoint di modelli ottimizzati,
mistral-small-2402emistral-large-2402. Manteniamomistral-medium, che oggi non aggiorniamo.
I nostri benchmark offrono una visione completa dei compromessi tra prestazioni e costi.
Oltre alla nuova offerta di modelli, abilitiamo la gestione dell'organizzazione, il pricing multivaluta e abbiamo aggiornato i livelli di servizio su la Plateforme. Abbiamo inoltre compiuto molti progressi nella riduzione della latenza di tutti i nostri endpoint.
Formato JSON e function calling
La modalità formato JSON forza l'output del modello linguistico a essere JSON valido. Questa funzionalità consente agli sviluppatori di interagire con i nostri modelli in modo più naturale per estrarre informazioni in un formato strutturato facilmente utilizzabile nel resto delle loro pipeline.
Il function calling consente agli sviluppatori di interfacciare gli endpoint Mistral con un set di strumenti propri, abilitando interazioni più complesse con codice interno, API o database. Scoprirà di più nella nostra guida al function calling.
Function calling e formato JSON sono disponibili solo su mistral-small e mistral-large. Aggiungeremo presto la formattazione a tutti gli endpoint e abiliteremo definizioni di formato più granulari.
Provi Mistral Large e Mistral Small oggi stesso
Mistral Large è disponibile da oggi su la Plateforme e Azure. Mistral Large è disponibile anche sul nostro dimostratore di assistente beta, Le Chat. Come sempre, attendiamo con interesse il Suo feedback.