Presentiamo Codestral, il nostro primo modello per il codice. Codestral è un modello di IA generativa a pesi aperti progettato esplicitamente per attività di generazione di codice. Aiuta gli sviluppatori a scrivere codice e a interagire con esso tramite un endpoint API condiviso per istruzioni e completamento. Poiché padroneggia codice e inglese, può essere utilizzato per progettare applicazioni di IA avanzate per sviluppatori software.
Un modello fluente in oltre 80 linguaggi di programmazione
Codestral è addestrato su un dataset eterogeneo di oltre 80 linguaggi di programmazione, inclusi i più diffusi, come Python, Java, C, C++, JavaScript e Bash. Offre buone prestazioni anche su linguaggi più specifici come Swift e Fortran. Questa ampia base linguistica consente a Codestral di supportare gli sviluppatori in diversi ambienti e progetti di coding.
Codestral fa risparmiare tempo e lavoro agli sviluppatori: può completare funzioni di codice, scrivere test e completare qualsiasi porzione di codice parziale tramite un meccanismo fill-in-the-middle. Interagire con Codestral aiuta a migliorare il livello di coding degli sviluppatori e a ridurre il rischio di errori e bug.
Definire un nuovo standard per le prestazioni nella generazione di codice
Prestazioni. In quanto modello 22B, Codestral stabilisce un nuovo standard nel rapporto prestazioni/latenza per la generazione di codice rispetto ai modelli precedenti utilizzati per il coding.
Figura 1: grazie alla sua finestra di contesto più ampia da 32k (rispetto a 4k, 8k o 16k dei concorrenti), Codestral supera tutti gli altri modelli in RepoBench, una valutazione long-range per la generazione di codice.
Confrontiamo Codestral con modelli esistenti specifici per il codice con requisiti hardware più elevati.
Python. Utilizziamo quattro benchmark: HumanEval pass@1, MBPP sanitised pass@1 per valutare la capacità di generazione di codice Python di Codestral, CruxEval per valutare la previsione dell'output Python e RepoBench EM per valutare il Long-Range Repository-Level Code Completion di Codestral.
SQL. Per valutare le prestazioni di Codestral in SQL, abbiamo utilizzato il benchmark Spider.
Linguaggi aggiuntivi. Inoltre, abbiamo valutato le prestazioni di Codestral in più HumanEval pass@1 su sei linguaggi diversi oltre a Python: C++, bash, Java, PHP, Typescript e C#, e abbiamo calcolato la media di queste valutazioni.
Benchmark FIM. Le prestazioni Fill-in-the-middle di Codestral sono state valutate utilizzando HumanEval pass@1 in Python, JavaScript e Java, e confrontate con DeepSeek Coder 33B, la cui capacità fill-in-the-middle è immediatamente utilizzabile.
Iniziare a usare Codestral
Scarichi e testi Codestral.
Codestral è un modello 22B a pesi aperti distribuito con la nuova Mistral AI Non-Production License, il che significa che può essere utilizzato per finalità di ricerca e test. Codestral può essere scaricato su HuggingFace.
Se desidera utilizzare il modello nell'ambito di attività commerciali, sono disponibili anche licenze commerciali su richiesta contattando il team.
Utilizzi Codestral tramite il suo endpoint dedicato
Con questo rilascio viene aggiunto un nuovo endpoint: codestral.mistral.ai. Questo endpoint dovrebbe essere preferito dagli utenti che utilizzano le nostre route Instruct o Fill-In-the-Middle all'interno del loro IDE. La chiave API per questo endpoint è gestita a livello personale e non è vincolata dai consueti rate limit dell'organizzazione. Consentiamo l'uso gratuito di questo endpoint durante un periodo Beta di 8 settimane e lo rendiamo accessibile tramite una waitlist per garantire una buona qualità del servizio. Questo endpoint dovrebbe essere preferito dagli sviluppatori che implementano plugin IDE o applicazioni in cui ci si aspetta che i clienti utilizzino le proprie chiavi API.
Crei con Codestral su la Plateforme
Codestral è anche disponibile da subito sul consueto endpoint API: api.mistral.ai, dove le query vengono fatturate in base ai token. Questo endpoint e le integrazioni sono più adatti alla ricerca, alle query batch o allo sviluppo di applicazioni di terze parti che espongono i risultati direttamente agli utenti senza che questi debbano utilizzare le proprie chiavi API.
Può creare il suo account su la Plateforme e iniziare a sviluppare le sue applicazioni con Codestral seguendo questa guida. Come tutti gli altri nostri modelli, Codestral è disponibile da oggi nella nostra offerta di self-deployment: contatti il reparto commerciale.
Utilizzi Codestral nel suo ambiente preferito per scrivere codice e creare applicazioni.
Abbiamo collaborato con partner della community per rendere Codestral disponibile in strumenti diffusi per la produttività degli sviluppatori e la creazione di applicazioni IA.
Framework applicativi. Codestral è integrato da oggi in LlamaIndex e LangChain, consentendo agli utenti di creare facilmente applicazioni agentiche con Codestral
Integrazione VSCode/JetBrains. Continue.dev e Tabnine consentono agli sviluppatori di utilizzare Codestral negli ambienti VSCode e JetBrains e ora permettono loro di generare codice e dialogare con il codice usando Codestral.
Qui può vedere come utilizzare il plugin VSCode di Continue.dev per generazione di codice, conversazione interattiva e modifica inline con Codestral, e qui come gli utenti possono utilizzare il plugin VSCode di Tabnine per chattare con Codestral.
Per informazioni dettagliate sul funzionamento delle varie integrazioni con Codestral, consulti la nostra documentazione per istruzioni di configurazione ed esempi.
Feedback della community di sviluppatori
"Prima non esisteva un modello pubblico di autocomplete con questa combinazione di velocità e qualità, e rappresenterà un cambio di fase per gli sviluppatori ovunque."
-- Nate Sesti, CTO e cofondatore di Continue.dev
"Siamo entusiasti delle capacità che Mistral presenta e felici di vedere una forte attenzione al codice e all'assistenza allo sviluppo, un'area a cui JetBrains tiene profondamente."
-- Vladislav Tankov, Head of JetBrains AI
"Abbiamo utilizzato Codestral per eseguire un test sul nostro benchmark Kotlin-HumanEval e siamo rimasti colpiti dai risultati. Ad esempio, nel caso del tasso di superamento per T=0.2, Codestral ha ottenuto un punteggio di 73,75, superando il punteggio di GPT-4-Turbo pari a 72,05 e quello di GPT-3.5-Turbo pari a 54,66."
-- Mikhail Evtikhiev, Researcher presso JetBrains
"In qualità di ricercatore presso l'azienda che ha creato il primo strumento GenAI incentrato sugli sviluppatori, ho avuto il piacere di integrare il nuovo modello di codice di Mistral nel nostro prodotto di chat. Sono rimasto molto colpito dalle sue prestazioni. Nonostante le dimensioni relativamente compatte, offre risultati alla pari con modelli molto più grandi che proponiamo ai clienti. Abbiamo testato diverse funzionalità chiave, tra cui generazione di codice, generazione di test, documentazione, processi di onboarding e altro. In ogni caso, il modello ha superato le nostre aspettative. La velocità e l'accuratezza del modello avranno un impatto significativo sull'efficienza del nostro prodotto rispetto al precedente modello Mistral, consentendoci di fornire assistenza rapida e precisa ai nostri utenti. Questo modello si distingue come strumento potente tra i modelli che supportiamo, e lo raccomando vivamente a chi cerca prestazioni di alta qualità."
-- Meital Zilberstein, R&D Lead @ Tabnine
"Cody accelera il ciclo interno dello sviluppo software, e gli sviluppatori utilizzano funzionalità come l'autocomplete per ridurre parte del lavoro quotidiano legato alla scrittura del codice. Le nostre valutazioni interne mostrano che il nuovo modello Codestral di Mistral riduce significativamente la latenza dell'autocomplete di Cody mantenendo la qualità del codice suggerito. Questo lo rende un'eccellente scelta di modello per l'autocomplete, dove millisecondi di latenza si traducono in valore reale per gli sviluppatori."
-- Quinn Slack, CEO e cofondatore di Sourcegraph
"Sono rimasto incredibilmente colpito dal nuovo modello Codestral di Mistral per la generazione di codice IA. Nei test condotti finora, ha prodotto costantemente codice altamente accurato e funzionale, anche per attività complesse. Ad esempio, quando gli ho chiesto di completare una funzione non banale per creare un nuovo query engine LlamaIndex, ha generato codice che ha funzionato perfettamente, pur basandosi su una codebase più datata."
-- Jerry Liu, CEO e cofondatore di LlamaIndex
"La generazione di codice è uno dei casi d'uso LLM più popolari, quindi siamo davvero entusiasti del rilascio di Codestral. Dai nostri test iniziali, è un'ottima opzione per i workflow di generazione di codice perché è veloce, ha una finestra di contesto favorevole e la versione instruct supporta l'uso di tool. Abbiamo effettuato test con LangGraph per la generazione di codice autocorrettiva utilizzando il tool use instruct di Codestral per l'output, e ha funzionato molto bene out-of-the-box (veda il nostro video con i dettagli)."
-- Harrison Chase, CEO e cofondatore di LangChain