Oggi introduciamo la personalizzazione dei modelli su la Plateforme, per offrire performance, velocità e un controllo editoriale preciso alla Sua applicazione AI. Ora può adattare in modo semplice ed efficiente i modelli Mistral AI alle Sue esigenze specifiche, riducendo i costi e le competenze necessari per personalizzare modelli di AI generativa su larga scala. Che voglia eseguire il fine-tuning dei modelli Mistral AI sulla Sua infrastruttura o sfruttare le nostre tecniche proprietarie di fine-tuning con i nostri servizi gestiti, abbiamo la soluzione giusta per Lei.
Il fine-tuning è una tecnica efficace per personalizzare e migliorare le performance degli LLM, offrendo risposte migliori, maggiore flessibilità ed efficienza per applicazioni specifiche. Quando si adatta un modello più piccolo a domini o casi d'uso specifici, consente di eguagliare le performance di modelli più grandi, riducendo i costi di deployment e migliorando la velocità dell'applicazione.
Personalizzi i modelli Mistral in locale, su la Plateforme e con il team
Siamo orgogliosi di annunciare tre diversi punti di accesso per specializzare i modelli Mistral AI.
SDK di fine-tuning open source per i modelli Mistral
Per gli sviluppatori che desiderano eseguire il fine-tuning dei modelli open source di Mistral sulla propria infrastruttura, abbiamo rilasciato mistral-finetune, una codebase leggera ed efficiente per il fine-tuning.
La nostra codebase si basa sul paradigma di training LoRA, che consente un fine-tuning efficiente in termini di memoria e di performance. Con mistral-finetune, può eseguire il fine-tuning di tutti i nostri modelli open source sulla Sua infrastruttura senza sacrificare performance o efficienza della memoria.
Servizi di fine-tuning serverless su la Plateforme
Per semplificare ulteriormente il fine-tuning senza complessità infrastrutturali, introduciamo nuovi servizi di fine-tuning su la Plateforme. Questi servizi sfruttano le tecniche di fine-tuning distintive di Mistral, perfezionate attraverso un'intensa attività di ricerca e sviluppo, per consentire un adattamento rapido ed economicamente efficiente dei modelli e un deployment efficace dei modelli sottoposti a fine-tuning. È un nuovo passo nella nostra missione di rendere i metodi scientifici avanzati accessibili agli sviluppatori di applicazioni AI. Utilizziamo adapter LoRA sotto il cofano per evitare la perdita della conoscenza del modello di base e consentire un serving efficiente.
Figura 1: il finetuning LoRA di Mistral è più efficiente e offre performance simili rispetto al Fine-tuning completo sia per Mistral 7B sia per Mistral Small: la metrica di valutazione è un benchmark interno normalizzato molto simile alla valutazione MTBench (dove 1 è il riferimento al Fine-tuning completo di Mistral Small).
Tradizionalmente, i modelli sottoposti a fine-tuning hanno richiesto alle imprese un investimento significativo. La nostra esperienza nel settore ci consente di offrire il fine-tuning in modo altamente efficiente, con una riduzione dei costi sia per il training sia per il serving.
Oggi i nostri servizi di fine-tuning sono compatibili con Mistral 7B e Mistral Small. Gli utenti che utilizzano uno di questi modelli possono quindi usare subito la nostra API per personalizzare efficacemente i nostri modelli in base alle proprie esigenze specifiche. Nelle prossime settimane aggiungeremo nuovi modelli ai nostri servizi di finetuning.
Inizi registrandosi su la Plateforme e scopra la nostra guida e il nostro tutorial su come creare un'applicazione con un LLM personalizzato.
Servizi di training personalizzati
I nostri servizi di training personalizzati prevedono il fine-tuning dei modelli Mistral AI sulle applicazioni specifiche di un cliente utilizzando i suoi dati proprietari. Questo approccio consente di creare modelli altamente specializzati e ottimizzati per il relativo dominio. Proponiamo tecniche avanzate come il pretraining continuo per integrare conoscenze proprietarie direttamente nei pesi del modello.
Questi servizi di training personalizzati sono disponibili per un gruppo selezionato di clienti e sono adattati alle loro esigenze specifiche. Può contattare liberamente il nostro sales team per saperne di più.
Entri nella nostra community di builder
Se desidera iniziare subito a sperimentare con la nostra nuovissima API di fine-tuning, partecipi al Mistral Fine-Tuning Hackathon, che si terrà dal 5 al 30 giugno 2024. Può trovare ulteriori dettagli sull'hackathon qui.