Avrebbe potuto essere un tweet, ma... Mentre la community degli sviluppatori AI ha dovuto affrontare diversi aumenti dei prezzi delle API nelle ultime settimane, stiamo cercando di continuare a offrirvi AI all’avanguardia a prezzi accessibili. A tal fine, introduciamo l’API batch, disponibile da oggi su La Plateforme.
L’API batch introduce un modo più efficiente per elaborare richieste ad alto volume verso i modelli Mistral, con un costo inferiore del 50% rispetto a una chiamata API sincrona. Se state creando applicazioni AI in cui date priorità al volume dei dati rispetto alle risposte sincrone, l’API batch può essere una soluzione ideale. Basta caricare il file batch e, una volta elaborate le richieste, scaricare e utilizzare il file di output. Per istruzioni dettagliate, consultate la nostra documentazione dell’API batch.
Le applicazioni più comuni dell’API batch includono analisi del feedback dei clienti e sentiment analysis, riepilogo e traduzione di documenti in blocco, vector embedding per preparare indici di ricerca e data labeling.
L’API batch è disponibile per tutti i modelli serviti su La Plateforme e sarà presto disponibile presso i nostri partner cloud provider. L’utilizzo è limitato a 1 milione di richieste in corso per workspace.
Fateci sapere cosa ne pensate e contattateci per deployment personalizzati o privati.