Oggi rendiamo disponibili Workflows in public preview. Workflows è il livello di orchestrazione per l'AI enterprise. Offre la durabilità, l'osservabilità e la tolleranza ai guasti necessarie per portare in produzione in modo affidabile i processi basati sull'AI, superando la fase di proof of concept. Organizzazioni come ASML, ABANCA, CMA-CGM, France Travail, La Banque Postale, Moeve e molte altre stanno già usando Workflows per automatizzare processi critici.
Oggi i team aziendali hanno accesso a modelli avanzati. Ciò che manca è un modo per eseguirli in modo affidabile in produzione. Lo riscontriamo in ogni settore con cui lavoriamo. Le modalità di errore sono ricorrenti: pipeline che funzionano in un notebook ma falliscono silenziosamente in produzione senza alcuna traccia, processi di lunga durata che non sopravvivono a un timeout di rete, operazioni multi-step che richiedono l'approvazione umana durante l'esecuzione ma non dispongono di un meccanismo per mettersi in pausa e riprendere, e sistemi che non offrono alcun modo per verificare se, dopo il deployment, stanno ancora facendo ciò che dovrebbero.
Per le aziende, creare tutte le funzionalità necessarie per affrontare queste sfide richiede mesi di lavoro complesso: il layer di orchestrazione deve essere assemblato da zero, e i componenti che connette, inferenza, agenti, connettori, osservabilità, provengono ciascuno da strumenti diversi, con interfacce e formati propri.
Flussi di lavoro fa parte di Studio, quindi il layer di orchestrazione e i componenti che orchestra sono progettati per funzionare insieme. Una volta identificato un processo aziendale, gli sviluppatori scrivono il workflow in Python. Ogni workflow può poi essere pubblicato su Le Chat, così chiunque nell'organizzazione può attivarlo. Ogni passaggio è tracciato e verificabile in Studio. Riunendo tutto questo, Flussi di lavoro consente alla Sua organizzazione di passare dall'identificazione di un caso d'uso alla sua esecuzione in produzione in pochi giorni.
Flussi di lavoro distribuiti nel mondo reale
Come accennato, i clienti di Mistral AI stanno già usando Flussi di lavoro per automatizzare processi aziendali ed eseguirli in produzione. Gli esempi seguenti mostrano come durabilità, osservabilità e approvazioni human-in-the-loop funzionano nella pratica.
Automazione dello svincolo del carico.
Le spedizioni globali si basano sulla documentazione. Un singolo svincolo del carico può coinvolgere dichiarazioni doganali, classificazioni di merci pericolose, ispezioni di sicurezza e controlli normativi in più giurisdizioni. Un passaggio mancato può causare ritardi del carico in porto e potenziali violazioni di conformità.
I requisiti operativi per un caso d'uso come questo sono: il sistema deve sopravvivere a timeout intermittenti, mettersi in pausa durante l'esecuzione per la revisione umana e produrre un resoconto preciso di dove e perché si verifica un errore.
Con Flussi di lavoro, un cliente può automatizzare questo processo end-to-end. Il workflow convalida ogni documento di spedizione in ingresso rispetto alle regole doganali, verifica la presenza di anomalie, segnala tutto ciò che richiede approvazione umana, attende l'approvazione e quindi svincola il carico. Con Flussi di lavoro, il passaggio di approvazione umana è una singola riga di codice: wait_for_input(). Il workflow si mette in pausa, attende tutto il tempo necessario senza consumo di Compute, notifica il revisore e riprende esattamente da dove si era interrotto. Studio registra l'intera cronologia di esecuzione.
Controllo della conformità dei documenti.
Le revisioni KYC sono manuali, ripetitive e richiedono molto tempo. L'onboarding di un singolo cliente può richiedere l'estrazione di documenti di identità, la loro verifica rispetto a liste di sanzioni e database PEP, il confronto incrociato dei requisiti normativi tra giurisdizioni e la produzione di una valutazione strutturata del rischio con evidenze a supporto. Se svolto manualmente, questo lavoro richiede ore di analisi per ogni caso.
I requisiti operativi in questo caso sono velocità e verificabilità. Un sistema per automatizzare un processo di questo tipo deve essere rapido e documentare i passaggi e il ragionamento alla base di essi per soddisfare i requisiti normativi.
Con Flussi di lavoro, l'intero processo di revisione richiede solo pochi minuti e Studio presenta ogni passaggio come una timeline strutturata, che può essere esplorata a qualsiasi livello di dettaglio, fino a tracce specifiche con supporto nativo per OpenTelemetry.
Triage dell'assistenza clienti.
I team di assistenza gestiscono grandi volumi. Richieste di rimborso, problemi tecnici, controversie di fatturazione, escalation sugli account. Instradarli rapidamente e in modo coerente al team corretto è ciò che determina i tempi di risoluzione.
Il requisito operativo in questo caso è la correggibilità. L'instradamento automatizzato commetterà errori. Quando accade, il team deve vedere perché un ticket è stato instradato in quel modo e correggerlo senza riaddestrare il modello.
Con Flussi di lavoro, i ticket in ingresso vengono analizzati, categorizzati per intento e urgenza e instradati automaticamente al processo downstream corretto. Ogni decisione di instradamento è visibile e tracciabile in Studio. Quando la categorizzazione è errata, il team la corregge a livello di workflow.
Perché scegliere Flussi di lavoro
Esecuzione durevole. Flussi di lavoro traccia lo stato a ogni passaggio. Se un processo fallisce, riprende da dove si era interrotto. Di conseguenza, gli sviluppatori possono concentrarsi maggiormente sulla scrittura della logica di business anziché sulla logica di ripristino.
Osservabilità. Ogni diramazione, retry e cambiamento di stato viene registrato in Studio. Se una decisione deve essere esaminata mesi dopo, la timeline completa è disponibile per mostrare come è stata raggiunta.
Human-in-the-loop. Una singola riga di codice mette in pausa un workflow per l'approvazione. Il revisore risponde da Le Chat, da un webhook o da qualsiasi superficie connessa, e il workflow riprende da dove si era fermato.
Nativo di Studio. Flussi di lavoro utilizza gli stessi agenti e connettori del resto di Studio. Non è necessario alcun lavoro di integrazione separato per collegarli.
Pronto per l'azienda. Gli workspace all'interno di Studio mantengono separati team e progetti, mentre il controllo degli accessi basato sui ruoli (RBAC) assicura che queste regole siano applicate in modo coerente.
Creato per sviluppatori e team aziendali. Gli ingegneri scrivono i workflow come codice. I team aziendali li eseguono da Le Chat.
Flessibilità di deployment. Il piano di controllo viene eseguito su Mistral. I worker e l'elaborazione dei dati vengono eseguiti nel Suo ambiente, esattamente dove sono ospitati i servizi critici: cloud, on-premise o ibrido.
Dietro le quinte
Flussi di lavoro è basato sul motore di esecuzione durevole di Temporal, la stessa infrastruttura che alimenta l'orchestrazione in Netflix, Stripe e Salesforce. Lo abbiamo esteso per workload specifici dell'IA aggiungendo streaming, gestione dei payload, multi-tenancy e osservabilità che il motore principale non offre out of the box.
Il modello di deployment è suddiviso tra Mistral e il Suo ambiente e separa il piano di controllo dal piano dati. Mistral ospita l'infrastruttura di orchestrazione: cluster Temporal, API Workflows e Studio. I worker vengono distribuiti nel Suo ambiente Kubernetes tramite un Helm chart separato e si riconnettono al cluster centrale tramite credenziali sicure. I dati e la logica di business restano all'interno del Suo perimetro.
L'SDK Mistral gestisce retry policy, tracing, timeout, rate limiting e human-in-the-loop tramite decorator e configurazione su una sola riga, quindi l'unica cosa da scrivere è la logica di business stessa.
Inizia
L'SDK Python è il modo in cui gli sviluppatori scrivono ed eseguono i workflow. La v3.0 è ora disponibile pubblicamente e installabile con un solo comando:
uv add mistralai-workflows