Presentazione di Search Toolkit

Oggi rilasciamo Search Toolkit in anteprima pubblica. Search Toolkit è un framework componibile per creare pipeline di ricerca di produzione per applicazioni di AI. Lo abbiamo creato perché i team che sviluppano infrastrutture di ricerca dedicano ancora troppo tempo di engineering alle integrazioni di base. La maggior parte combina strumenti separati per ingestion, retrieval e valutazione, ciascuno con la propria interfaccia e le proprie assunzioni sui dati. Search Toolkit riunisce tutti e tre in un unico framework con un’interfaccia condivisa, così i team possono dedicare il proprio tempo a migliorare la qualità della ricerca invece che a mantenere integrazioni. Search Toolkit è open source e funziona ovunque operi la Sua infrastruttura. Cloud, on-premises, edge.

L’infrastruttura di ricerca è ancora più complessa di quanto dovrebbe essere.

La maggior parte dei team che costruiscono sistemi di retrieval passa più tempo ad assemblare l’infrastruttura che a migliorare la qualità della ricerca. L’ingestion richiede un set di strumenti. Il retrieval ne richiede un altro. La valutazione, quando avviene, viene aggiunta con un framework separato e assunzioni separate sulla struttura dei dati.

I team segnalano settimane di lavoro di integrazione prima di poter eseguire una singola query sui propri dati. Misurare se il retriever restituisce i risultati corretti spesso richiede un’ulteriore toolchain. Per le organizzazioni che costruiscono workflow RAG o sistemi di conoscenza interni, questo overhead si moltiplica a ogni livello.

Dove si inserisce.

Ricerca enterprise. La maggior parte delle organizzazioni non ha un problema di ricerca. Ne ha una dozzina. Wiki interni, sistemi di ticket di supporto, repository documentali, archiviazione di file, codebase. Ogni fonte ha una struttura diversa, metadati diversi e richiede un’elaborazione diversa per essere indicizzata correttamente. Di solito i team finiscono per costruire una pipeline di ingestion separata per ciascuna, con la propria logica di parsing, la propria strategia di chunking e le proprie assunzioni su come debba apparire un "documento". Il risultato è un insieme di indici isolati che non possono essere cercati insieme, oppure un fragile livello custom che tenta di unificarli e diventa a sua volta un onere di manutenzione. Search Toolkit offre pattern coerenti di elaborazione e indicizzazione per diversi tipi di fonti all’interno di un unico framework, così i team possono aggiungere nuove fonti senza ricostruire ogni volta la pipeline.

RAG e qualità del retrieval. Quando un sistema RAG restituisce risultati scadenti, la prima domanda è se il problema sia nel retrieval o nella generazione. In pratica, la maggior parte dei team non ha un modo chiaro per rispondere. Modificano prompt, regolano strategie di chunking e sostituiscono modelli senza sapere se il retriever stia esponendo innanzitutto il contesto corretto. Anche i team che si concentrano sul retrieval spesso non dispongono degli strumenti per confrontare le strategie in modo rigoroso, sui propri dati, con i propri giudizi di rilevanza. L’alternativa è scrivere script di valutazione custom per ogni esperimento. Search Toolkit include una valutazione integrata che misura le prestazioni del retriever in modo indipendente, così è possibile isolare la qualità del retrieval dalla qualità della generazione e confrontare le configurazioni man mano che il corpus evolve.

Retrieval specifico per dominio. Depositi legali, cartelle cliniche, codebase, comunicazioni finanziarie. I retriever pronti all’uso sono addestrati su testi general-purpose e tendono a incontrare difficoltà con terminologia specialistica, strutture documentali e criteri di rilevanza diversi dalla ricerca web. I team che necessitano di retrieval adattato al dominio spesso finiscono per costruire da zero un’infrastruttura di retrieval custom, costosa da mantenere e difficile da valutare. 

La ricerca in un mondo agentico

Gli agenti che lavorano su attività enterprise hanno bisogno di accedere al contesto enterprise. Prendono decisioni di retrieval in autonomia e ad alto volume, quindi la qualità dell’infrastruttura di ricerca sottostante incide direttamente su ogni passaggio successivo. Per cercare in grandi corpora documentali, gli agenti eseguono ricerca semantica su un indice, ottenendo risultati precisi a bassa latenza.

Gli agenti hanno bisogno anche di dati live. Con Connettori, estraggono direttamente dai sistemi sorgente come CRM, repository di codice e strumenti di produttività tramite integrazioni MCP. Un agente può interrogare un corpus indicizzato quando deve cercare in un ampio insieme di contenuti, ed estrarre dati live da un sistema sorgente quando ha bisogno dello stato più recente. Search Toolkit offre ai Suoi agenti un percorso di ricerca indicizzata di alta qualità da utilizzare insieme al retrieval live.

Cosa contiene.

Ingestion. Indicizzi ed elabori dati da più fonti con pipeline configurabili. Search Toolkit gestisce parsing dei documenti, chunking e generazione di embedding. Formati di documento custom e passaggi di preprocessing si collegano tramite un’interfaccia adapter standard.

Retrieval. Search Toolkit include retrieval sparse BM25, retrieval dense basato su embedding e configurazioni ibride che combinano entrambi. Ciascuno è configurabile in base ai Suoi dati e al Suo caso d’uso.

Valutazione. Misuri la qualità della ricerca con metriche integrate: recall, precision, MRR e NDCG. Esegua valutazioni sui Suoi set di test, confronti affiancati le configurazioni del retriever e monitori la qualità tra le release.

Tutti i moduli condividono un’interfaccia di configurazione comune. Sostituisca l’indexer, cambi il retriever, aggiunga un evaluator. Il resto della pipeline si adatta.

Search Toolkit è stato progettato per casi d’uso avanzati in ambito enterprise ed è stato testato sul campo nei settori servizi finanziari, manifatturiero, settore pubblico e media & entertainment. CMA CGM utilizza Search Toolkit insieme a Voxtral per aiutare i giornalisti a rilevare le fake news. La pipeline elabora audio proveniente da tre fonti dati distinte e restituisce alert entro 15 secondi end-to-end.

Guardi la demo

Iniziare.

Il modo più rapido per provare Search Toolkit è usare il nostro template di starter app.

Prerequisiti

Installi Docker. È necessario anche uv nel progetto generato.

Crei la struttura di un nuovo progetto

uvx copier copy gh:mistralai/search-starter-app my-search-project
cd my-search-project

Eseguirlo

# Start Vespa locally with Docker
make setup-vespa
# Index sample data
make ingest path=sample_data/hello.txt
# Run a query
make search query="hello world"

Il template include:

• Indicizzazione Vespa preconfigurata

• Retrieval ibrido (BM25 + vettoriale)

• Dati di esempio e pipeline di ingestion

Per tutti i dettagli, consulti il README della starter app.

Prossimi passi

Dopo aver provato la starter app, approfondisca:

• Ottimizzi la Sua pipeline di ingestion – Configuri parser, strategie di chunking, modelli di embedding ed extractor per tipi di file specifici, così da gestire le Sue fonti dati.

• Gestisca schema e rilevanza di Vespa – Ottimizzi indicizzazione e profili di ranking per il Suo caso d’uso.

• Costruisca il retrieval ideale – Sfrutti funzionalità avanzate come riscrittura delle query con LLM, reranking e retrieval ibrido.

Per il riferimento completo, consulti la documentazione di Search Toolkit.