Definizione
Che cos’è Reranking e come funziona?
Viene applicato dopo una prima ricerca più ampia. Può migliorare il contesto inviato al modello ma aggiunge costo e latenza.
La prima ricerca usa modelli bi-encoder, che confrontano vettori calcolati in anticipo ed è veloce anche su milioni di passaggi. Il reranker è di solito un cross-encoder: legge domanda e passaggio insieme e assegna un punteggio di pertinenza più preciso, ma va eseguito per ogni coppia. Per questo si applica a poche decine di candidati, ad esempio 50, per tenerne 5-10.
Esempio aziendale
Esempio di Reranking in azienda
Tra cinquanta sezioni trovate, il reranker seleziona le cinque più pertinenti alla specifica anomalia tecnica.
Applicazioni
Quando può essere utile
- RAG
- motori di ricerca
- cataloghi
- supporto clienti
- ricerca normativa
Limiti
Quando fare attenzione
- troppi candidati che allungano la latenza
- reranker addestrato solo su testi in inglese
- nessun confronto con e senza reranking
- passaggio giusto escluso già dalla prima ricerca
Da non confondere
Reranking: con cosa non va confuso?
Il recupero trova candidati. Il reranking decide il loro ordine con una valutazione più accurata.
Dalla definizione al progetto
Cosa può realizzare Agentix con Reranking
Su un assistente RAG già funzionante, Agentix mette a punto la catena di recupero sui documenti del cliente: costruisce un set di domande reali con il passaggio corretto, misura dove la prima ricerca lo colloca e verifica se un reranker lo porta davvero in cima.
Vengono provati reranker multilingue eseguibili anche su server privato, con diversi numeri di candidati, finché qualità e tempi di risposta sono accettabili per gli utenti. Il test set resta al cliente e viene rieseguito a ogni cambio di modello, chunking o documenti.
Integra dati, software e AIRisposte rapide
Domande frequenti su Reranking
Il reranking migliora sempre il RAG?
Non sempre. Se la prima ricerca non recupera il passaggio corretto, il reranker non può recuperarlo. Aiuta quando il passaggio giusto c’è ma finisce in posizione bassa, e va verificato con un set di domande reali prima di tenerlo in produzione.
Come si misura se il reranker funziona?
Con domande di cui si conosce il passaggio corretto si calcolano metriche come recall@5, cioè quante volte compare nei primi cinque, e MRR o nDCG, che premiano la posizione alta. Si confrontano i valori con e senza reranker, insieme ai millisecondi aggiunti.
Dal concetto all’applicazione
Vuoi applicare Reranking nella tua azienda?
Partiamo dal processo, dai dati disponibili e dal risultato atteso per definire un primo progetto concreto.