Definizione
Che cos’è Few-shot e come funziona?
Gli esempi aiutano a chiarire categorie, tono e struttura senza modificare il modello. Devono coprire anche casi difficili e non contenere dati impropri.
Di solito bastano da due a otto esempi, scelti in modo da coprire le categorie in proporzione equilibrata e almeno un caso di confine. Il modello tende a copiare anche dettagli non voluti, come lunghezza delle risposte o etichetta più frequente, e l’ordine degli esempi può spostare i risultati. Una tecnica efficace è selezionare dinamicamente, per ogni richiesta, gli esempi più simili da un archivio.
Esempio aziendale
Esempio di Few-shot in azienda
Il prompt mostra tre preventivi già classificati per insegnare al modello come organizzare una nuova richiesta.
Applicazioni
Quando può essere utile
- output strutturati
- classificazione
- stile aziendale
- estrazione dati
- normalizzazione di testi
Limiti
Quando fare attenzione
- esempi sbilanciati verso una sola categoria
- dati di clienti reali copiati nel prompt
- ultimo esempio che condiziona troppo la risposta
- troppi esempi che occupano il contesto
Da non confondere
Few-shot: con cosa non va confuso?
Few-shot inserisce esempi nel contesto di ogni richiesta. Il fine-tuning usa un dataset per modificare stabilmente il modello.
Dalla definizione al progetto
Cosa può realizzare Agentix con Few-shot
Quando la classificazione zero-shot non basta, Agentix costruisce con il cliente un archivio di casi risolti: email già smistate, richieste d’offerta già codificate, non conformità già classificate. Da qui il sistema pesca gli esempi da inserire nel prompt.
Per ogni nuova richiesta il software recupera i casi più simili dall’archivio e li inserisce come esempi, ripuliti dai dati personali. Gli errori corretti dagli operatori vengono aggiunti all’archivio, così il comportamento migliora senza riaddestrare il modello.
Valuta il caso d’uso con AgentixRisposte rapide
Domande frequenti su Few-shot
Quanti esempi servono in un prompt few-shot?
Da due a otto nella maggior parte dei casi. Oltre una certa soglia il miglioramento si riduce e aumentano token e tempo di risposta. Conta di più la varietà: un esempio per ogni categoria e uno per il caso che il modello sbaglia più spesso.
Few-shot o fine-tuning?
Il few-shot si modifica in minuti e non richiede addestramento, quindi conviene finché i risultati sono sufficienti. Il fine-tuning ha senso con centinaia di esempi di qualità, volumi elevati di richieste o un formato molto specifico che gli esempi nel prompt non riescono a fissare.
Dal concetto all’applicazione
Vuoi applicare Few-shot nella tua azienda?
Partiamo dal processo, dai dati disponibili e dal risultato atteso per definire un primo progetto concreto.