Vai al contenuto

Tecnologie: ricerca con RAG

Le risposte sono già nei tuoi documenti. Il RAG le trova e cita la fonte.

Procedure, manuali, schede prodotto, contratti: le risposte ci sono, ma le sa trovare una persona sola, e ogni domanda passa da lei. Con il RAG chi chiede riceve una risposta scritta a partire dai tuoi documenti, con il punto esatto da cui viene.

  • RAG
  • Ricerca per significato
  • Modelli aperti in locale
  • Fonti citate

In breve

Serve per
Rispondere a domande su procedure, manuali e documenti interni
Non serve per
I processi con regole fisse, come controllare una fattura
Dove gira
Sui tuoi server, con modelli aperti: i documenti non escono
Come si parte
Da una prova su un gruppo di documenti e domande vere

Come funziona

Dalla domanda alla risposta, con la fonte.

Esempio: la domanda del commerciale, la ricerca nei documenti che può vedere, la risposta e il punto esatto del manuale da cui viene.

Una scena che si ripete

Una persona sa dove sono le cose. Tutti chiedono a lei.

  1. Lunedì, 9:14

    Un commerciale è al telefono con un cliente. Il ricambio che sta vendendo si monta anche sul modello C? La risposta esiste: è a pagina 42 del manuale tecnico, 86 pagine aggiornate sei mesi fa.

  2. Lunedì, 9:16

    Scrive al responsabile tecnico, che è in riunione fino alle undici.

  3. Lunedì, 11:40

    Il responsabile apre la cartella condivisa, trova la versione giusta del manuale, cerca il paragrafo e risponde. Il cliente aspetta da più di due ore.

  4. Mercoledì, 15:02

    Un altro collega, la stessa domanda. Si ricomincia.

Il problema non è che l’informazione manca. È che per trovarla serve sempre la stessa persona, e quando è in ferie le risposte si fermano.

Prima e dopo

La stessa domanda, due strade.

Oggi

  1. Il commerciale ha una domanda
  2. Scrive al responsabile tecnico
  3. Il responsabile cerca nella cartella condivisa
  4. Apre il manuale e trova il paragrafo
  5. Risponde, quando si libera

Più di due ore di attesa, e il responsabile interrotto un’altra volta.

Con il RAG

  1. Il commerciale scrive la domanda
  2. Il sistema cerca nei documenti che lui può vedere
  3. Trova i passaggi che rispondono e scrive la risposta

Questo ricambio si monta sul modello C?

Sì, sul modello C è compatibile con l’adattatore standard (cod. AC‑102).

Manuale tecnico v3, pag. 42

Pochi secondi, e il responsabile resta sul suo lavoro.

Nel dettaglio

Il RAG in quattro passi.

RAG vuol dire recupero più generazione: prima si trovano i passaggi giusti, poi si scrive la risposta usando solo quelli.

  1. 01

    Preparare i documenti

    Procedure, manuali e schede vengono divisi in passaggi brevi e indicizzati, così si possono cercare per significato e non solo per parola.

  2. 02

    Trovare i passaggi giusti

    La domanda viene confrontata con l’indice, e il sistema recupera i pochi passaggi che rispondono davvero.

  3. 03

    Scrivere la risposta

    Un modello linguistico scrive la risposta usando solo quei passaggi, e indica da quale documento vengono.

  4. 04

    Dire quando non lo sa

    Se la risposta non è nei documenti, il sistema lo dice, invece di inventarla.

RAG o ricerca normale?

La ricerca normale trova i documenti che contengono una parola. Il RAG risponde alla domanda.

Ricerca normale

procedura reso

  • Procedura resi Italia.pdf
  • Resi e garanzie, versione 2023.docx
  • Verbale riunione logistica, marzo.pdf

Trovi tre documenti. Poi li devi aprire, leggere e capire quale vale ancora.

Ricerca con RAG

Un cliente austriaco vuole rendere un articolo dopo 20 giorni. Si può?

Sì, entro 30 giorni, se l’articolo è integro e nell’imballo originale. Per l’estero il ritiro è a carico del cliente.

Procedura resi estero, par. 3.2

Ricevi la risposta, con il punto del documento da cui viene.

Quando conviene

Conviene quando le stesse domande tornano ogni settimana.

Ha senso se

  • Hai molti documenti interni: procedure, manuali, schede, contratti
  • Le stesse domande tornano ogni settimana
  • Le risposte esistono già, scritte da qualche parte
  • Oggi le sa trovare una persona sola

Non serve se

  • Il processo ha regole fisse: lì servono le regole
  • I dati stanno in un gestionale o in un database
  • I documenti sono vecchi o si contraddicono: prima vanno messi in ordine

Se il problema è un altro, serve un altro strumento.

Dal più semplice al più complesso: prima si prova lo strumento più semplice che risolve il problema.

  1. Devi controllare che i numeri tornino

    Il prezzo in fattura è quello del listino? La tariffa è quella del contratto?

    Regole e confronto automaticoFatture, ordini e listini confrontati riga per riga
  2. Due programmi devono scambiarsi i dati

    L’ordine del sito deve arrivare nel gestionale, e la giacenza deve tornare sul sito.

    API, webhook e connettoriProgrammi diversi che si scambiano i dati
  3. Devi estrarre gli stessi dati da tanti documenti

    Numero, data, righe e totale da 300 fatture PDF al mese.

    OCR ed estrazione datiFatture e documenti letti in automatico
  4. Devi rispondere a domande che stanno nei documenti

    Questo ricambio si monta su quel modello? Come si gestisce questo reso?

    Ricerca con RAGQuesta pagina
  5. Devi rispondere a domande sui dati di più programmi

    Dov’è l’ordine del cliente Rossi? Quali ordini sono fermi per mancanza di merce?

    MCP e assistenti AIUn assistente AI che usa i tuoi programmi

Un esempio con i numeri

Venti domande al giorno a chi sa.

Numeri di riferimento, da rifare con i tuoi.

2 ore

al giorno

5 persone, 4 domande al giorno ciascuna, 6 minuti per cercare e rispondere.

Oltre 40 ore

al mese, di una sola persona

Su 21 giorni lavorativi: il tempo di chi sa dove sono le cose, tolto al suo lavoro.

Con la fonte

ogni risposta

Chi chiede vede anche il punto del documento, e lo controlla in un clic.

I limiti

Cosa sapere prima di partire.

Può sbagliare

Per questo ogni risposta cita i passaggi da cui viene, e si controlla in un clic.

Ripete i documenti

Se una procedura è vecchia, la risposta sarà vecchia. Le fonti vanno tenute in ordine.

Chi vede cosa

Chi non può leggere un documento non deve ricevere risposte che lo usano. I permessi seguono i documenti.

Serve un server adatto

I modelli aperti girano anche in locale, ma servono memoria e potenza in base a documenti e utenti.

Domande frequenti

Le domande su questo tema.

Che differenza c’è con un chatbot come ChatGPT?

Un chatbot generico risponde con quello che ha imparato in generale, e non conosce le tue procedure. Il RAG risponde solo a partire dai tuoi documenti, mostra il passaggio da cui viene la risposta e dice quando la risposta non c’è.

I documenti finiscono su ChatGPT o su altri servizi esterni?

Non per forza. Il sistema può girare sui tuoi server con modelli aperti, e i documenti restano in azienda.

Può inventare le risposte?

Il rischio c’è con qualsiasi modello linguistico. Per questo il sistema risponde solo dai passaggi recuperati, cita la fonte e dice quando non trova la risposta.

Che documenti si possono usare?

PDF, documenti Word, manuali, schede prodotto, email esportate. I documenti scansionati prima passano dall’OCR.

Quanto serve per partire?

Una prova su un gruppo ridotto di documenti e di domande vere. Si misura quante risposte sono giuste prima di estendere a tutto.

Serve comprare hardware?

Dipende da quanti documenti e quanti utenti. Si decide dopo la prova, con numeri veri, non prima.

Partiamo dal problema

Hai procedure e manuali che nessuno trova?

Descrivici i documenti e le domande che arrivano più spesso. Ti diciamo se il RAG è la strada giusta, o se basta altro.

  • La prima verifica è gratuita e non impegna
  • Leggiamo ogni messaggio, nessun call center
  • Prezzo fisso, paghi a fasi
  • Italiano e inglese, fattura elettronica
  • Nessuna telefonata se non la vuoi
  • Se non conviene fare niente, te lo diciamo

Preferisci scrivere direttamente? [email protected]

Niente newsletter, niente chiamate non richieste. Risposta diretta dal developer, entro un giorno lavorativo.