Knowledge Base - Architettura RAG e Pipeline di Indicizzazione in ConvyAI
Cos'è la Knowledge Base
La Knowledge Base è il livello di contenuto che contestualizza le risposte Generative AI in ConvyAI. Invece di affidarsi ai dati generici di training del modello, indicizzi i tuoi documenti e le tue pagine web. La piattaforma utilizza poi quel contenuto indicizzato per ancorare ogni risposta LLM a informazioni verificate e allineate al brand.
Questo approccio - noto come Retrieval Augmented Generation (RAG) - combina la fluidità linguistica dei large language model con la precisione di una fonte di contenuti curata.
L'accesso alle funzionalità della Knowledge Base richiede l'attivazione. Contatta il team Sales di ConvyAI per abilitare questa funzionalità per il tuo account.
Come funziona
Fase di indicizzazione
Prima che un bot possa attingere alla Knowledge Base, il contenuto deve essere indicizzato:
- Estrazione del contenuto - Il testo viene estratto da documenti (PDF, DOC) archiviati in un bucket AWS S3, o da pagine web tramite crawler.
- Chunking - Il testo estratto viene suddiviso in chunk più piccoli. La dimensione del chunk è configurabile.
- Generazione degli embedding - Ogni chunk viene convertito in un vector embedding - una rappresentazione numerica che cattura il significato semantico del testo.
- Storage vettoriale - Gli embedding vengono memorizzati in un database vettoriale (Redis) insieme ai chunk di testo originali.
Il diagramma seguente mostra come i contenuti fluiscono dalla sorgente al database vettoriale durante la fase di indicizzazione:
Fase di retrieval
Quando un cliente invia un messaggio al bot:
- L'input dell'utente viene convertito in un vector embedding usando lo stesso modello di embedding usato durante l'indicizzazione.
- Una ricerca per similarità confronta l'embedding dell'input con tutti i vettori memorizzati.
- I chunk semanticamente più rilevanti vengono recuperati.
- I chunk recuperati vengono passati all'LLM come contesto, insieme al messaggio dell'utente e a eventuali istruzioni configurate.
- L'LLM genera una risposta ancorata al contenuto recuperato.
Il diagramma seguente mostra come il messaggio dell'utente percorre la pipeline di retrieval per produrre una risposta contestualizzata:
Struttura degli indici
ConvyAI supporta due strategie di indicizzazione:
| Strategia | Descrizione | Quando usarla |
|---|---|---|
| Indice singolo | Tutti i contenuti vengono indicizzati sotto un unico nome. I bot attingono da un unico dominio di conoscenza unificato. | Casi d'uso semplici con una knowledge base omogenea. |
| Indici multipli | I contenuti sono organizzati sotto nomi di indice diversi (es. per linea di prodotto, argomento o lingua). Ogni nodo bot può specificare quale indice interrogare. | Quando è necessario limitare le risposte a un dominio di conoscenza specifico. |
Argomenti correlati
- Impostazioni - Configura le credenziali API e la connessione al database vettoriale.
- Indicizzazione - Crea ed esegui batch di indicizzazione.
- Bot Generative AI - Usa l'indice della Knowledge Base nel Flow Designer.