Generative AI in ConvyAI - Bot LLM e Orchestrazione AI Agent
Panoramica
ConvyAI integra la Generative AI direttamente nella piattaforma conversazionale attraverso due approcci complementari, entrambi costruiti sulla stessa infrastruttura di AI Models e provider LLM.
Knowledge Base - Un approccio basato su RAG in cui i bot recuperano contenuti rilevanti da una knowledge base indicizzata e li passano all'LLM per generare risposte accurate e coerenti con il brand. Ideale per casi d'uso conversazionali in cui l'accuratezza e l'ancoraggio alle fonti sono critici.
AI Agent - Un approccio orientato ai processi in cui il nodo AI Agent orchestra le interazioni tra LLM, immagini, server MCP e funzioni JavaScript personalizzate. Ideale per scenari di automazione che vanno oltre la conversazione: estrazione dati, classificazione, workflow multi-tool e decision-making complesso.
Entrambi gli approcci condividono la stessa configurazione di AI Models, che definisce il provider LLM, la versione del modello e i parametri di inferenza.
Architettura
In questa sezione
Infrastruttura condivisa
- AI Models - Configura i provider LLM usati da entrambi gli approcci.
Knowledge Base
- Knowledge Base - Comprendi la pipeline di indicizzazione RAG e la struttura della knowledge base.
- Impostazioni - Configura le credenziali API e la connessione Redis per il servizio di indicizzazione.
- Indicizzazione - Crea ed esegui batch di indicizzazione da sorgenti S3 o siti web.
- Gestione documenti - Visualizza, cerca e rimuovi i contenuti indicizzati.
- Bot Generative AI - Usa il nodo Knowledge Base nel FlowDesigner.
AI Agent
- AI Agent - Comprendi il concetto di AI Agent e quando usarlo.
- Nodo AI Agent - Configura i campi del nodo, prompt, tool e impostazioni di interazione.
- Analisi immagini - Allega e analizza immagini all'interno del prompt dell'agente.
- Server MCP - Connetti tool e servizi esterni tramite Model Context Protocol.
- Funzioni callable - Definisci funzioni JavaScript personalizzate che l'AI può invocare durante l'esecuzione.