AI Models - Configura i Provider LLM per la Generative AI in ConvyAI
Cosa sono gli AI Model
Un AI Model in ConvyAI è una connessione configurata a un provider di Large Language Model. Definisce quale engine LLM usare, le credenziali di autenticazione e come il modello deve comportarsi - inclusi i parametri di estrazione intent ed entità.
Gli AI Model sono l'infrastruttura LLM condivisa tra le funzionalità Generative AI di ConvyAI:
- Nel nodo Knowledge Base - per analizzare l'input dell'utente, classificare gli intent, estrarre entità e generare risposte ancorate alla RAG.
- Nel nodo AI Agent - per orchestrare chiamate a tool, elaborare immagini e produrre output che guidano la logica del flusso.
Provider supportati
| Provider | Modelli | Note |
|---|---|---|
| OpenAI | GPT-3.5 e superiori | Richiede API key OpenAI |
| Amazon Bedrock | Anthropic Claude (versioni multiple) | Richiede credenziali AWS |
| Google Gemini | Gemini 2.5 Pro, Flash, Flash-Lite | Richiede API key Gemini |
| Azure OpenAI | Modelli OpenAI deployati su Azure | Richiede endpoint e chiave Azure |
| Xference | Qwen 3.6, Gemma 4 3B, Gemma 4 12B | Richiede endpoint e chiave Xference; l'inferenza avviene su datacenter italiani |
| Bring your own Model | Qualsiasi modello con REST API | Integrazione HTTP REST |
Parametri opzionali
I parametri opzionali di un AI Model (come Temperature, Top P, penalty, reasoning effort e budget di extended thinking) seguono la stessa regola per ogni provider e modello:
- Un campo vuoto significa che il parametro non viene inviato e vale il default del provider.
- Qualsiasi valore inserito viene inviato al provider così com'è.
ConvyAI non disabilita, nasconde o forza alcun parametro in base al modello inserito. I nuovi AI Model partono con questi campi vuoti e un'icona informativa accanto ai campi ricorda la regola. Se un modello non accetta un parametro, il provider rifiuta la chiamata: usa la console di test per scoprirlo prima del deploy.
Le impostazioni di reasoning (reasoning effort su OpenAI e Azure OpenAI, budget di extended thinking su Amazon Bedrock) si configurano una sola volta sull'AI Model e valgono sia per i nodi Knowledge Base sia per i nodi AI Agent, sia nel FlowDesigner sia nell'Agentic Designer.
Gli AI Model creati prima della versione 7.9.0 mantengono i valori salvati e continuano a inviarli.