Configurazione AI Model Amazon Bedrock in ConvyAI - Anthropic Claude
Panoramica
Amazon Bedrock è un servizio AWS completamente gestito che fornisce accesso ai modelli fondazionali dei principali provider AI tramite API - inclusa la famiglia Claude di Anthropic. ConvyAI si integra con Bedrock per usare i modelli Claude per la classificazione degli intent, l'estrazione di entità e le risposte generative.
Prerequisiti
- Credenziali AWS (access key + secret key) con permessi Bedrock.
- Credenziali configurate in Impostazioni Generative AI.
Crea un AI Model Bedrock
Vai su Generative AI → AI Models e clicca su Nuovo Modello → Bedrock.
Opzioni di configurazione
| Campo | Descrizione |
|---|---|
| Nome | Un nome univoco per identificare questo AI Model. |
| Access Key | Chiave di accesso AWS con permessi Bedrock. |
| Secret Key | Chiave segreta AWS. |
| Region | Regione AWS dove Bedrock è disponibile (es. us-east-1). |
Parametri avanzati
| Parametro | Default | Descrizione |
|---|---|---|
| Completion model | - | Il modello Anthropic Claude da invocare, in un campo a testo libero. Inserisci l'identificativo del modello così come esposto da Amazon Bedrock. ConvyAI non verifica che il modello esista o sia abilitato sul tuo account AWS. |
| Prompt version | v3 | Versione del prompt di sistema applicata durante l'utilizzo del modello nei nodi Knowledge Base. |
| Embedding model | cohere.embed-multilingual-v3 | Il modello usato per l'embedding durante l'indicizzazione e il retrieval della Knowledge Base. |
| Max token completion | 1000 | Numero massimo di token nella risposta generata. |
| Temperature | - | Controlla la casualità degli output. Valori più bassi producono risposte più deterministiche. |
| Top P | - | Parametro di nucleus sampling. Limita la selezione dei token alla massa di probabilità più alta. |
| Top K | 250 | Limita la selezione dei token ai top-K più probabili ad ogni step di generazione. |
| Extended thinking budget | - | Il budget di token per l'extended thinking, come numero intero. Lascia vuoto per usare il default del provider, inserisci 0 per disattivare il reasoning oppure -1 per lasciarlo dinamico. Il valore vale sia per i nodi Knowledge Base sia per i nodi AI Agent, quindi lo configuri una sola volta. |
| Number of extracted chunks | 3 | Quanti chunk della Knowledge Base vengono recuperati e passati al modello come contesto durante la RAG. |
I parametri opzionali nascono vuoti sui nuovi AI Model. Un campo vuoto significa che il parametro non viene inviato e vale il default del provider; qualsiasi valore inserito viene inviato così com'è, 0 compreso. Vedi Parametri opzionali.
ConvyAI non disabilita né limita alcun parametro in base al modello inserito. Se il modello non supporta un parametro che hai impostato (ad esempio Temperature o Top P su alcuni modelli Claude, oppure l'extended thinking), Amazon Bedrock rifiuta la chiamata. Usa la console di test per verificare la configurazione prima del deploy. Il ragionamento del modello non compare mai nella risposta restituita all'utente finale.
Intent, entità e test
La configurazione di intent ed entità e il test del modello sono funzionalità condivise tra tutti i provider di AI Model. Consulta Intent, Entità & Test per la documentazione completa.