Bring Your Own Model - AI Model REST Personalizzato in ConvyAI
Panoramica
Bring your own Model ti consente di integrare qualsiasi motore di Generative AI che espone una REST HTTP API. Usa questa opzione quando la tua organizzazione gestisce un modello self-hosted, un servizio AI proprietario o qualsiasi LLM non supportato nativamente da ConvyAI.
Prerequisiti
- Un endpoint HTTP REST accessibile che accetta richieste di inferenza e restituisce una risposta.
- Credenziali di autenticazione per l'endpoint (se richieste).
Crea un AI Model personalizzato
Vai su Generative AI → AI Models e clicca su Nuovo Modello → Bring your own Model.
Configurazione della richiesta
Configura come ConvyAI chiama il tuo endpoint:
| Campo | Descrizione |
|---|---|
| Nome | Un nome univoco per identificare questo AI Model. |
| HTTP URL | L'URL completo dell'endpoint che riceverà le richieste di inferenza. |
| Metodo HTTP | Il metodo HTTP da usare (POST, GET, ecc.). |
| Encoding variabili | Come viene codificato il corpo della richiesta. Default: JSON. |
Di default, ConvyAI invia un payload JSON contenente:
- Input utente - il testo inviato dall'utente
- Attributi del nodo Knowledge Base - tone of voice, comandi aggiuntivi, contesto aggiuntivo, indice e intent configurati
- Entità - tutte le entità configurate nell'AI Model
- Intent threshold - il punteggio minimo di riconoscimento configurato nell'AI Model
- Parametri aggiuntivi - eventuali parametri extra configurati nell'AI Model
Puoi aggiungere anche HTTP headers e parametri aggiuntivi alla richiesta. Tutti questi campi supportano la sostituzione di variabili tramite la notazione standard %variabile%, che consente di iniettare variabili bot di ConvyAI in ogni campo.
Campi risposta personalizzati
Usa la sezione Custom Response Fields per indicare a ConvyAI come leggere la risposta restituita dal tuo motore. Di default, ogni valore viene letto da un campo con lo stesso nome - ad esempio, l'intent viene letto dal campo intent della risposta.
Per personalizzare questo comportamento, specifica il JSON path del campo per ogni valore di risposta. Ad esempio, se il tuo motore restituisce:
{
"response": {
"intent": "myIntent"
}
}
Configura il campo di risposta per l'intent come:
response.intent
Intent, entità e test
La configurazione di intent ed entità e il test del modello sono funzionalità condivise tra tutti i provider di AI Model. Consulta Intent, Entità & Test per la documentazione completa.