Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Configurazione delle istruzioni
La procedura guidata del dashboard di distribuzione prevede una procedura di configurazione rapida che consente di personalizzare l'esperienza di richiesta e il modello che guiderà le interazioni tra gli utenti e il modello di intelligenza artificiale. La corretta configurazione di queste impostazioni è fondamentale per ottenere risposte accurate e pertinenti dall'assistente AI.
Questa sezione controlla l'esperienza e il comportamento complessivi del prompt AI.
-
Lunghezza massima del modello di prompt: questa impostazione determina la lunghezza massima (in caratteri) del modello di prompt. Un valore più alto consente di fornire un contesto più ampio al modello di intelligenza artificiale, portando potenzialmente a risposte più accurate. Tuttavia, istruzioni eccessivamente lunghe possono anche causare rumore e influire negativamente sulle prestazioni. Per i modelli Amazon Bedrock, i valori predefiniti per la lunghezza massima del modello di prompt (in caratteri) vengono calcolati utilizzando i limiti del token del modello sottostante. Se modifichi e modifichi il nome di un modello all'interno di Bedrock, il pulsante «Ripristina impostazioni predefinite» viene evidenziato e può essere utilizzato per adottare le impostazioni predefinite del modello appena selezionato. Per i modelli Amazon SageMaker AI, vengono forniti valori predefiniti ragionevoli, ma si consiglia di controllare il modello sottostante e scegliere di conseguenza la lunghezza massima del modello di prompt e le lunghezze del testo di input. Per ulteriori informazioni, consulta la sezione Suggerimenti sulla gestione dei limiti dei token del modello.
-
Lunghezza massima del testo di input: questa impostazione limita la lunghezza massima (in caratteri) del testo di input dell'utente. Gli input più lunghi possono contenere informazioni irrilevanti, aumentando il rischio di ottenere risposte irrilevanti o imprecise dal modello di intelligenza artificiale.
-
Modifica dei prompt degli utenti: questa opzione consente di abilitare o disabilitare la possibilità per gli utenti di modificare il modello di prompt tramite l'interfaccia utente della chat. La disabilitazione di questa funzionalità può aiutare a mantenere la coerenza e prevenire modifiche involontarie al prompt.
Modello di prompt
Questa sezione consente di definire il modello di prompt effettivo che verrà utilizzato dal modello AI. Il modello di prompt segue in genere una struttura che include segnaposto per vari componenti, come l'input dell'utente, i passaggi di riferimento e la cronologia chat.
-
Modello di prompt: questa è l'area di testo principale in cui è possibile scrivere o incollare il modello di prompt desiderato. Il modello deve essere creato per fornire il contesto e le istruzioni necessari al modello di intelligenza artificiale. In genere include i seguenti segnaposto:
-
{input}: Questo segnaposto è obbligatorio per le implementazioni di intelligenza artificiale di Sagemaker e verrà sostituito con l'input o la query dell'utente. -
{history}: Questo segnaposto è obbligatorio per le implementazioni di Sagemaker AI e verrà sostituito dalla cronologia chat della conversazione corrente. -
{context}: Questo segnaposto è obbligatorio per le implementazioni RAG e verrà sostituito con gli estratti del documento ottenuti dalla knowledge base configurata.
-
-
Riformulare la domanda? : Questa opzione (disponibile solo per le implementazioni RAG) determina se la query di input originale dell'utente deve essere riformulata o disambiguata prima di essere passata al modello di intelligenza artificiale. La riformulazione della query a volte può aiutare il modello a comprendere meglio l'intento dell'utente, portando potenzialmente a risposte più accurate.
Quando si configurano il modello di prompt e l'esperienza, è essenziale trovare un equilibrio tra fornire contesto e istruzioni sufficienti al modello di intelligenza artificiale ed evitare informazioni eccessivamente lunghe o irrilevanti che potrebbero introdurre problemi di rumore o prestazioni.
Impostazioni avanzate dei prompt
Questa sezione consente di controllare il modo in cui la cronologia delle conversazioni viene presentata al modello di intelligenza artificiale.
-
Dimensione della cronologia finale: questa impostazione determina il numero di messaggi precedenti da includere nel prompt finale. L'impostazione di questo valore su zero comporterebbe l'immissione della cronologia né nel modello di prompt né nel modello di prompt di disambiguazione. Nota: anche se impostato su zero, è comunque necessario che nei modelli di prompt sia presente un segnaposto {history}. In fase di esecuzione, verrà sostituita con una stringa vuota.
-
Nota: si consiglia di fornire un numero pari per questo valore. L'immissione di un numero dispari comporterebbe la restituzione solo della risposta AI di un'interazione accoppiata.
-
-
Prefisso umano: questo è il prefisso utilizzato per identificare i messaggi inviati dall'utente nella cronologia delle conversazioni.
-
Prefisso AI: questo è il prefisso utilizzato per identificare i messaggi restituiti dal modello AI nella cronologia delle conversazioni.
Configurazione del prompt di disambiguazione
Questa sezione consente di configurare il comportamento e il modello per disambiguare gli input degli utenti prima di inviarli alla knowledge base configurata.
-
Abilita la disambiguazione: questa opzione determina se gli input dell'utente devono essere disambiguati prima di inviarli alla knowledge base.
-
Modello di richiesta di disambiguazione: questo è il modello di richiesta utilizzato per chiarire gli input dell'utente quando si è connessi a una knowledge base. L'output generato da questo prompt verrà utilizzato come interrogazione inviata alla knowledge base. La disabilitazione della disambiguazione comporterebbe l'invio invariato della query non elaborata dell'utente alla knowledge base.
Ad esempio, con la disambiguazione abilitata, una domanda utente successiva del tipo «Quanto costa?» potrebbe essere disambiguato in «Quanto costa rinnovare la mia targa?» , portando a una query di ricerca migliore.
