Utilizzare Amazon Nova come modello di fondazione in un agente IA - Amazon Nova

Utilizzare Amazon Nova come modello di fondazione in un agente IA

Per utilizzare i modelli Amazon Nova come modello di fondazione in un agente IA, puoi utilizzare Amazon Bedrock Agents o call a tool with the Converse API o l’API InvokeModel. Amazon Bedrock Agent è un servizio completamente gestito che puoi utilizzare per creare e configurare agenti autonomi nell’applicazione. Puoi anche utilizzare l’API Converse e l’API Invoke Model per connetterti ad altri framework di agenti pronti all’uso o creare il tuo framework di agenti.

Nei modelli di prompt di agenti, puoi utilizzare variabili placeholder. Quando viene chiamato il modello di prompt, le variabili vengono popolate da configurazioni preesistenti. Per informazioni su queste variabili placeholder, consulta la pagina Use placeholder variables in Amazon Bedrock agent prompt templates.

Utilizzare Amazon Nova con agenti Amazon Bedrock

I modelli Amazon Nova sono abilitati in Bedrock Agents e seguono le istruzioni dell’utente di Agent per Amazon Bedrock. Amazon Bedrock è preconfigurato con funzionalità e prompt principali per funzionare in modo efficace con i modelli Amazon Nova. Queste configurazioni consentono di utilizzare le funzionalità principali di Agent per Amazon Bedrock con il minimo sforzo:

  • Agenti autonomi: Agent per Amazon Bedrock consente di creare agenti autonomi che possono eseguire attività basate sull’input dell’utente e sui dati dell’organizzazione senza la necessità di scrivere codice personalizzato. In questo modo puoi risparmiare tempo e lavoro.

  • Invocazione di API integrata: Agent per Amazon Bedrock gestisce automaticamente le chiamate API per soddisfare le richieste dell’utente, semplificando così l’integrazione di servizi e origini dati esterni.

  • Gestione di memoria e contesto: gli agenti possono mantenere il contesto, la conversazione e la memoria tra più interazioni, consentendo di avere conversazioni più personalizzate e coerenti nel tempo.

  • Integrazione con Knowledge Base: puoi associare una knowledge base all’agente per migliorarne le prestazioni e la precisione, consentendogli di offrire risposte più pertinenti sulla base delle informazioni archiviate.

  • Progettazione dei prompt e personalizzazione: Agent per Amazon Bedrock supporta la progettazione dei prompt avanzata, consentendo agli sviluppatori di personalizzare il comportamento e le risposte dell’agente per adattarli meglio a casi d’uso specifici.

  • Interprete del codice: l’interpretazione del codice consente all’agente di generare, eseguire e risolvere i problemi del codice dell’applicazione in un ambiente di test sicuro.

  • Collaborazione multiagente: puoi creare, implementare e gestire più agenti IA che collaborano su attività complesse in più fasi che richiedono competenze specializzate.

Utilizzare Amazon Nova con le API Invoke e Converse

Puoi anche utilizzare Utilizzo dello strumento (chiamata delle funzioni) con Amazon Nova con le API Invoke e Converse per integrare i modelli Amazon Nova con l’open source o sviluppare framework di agenti IA personalizzati. Ciò consente di usufruire di una grande flessibilità, ma è importante notare che l’utilizzo diretto dell’API comporta la gestione di alcuni aspetti dall’implementazione o dalla libreria:

  1. Archiviazione dei dati della conversazione e dell’utente: l’API Converse non mantiene gli input o i contenuti generati dall’utente, il che significa che l’agente non può ricordare le interazioni precedenti. Devi trasmettere tutti i messaggi precedenti per ogni invocazione del modello.

  2. Invocazione automatica dello strumento: in qualità di sviluppatore, sei responsabile dell’implementazione dello strumento in base alla richiesta del modello. Ciò significa che devi eseguire o scrivere il codice responsabile dell’esecuzione delle funzionalità dello strumento e dell’elaborazione dei parametri di input forniti dal modello. Dopo aver eseguito lo strumento, devi inviare i risultati al modello in un formato strutturato.

  3. Memoria integrata: l’API non dispone di funzionalità di memoria integrate, il che significa che l’agente non può ricordare le preferenze dell’utente o le interazioni passate nel tempo, con una possibile limitazione della personalizzazione.