Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Livello 1: creazione di un'infrastruttura di dati e di calcolo affidabile per l'IA generativa

Per lo sviluppo di applicazioni di intelligenza artificiale generativa, in particolare se è necessario addestrare o perfezionare un modello di base, è fondamentale disporre di una solida base di dati e di un'infrastruttura di elaborazione. Quando le aziende intraprendono il loro percorso verso l'IA generativa, hanno bisogno di un'infrastruttura in grado di supportare l'intero ciclo di vita dell'apprendimento automatico. Devono inoltre trovare il giusto equilibrio tra prestazioni, costi ed efficienza operativa.

Un'infrastruttura di intelligenza artificiale generativa affidabile dovrebbe offrire i seguenti tre componenti chiave: l'infrastruttura di base, l'infrastruttura di archiviazione e recupero vettoriale e l'infrastruttura di elaborazione. Insieme, questi componenti offrono la flessibilità necessaria per soddisfare le esigenze di qualsiasi progetto, indipendentemente dalla sua scala, dai requisiti o dall'ambiente.

Infrastruttura di base per implementazioni basate su API

La maggior parte delle organizzazioni inizia il proprio percorso verso l'IA generativa utilizzando modelli di base preformati tramite. APIs Amazon Bedrock fornisce l'accesso senza server ai principali modelli di base tramite un'API unificata. Questo ti aiuta a sperimentare e implementare applicazioni di intelligenza artificiale generativa senza gestire infrastrutture complesse. Per queste implementazioni, è necessario quanto segue:

Infrastruttura di archiviazione e recupero vettoriale

Man mano che le tue applicazioni di intelligenza artificiale generativa matureranno, probabilmente dovrai migliorarle con conoscenze e contesti specifici del dominio. Con Retrieval Augmented Generation (RAG), il modello di base fa riferimento a una fonte di dati autorevole esterna alle sue fonti di dati di formazione, come i dati o i documenti dell'organizzazione, prima di generare una risposta. Per ulteriori informazioni, consulta Opzioni e architetture di Retrieval Augmented Generation su. AWS

Amazon Bedrock Knowledge Bases fornisce una soluzione completamente gestita per la creazione di applicazioni RAG. Ti aiuta a connettere in modo sicuro i tuoi dati aziendali con i modelli di base. Per una maggiore flessibilità, puoi utilizzare Amazon OpenSearch Service con funzionalità di ricerca vettoriale oppure puoi utilizzare Amazon Relational Database Service (Amazon RDS) per PostgreSQL con l'estensione pgvector per archiviare gli incorporamenti vettoriali.

Per operazioni vettoriali efficienti, prendi in considerazione l'utilizzo di istanze ottimizzate per il calcolo di Amazon EC2 per la generazione incorporata. Prendi in considerazione anche la possibilità di memorizzare nella cache gli incorporamenti a cui si accede di frequente utilizzando Amazon ElastiCache per ottimizzare le prestazioni e ridurre i costi.

Per ulteriori informazioni sui database vettoriali e sulla memorizzazione nella cache, consulta Cos'è un database vettoriale? e Scelta di un database AWS vettoriale per i casi d'uso di RAG.

Infrastruttura di elaborazione ad alte prestazioni per l'addestramento e la messa a punto dei modelli

Per le organizzazioni pronte a personalizzare i modelli di base, AWS offre un'infrastruttura completa per la formazione e la messa a punto dei modelli. Puoi utilizzare Amazon Simple Storage Service (Amazon S3) come storage di oggetti a basso costo, scalabile e altamente durevole per la creazione di piattaforme di dati e per l'archiviazione di dati di addestramento e modelli addestrati. Inoltre, AWS Glueè un servizio di integrazione dei dati senza server che può aiutarti a preparare i dati per l'addestramento dei modelli.

Per quanto riguarda l'infrastruttura di formazione, Amazon SageMaker AI offre un ambiente di apprendimento automatico completamente gestito con gli strumenti e i flussi di lavoro necessari per creare, addestrare e distribuire modelli. L'uso dell' SageMaker intelligenza artificiale può ridurre in modo significativo il sovraccarico operativo. Prendi in considerazione l'utilizzo di istanze di elaborazione accelerata, come le famiglie di istanze G e P. Queste famiglie di istanze forniscono l'accesso alle ultime novità GPUs di NVIDIA per la formazione e l'inferenza del machine learning. Puoi anche utilizzare AWS Trainiumun acceleratore di machine learning appositamente progettato che accelera i tempi di formazione fino al 50%, riducendo al contempo i costi.

Per progetti veramente grandi, puoi usare Amazon EC2 UltraClusters. UltraClusters sono costituite da migliaia di istanze Amazon EC2 accelerate collocate in una AWS determinata zona di disponibilità e interconnesse. UltraClusters può essere scalato fino a migliaia di acceleratori di apprendimento automatico. GPUs Offrono operazioni exa-floating point al secondo (exaflop) di capacità di elaborazione aggregata, il che riduce i tempi di formazione e può ridursi da settimane a pochi giorni. time-to-solution

Consigli per l'implementazione

Prendi in considerazione i seguenti consigli per configurare un'infrastruttura scalabile ed economica per i tuoi progetti di intelligenza artificiale generativa: