Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Implementazione di modelli di fondazione e di modelli ottimizzati con fine-tuning personalizzati
Sia che tu stia distribuendo modelli di base preformati a peso aperto o gated di Amazon SageMaker JumpStart o i tuoi modelli personalizzati o ottimizzati archiviati in Amazon S3 o Amazon FSx, SageMaker HyperPod fornisce l'infrastruttura flessibile e scalabile di cui hai bisogno per i carichi di lavoro di inferenza di produzione.
| Implementa modelli di base open weights e gated da JumpStart | Implementazione di modelli personalizzati e ottimizzati con fine-tuning da Amazon S3 e Amazon FSx | Implementa modelli dallo storage NVMe locale | |
|---|---|---|---|
| Descrizione |
Implementa da un catalogo completo di modelli di fondazione preaddestrati con policy di ottimizzazione e dimensionamento automatiche personalizzate per ogni famiglia di modelli. |
Crea modelli personalizzati e ottimizzati e utilizza l'infrastruttura aziendale per l'inferenza su scala SageMaker HyperPod di produzione. Scegli tra un’archiviazione conveniente con Amazon S3 o un file system ad alte prestazioni con Amazon FSx. | Carica i pesi dei modelli dallo storage NVMe locale di un nodo per eliminare la latenza di rete durante l'avvio del pod. Utile per la scalabilità automatica degli eventi, la scalabilità da zero e i failover sensibili alla latenza. |
| Vantaggi principali |
|
|
|
| Opzioni di implementazione |
|
|
|
Le sezioni seguenti illustrano la distribuzione di modelli da Amazon SageMaker JumpStart, da Amazon S3 e Amazon FSx e dallo storage NVMe locale.
Argomenti
