View a markdown version of this page

Utilizzo dei EFA-enabled file system - FSx per Lustre

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Utilizzo dei EFA-enabled file system

Se stai creando un file system con una capacità di throughput superiore a 10 GBps, ti consigliamo di abilitare Elastic Fabric Adapter (EFA) per ottimizzare il throughput per istanza client. EFA è un'interfaccia di rete ad alte prestazioni che utilizza una tecnica di bypass del sistema operativo personalizzata e il protocollo di rete AWS Scalable Reliable Datagram (SRD) per aumentare le prestazioni. Per informazioni su EFA, consulta Elastic Fabric Adapter per AI/ML carichi di lavoro HPC su Amazon EC2 nella Amazon EC2 User Guide.

EFA-enabled i file system supportano due funzionalità prestazionali aggiuntive: GPUDirect Storage (GDS) e ENA Express. Il supporto GDS si basa su EFA per migliorare ulteriormente le prestazioni abilitando il trasferimento diretto dei dati tra il file system e la memoria della GPU, bypassando la CPU. Questo percorso diretto elimina la necessità di copie di memoria ridondanti e il coinvolgimento della CPU nelle operazioni di trasferimento dei dati. Con il supporto di EFA e GDS, è possibile ottenere un throughput più elevato per le singole istanze client. EFA-enabled ENA Express fornisce comunicazioni di rete ottimizzate per le istanze Amazon EC2 utilizzando un algoritmo avanzato di selezione del percorso e un meccanismo di controllo della congestione migliorato. Con il supporto ENA Express, puoi ottenere un throughput più elevato per le singole istanze client ENA. Express-enabled Per informazioni su ENA Express, consulta Migliorare le prestazioni di rete tra le istanze EC2 con ENA Express nella Amazon EC2 User Guide.

Considerazioni sull'utilizzo dei file system EFA-enabled

Ecco alcuni elementi importanti da considerare durante la creazione di EFA-enabled file system:

  • Molteplici opzioni di connettività: i EFA-enabled file system possono comunicare con le istanze client utilizzando ENA, ENA Express ed EFA.

  • Tipo di implementazione: EFA è supportato sui file system Persistent 2 con una configurazione di metadati specificata, inclusi i file system che utilizzano la classe di archiviazione. Intelligent-Tiering

  • Aggiornamento delle impostazioni EFA: è possibile scegliere di abilitare EFA quando si crea un nuovo file system, ma non è possibile abilitare o disabilitare EFA su un file system esistente.

  • Scalabilità del throughput in base alla capacità di storage: è possibile scalare la capacità di storage su un EFA-enabled SSD-based file system per aumentare la capacità di throughput, ma non è possibile modificare il livello di throughput di un file system. EFA-enabled

  • Regioni AWS: per un elenco dei file system Regioni AWS che supportano EFA-enabled Persistent 2, vedere. Disponibilità del tipo di implementazione

Prerequisiti per l'utilizzo dei EFA-enabled file system

Di seguito sono riportati i prerequisiti per l'utilizzo dei EFA-enabled file system:

Per creare il tuo EFA-enabled file system:

  • Usa un gruppo EFA-enabled di sicurezza. Per ulteriori informazioni, consulta EFA-enabled gruppi di sicurezza.

  • Utilizza la stessa zona di disponibilità e /16 CIDR delle istanze EFA-enabled client all'interno del tuo Amazon VPC.

  • Sui Intelligent-Tiering file system, EFA è supportato solo con una capacità di throughput di 4.000 MBps o incrementi di 4.000 MBps.

Per accedere al file system utilizzando Elastic Fabric Adapter (EFA):

  • Utilizza istanze EC2 Nitro v4 (o superiore) che supportano EFA, esclusa la famiglia di istanze trn2. Consulta i tipi di istanze supportati nella Guida per l'utente di Amazon EC2.

  • Esegui AL2023, RHEL 9.5 e versioni successive o Ubuntu 22+ con versione del kernel 6.8 e successive. Per ulteriori informazioni, consulta Installazione di Lustro client.

  • Installa i moduli EFA e configura le interfacce EFA sulle istanze client. Per ulteriori informazioni, consulta Configurazione dei client EFA.

Per accedere al file system utilizzando GPUDirect Storage (GDS):

  • Usa un'istanza Amazon EC2 P5, P5e, P5en o client. P6-B200

  • Installa il pacchetto NVIDIA Compute Unified Device Architecture (CUDA), il driver NVIDIA open source e il driver di storage NVIDIA GPUDirect sull'istanza client. Per ulteriori informazioni, consulta Installa il driver GDS (opzionale).

Per accedere al file system utilizzando ENA Express:

Creazione di un file system EFA-enabled

Questa sezione contiene istruzioni su come creare un file system FSx EFA-enabled for Lustre utilizzando. AWS CLI Per informazioni su come creare un EFA-enabled file system utilizzando la console Amazon FSx, consulta. Fase 1: Creazione del file system FSx for Lustre

Utilizza il comando CLI create-file-system (o l'operazione API equivalente). CreateFileSystem L'esempio seguente crea un file system FSx EFA-enabled for Lustre PERSISTENT_2 con un tipo di distribuzione.

aws fsx create-file-system\ --storage-capacity 4800 \ --storage-type SSD \ --file-system-type LUSTRE \ --file-system-type-version 2.15 \ --subnet-ids subnet-01234567890 \ --security-group-ids sg-0123456789abcdefg \ --lustre-configuration '{"DeploymentType": "PERSISTENT_2", "EfaEnabled": true}'

Dopo aver creato correttamente il file system, Amazon FSx restituisce la descrizione del file system in formato JSON.