Benutzer auf einem Slurm-Cluster erstellen auf SageMaker HyperPod

Stellen Sie eine Verbindung zum Controller-Knoten her und laden Sie das Skript herunter. Stellen Sie sicher, dass Sie es mit Sudo-Berechtigungen ausführen.

$ curl -O https://raw.githubusercontent.com/awslabs/awsome-distributed-training/main/1.architectures/5.sagemaker-hyperpod/LifecycleScripts/base-config/utils/create_users.sh
chmod +x create_users.sh

Führen Sie das Skript in einem seiner drei Modi aus, den es nach Priorität aus den übergebenen Argumenten und den Dateien im aktuellen Verzeichnis auswählt: zuerst Befehlszeilenargumente, dann eine Benutzerdatei, dann interaktive Eingabeaufforderungen. Jeder Modus läuft in derselben Reihenfolge ab: Erstellen Sie die Benutzer auf dem aktuellen Knoten, richten Sie SSH-Schlüsselpaare auf dem gemeinsam genutzten Dateisystem ein, erstellen Sie die Benutzer auf allen verbleibenden Knoten (Rechenknoten parallel), registrieren Sie sie bei der Slurm-Buchhaltung auf dem Controller, hängen Sie sie an und bieten Sie anshared_users.txt, diese Datei auf Amazon S3 hochzuladen.

Die drei Modi werden in den folgenden Beispielen beschrieben, wobei jeweils zwei Benutzer (und) hinzugefügt werden. user1 user2

Befehlszeilenmodus

Übergeben Sie die Benutzernamen als Argumente. Das Skript weist automatisch UIDs zu und fragt, ob die neuen Benutzer Sudoers sein sollen. Dies ist der schnellste Weg, Benutzer hinzuzufügen.

$ sudo ./create_users.sh user1 user2

Das Skript validiert die Benutzernamen und fordert dann zum Zugriff auf Sudoer auf:

========================================
 Step 1: User Configuration
========================================
  Users from CLI args: user1 user2
    ✓ user1 — will be created (auto-assign UID)
    ✓ user2 — will be created (auto-assign UID)
  Make these user(s) sudoer(s)? (y/N): n

Es erstellt dann die Benutzer auf dem aktuellen Knoten, richtet SSH-Schlüsselpaare ein, erstellt sie auf den Rechenknoten, registriert sie beim Slurm-Konto auf dem Controller und schreibt, sodass Sie am Ende aufgefordert werdenshared_users.txt, diese Datei auf Amazon S3 hochzuladen.

Dateimodus

Erstellen Sie eine Benutzerdatei im selben Verzeichnis wie das Skript und führen Sie das Skript dann ohne Argumente aus. Das Skript liest die Benutzerdefinitionen, validiert sie (es werden nur Benutzer erstellt, die noch nicht existieren, und UID-Konflikte werden übersprungen) und erstellt die Benutzer auf allen Knoten. Das Skript akzeptiert zwei Dateiformate.

Verwenden Sie zum shared_users.txt Beispiel eine CSV-Datei mit einem Benutzer pro Zeile im folgenden Formatusername,uid,home_directory:

user1,2001,/fsx/user1
user2,2002,/fsx/user2

Verwenden Sie alternativ eine YAML-Datei mit einer einfachen Benutzerliste oder Benutzern, die in Gruppen organisiert sind. shared_users.yaml Für die Analyse dieses Formats ist PyYAML auf dem Knoten erforderlich. Das Folgende ist das einfache Listenformat:

users:
  - username: user1
    uid: 2001
  - username: user2
    uid: 2002

Wenn beide Dateien vorhanden sind, hat shared_users.txt Vorrang. Führen Sie das Skript ohne Argumente aus:

$ sudo ./create_users.sh

Das Skript validiert die Dateieinträge, bestätigt die Erstellung, fordert zum Zugriff auf Sudoer auf und bietet an, Benutzer hinzuzufügen, die nicht in der Datei enthalten sind. Dann erstellt es user1 und user2 auf allen Knoten mit den UIDs aus der Datei (2001 und 2002), richtet SSH-Schlüsselpaare ein, registriert sie bei Slurm Accounting und aktualisiert sie. shared_users.txt

interaktiver Modus

Führt das Skript ohne Argumente und ohne Benutzerdatei aus. Das Skript fordert Sie auf, die Benutzernamen und optional die zuzuweisenden UIDs einzugeben:

$ sudo ./create_users.sh

========================================
 Step 1: User Configuration
========================================
  No shared_users.txt or shared_users.yaml found.
  Entering interactive mode...

  Enter username(s), comma-separated (e.g. 'sean' or 'sean,alice,bob'): user1,user2
  Specify UIDs? (Enter for auto-assign, or comma-separated UIDs): 2001,2002
  Make these user(s) sudoer(s)? (y/N): n

Nachdem Sie die Eingabeaufforderungen beantwortet haben, erstellt user1 das Skript user2 auf allen Knoten die von Ihnen eingegebenen UIDs, richtet SSH-Schlüsselpaare ein, registriert sie bei Slurm Accounting und aktualisiert sie. shared_users.txt

Testen Sie einen Benutzer, indem Sie zu ihm wechseln und einen Befehl im gesamten Cluster ausführen.

$ sudo su - user1 && ssh $(srun hostname)

Kopieren Sie die entsprechende Beispieldatei in das add-users Verzeichnis und bearbeiten Sie sie mit Ihren Benutzern:

$ cp shared_users_sample.yaml shared_users.yaml

Laden Sie das add-users Verzeichnis in Ihren Amazon S3-Bucket für Lifecycle-Skripts hoch (der Bucket-Pfad muss mit beginnens3://sagemaker-):

$ aws s3 cp add-users/ s3://DOC-EXAMPLE-BUCKET/add-users/ --recursive

Geben Sie die Erweiterung im LifeCycleConfig Block Ihrer CreateCluster Anfrage an und verwenden Sie add_users.sh als OnInitComplete Skript:

"LifeCycleConfig": {
    "OnInitComplete": "add_users.sh",
    "SourceS3Uri": "s3://DOC-EXAMPLE-BUCKET/add-users/"
}

Aktualisieren Sie Ihre Benutzerdatei mit den neuen Benutzern (behalten Sie die vorhandenen Benutzer in der Datei bei) und laden Sie sie auf Amazon S3 hoch:

$ aws s3 cp add-users/shared_users.yaml s3://DOC-EXAMPLE-BUCKET/add-users/shared_users.yaml

Stellen Sie eine Verbindung zum Controller-Knoten her und ziehen Sie die Skripts in das gemeinsam genutzte Dateisystem:

$ sudo mkdir -p /fsx/cluster-scripts/add-users
sudo aws s3 cp s3://DOC-EXAMPLE-BUCKET/add-users/ /fsx/cluster-scripts/add-users/ --recursive
sudo chmod +x /fsx/cluster-scripts/add-users/*.sh

Führen Sie die Erweiterung auf dem Controller aus:

$ sudo bash /fsx/cluster-scripts/add-users/add_users.sh

Führen Sie die Erweiterung auf den Rechenknoten aus mitsrun:

$ sudo srun --partition=partition-name bash /fsx/cluster-scripts/add-users/add_users.sh

Laden Sie das https://github.com/awslabs/awsome-distributed-training/tree/main/1.architectures/5.sagemaker-hyperpod/LifecycleScripts/base-config Base-Config-Lifecycle-Skriptset von der Website herunter. GitHub Mit dieser Option laden Sie den gesamten Base-Config-Ordner als Ihren Lifecycle-Skriptsatz hoch, nicht nur. add_users.sh

Erstellen oder bearbeiten Sie im Ordner base-config eine Textdatei mit dem folgenden Namenshared_users.txt. Die erste Spalte enthält den Benutzernamen, die zweite Spalte die eindeutige Benutzer-ID und die dritte Spalte ist das Benutzerverzeichnis im Amazon FSx Shared Space.

username1,uid1,/fsx/username1
username2,uid2,/fsx/username2
...

add_users.shliest shared_users.txt aus demselben Ordner, daher muss sich die Datei zusammen mit dem Skript in base-config befinden.

Laden Sie den gesamten Ordner base-config für Ihre Lifecycle-Skripte in den Amazon S3-Bucket hoch. HyperPod Während der Cluster-Erstellung, Cluster-Aktualisierung oder Cluster-Software-Aktualisierung wird der Lifecycle-Skript-Runner ausgeführtadd_users.sh, der die Benutzer shared_users.txt und ihre Home-Verzeichnisse liest und einrichtet.