Maximizar el ancho de banda de la red en instancias de Amazon EC2 con varias tarjetas de red - Amazon Elastic Compute Cloud

Maximizar el ancho de banda de la red en instancias de Amazon EC2 con varias tarjetas de red

Muchos tipos de instancias que admiten EFA también tienen varias tarjetas de red. Para obtener más información, consulte Tarjetas de red. Si planea usar EFA con uno de estos tipos de instancias, le recomendamos la siguiente configuración básica:

  • Para la interfaz de red principal (índice de tarjetas de red 0, índice de dispositivos 0), cree una interfaz de EFA (EFA con ENA). No puede utilizar una interfaz de red exclusiva para EFA como interfaz de red principal.

  • Para cada interfaz de red adicional, use el siguiente índice de tarjetas de red no utilizado, el índice de dispositivos 1 y una interfaz de red de EFA (EFA con ENA) o solo EFA, según el caso de uso, como los requisitos de ancho de banda de ENA o el espacio de direcciones IP. Para ver un ejemplo de caso de uso, consulte Configuración de EFA para instancias P5.

nota

Las instancias P5 requieren que las interfaces de red se configuren de una manera específica para habilitar el máximo ancho de banda de la red. Para obtener más información, consulte Configuración de EFA para instancias P5.

En los siguientes ejemplos, se muestra cómo lanzar una instancia según estas recomendaciones.

Instance launch
Para especificar los EFA durante el lanzamiento de una instancia usando el asistente de inicialización de instancias
  1. En la sección Configuración de red, elija Editar.

  2. Expanda Configuración de red avanzada.

  3. Para la interfaz de red principal (interfaz de red 1), seleccione Índice de tarjeta de red = 0, Índice de dispositivo = 0 y Tipo de interfaz = EFA con ENA.

  4. Para cada interfaz de red adicional que sea necesaria, elija Agregar interfaz de red. En el índice de tarjetas de red, seleccione el siguiente índice no utilizado y, a continuación, seleccione Índice de dispositivo = 1 y Tipo de interfaz = EFA con ENA o solo EFA.

Para especificar los EFA durante el lanzamiento de una instancia usando el comando run-instances

En --network-interfaces, especifique el número requerido de interfaces de red. En la interfaz de red principal, especifique el NetworkCardIndex=0, DeviceIndex=0 y InterfaceType=efa. En cualquier interfaz de red adicional, para NetworkCardIndex especifique el siguiente índice no utilizado, DeviceIndex=1, y InterfaceType=efa o efa-only.

En el siguiente fragmento de comando de ejemplo, se muestra una solicitud con 32 dispositivos EFA y uno ENA.

$ aws --region $REGION ec2 run-instances \ --instance-type p5.48xlarge \ --count 1 \ --key-name key_pair_name \ --image-id ami-0abcdef1234567890 \ --network-interfaces "NetworkCardIndex=0,DeviceIndex=0,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa" \ "NetworkCardIndex=1,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=2,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=3,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=4,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=5,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=6,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=7,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=8,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=9,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=10,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=11,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=12,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=13,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=14,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=15,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=16,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=17,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=18,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=19,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=20,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=21,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=22,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=23,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=24,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=25,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=26,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=27,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=28,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=29,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=30,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" \ "NetworkCardIndex=31,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa|efa-only" ...
Launch templates
Para añadir EFA a una plantilla de inicialización mediante la consola de Amazon EC2
  1. En la sección Configuración de red, amplíe Configuración de red avanzada.

  2. Para agregar la interfaz de red principal (interfaz de red 1), seleccione Agregar interfaz de red y, luego, seleccione Índice de tarjeta de red = 0, Índice de dispositivo = 0 y Tipo de interfaz = EFA con ENA.

  3. Elija Agregar interfaz de red para agregar interfaces de red adicionales. En Índice de tarjetas de red, seleccione el siguiente índice no utilizado y, a continuación, seleccione Índice de dispositivo = 1 y Tipo de interfaz = EFA con ENA o solo EFA.

Para añadir EFA a una plantilla de inicialización mediante el comando create-launch-template

En NetworkInterfaces, especifique el número requerido de interfaces de red. En la interfaz de red principal, especifique el NetworkCardIndex=0, DeviceIndex=0 y InterfaceType=efa. En cualquier interfaz de red adicional, para NetworkCardIndex especifique el siguiente índice no utilizado, DeviceIndex=1, y InterfaceType=efa o efa-only.

En el siguiente fragmento, se muestra un ejemplo con 3 interfaces de red de las 32 interfaces de red posibles.

"NetworkInterfaces":[ { "NetworkCardIndex":0, "DeviceIndex":0, "InterfaceType": "efa", "AssociatePublicIpAddress":false, "Groups":[ "security_group_id" ], "DeleteOnTermination":true }, { "NetworkCardIndex": 1, "DeviceIndex": 1, "InterfaceType": "efa|efa-only", "AssociatePublicIpAddress":false, "Groups":[ "security_group_id" ], "DeleteOnTermination":true }, { "NetworkCardIndex": 2, "DeviceIndex": 1, "InterfaceType": "efa|efa-only", "AssociatePublicIpAddress":false, "Groups":[ "security_group_id" ], "DeleteOnTermination":true }, { "NetworkCardIndex": 3, "DeviceIndex": 1, "InterfaceType": "efa|efa-only", "AssociatePublicIpAddress":false, "Groups":[ "security_group_id" ], "DeleteOnTermination":true } ...

Configuración de EFA para instancias P5

Las instancias P5 tienen una capacidad total de ancho de banda de la red de 3200 Gbps, de los cuales se pueden utilizar hasta 800 Gbps para el tráfico de red IP. Como el tráfico de red EFA e IP comparten los mismos recursos subyacentes, el ancho de banda utilizado por una reducirá el ancho de banda disponible para la otra. Esto significa que puede distribuir el ancho de banda de la red entre el tráfico EFA y el tráfico IP en cualquier combinación, siempre y cuando el ancho de banda total no supere los 3200 Gbps y el ancho de banda IP no supere los 800 Gbps. Por ejemplo, si usa 400 Gbps para un ancho de banda de IP, puede alcanzar un ancho de banda de EFA de hasta 2800 Gbps al mismo tiempo.

Caso de uso 1: guardar las direcciones IP y evitar posibles problemas de IP en Linux

Esta configuración proporciona hasta 3200 Gbps de ancho de banda de la red EFA y hasta 100 Gbps de ancho de banda de la red IP con una dirección IP privada. Esta configuración también ayuda a evitar posibles problemas de IP en Linux, como la asignación automática no permitida de direcciones IP públicas y los problemas de enrutamiento IP (problemas de mapeo de nombre de host a dirección IP y discrepancias de direcciones IP de origen), que pueden surgir si una instancia tiene varias interfaces de red.

  • En la interfaz de red principal (índice de tarjetas de red 0, índice de dispositivos 0), use una interfaz de EFA (EFA con ENA).

  • En el resto de las interfaces de red (índices de tarjeta de red 1 a 31, índice de dispositivos 1), use interfaces de red solo EFA.

Caso de uso 2: ancho de banda máximo de la red EFA e IP

Esta configuración proporciona hasta 3200 Gbps de ancho de banda de la red EFA y hasta 800 Gbps de ancho de banda de la red IP con ocho direcciones IP privadas. No puede asignar automáticamente direcciones IP públicas con esta configuración. Sin embargo, puede adjuntar una dirección IP elástica a la interfaz de red principal (índice de tarjetas de red 0, índice de dispositivos 0) después de la inicialización para la conectividad a Internet.

  • En la interfaz de red principal (índice de tarjetas de red 0, índice de dispositivos 0), use una interfaz de EFA (EFA con ENA).

  • En el resto de interfaces, haga lo siguiente:

    • Especifique las interfaces de red exclusivas para EFA en los índices de tarjetas de red 1, 2 y 3 y use el índice de dispositivos 1.

    • Especifique una interfaz de red de EFA (EFA con ENA) y tres interfaces de red exclusivas para EFA en cada uno de los siguientes subconjuntos de índices de tarjetas de red y use el índice de dispositivos 1 en todas ellas:

      • [4,5,6,7]

      • [8,9,10,11]

      • [12,13,14,15]

      • [16,17,18,19]

      • [20,21,22,23]

      • [24,25,26,27]

      • [28,29,30,31]

En el siguiente ejemplo, se ilustra esta configuración:

$ aws --region $REGION ec2 run-instances \ --instance-type p5.48xlarge \ --count 1 \ --key-name key_pair_name \ --image-id ami_id \ --network-interfaces "NetworkCardIndex=0,DeviceIndex=0,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa" \ "NetworkCardIndex=1,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=2,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=3,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=4,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa" \ "NetworkCardIndex=5,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=6,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=7,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=8,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa" \ "NetworkCardIndex=9,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=10,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=11,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=12,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa" \ "NetworkCardIndex=13,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=14,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=15,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=16,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa" \ "NetworkCardIndex=17,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=18,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=19,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=20,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa" \ "NetworkCardIndex=21,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=22,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=23,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=24,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa" \ "NetworkCardIndex=25,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=26,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=27,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=28,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa" \ "NetworkCardIndex=29,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=30,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" \ "NetworkCardIndex=31,DeviceIndex=1,Groups=security_group_id,SubnetId=subnet_id,InterfaceType=efa-only" ...

Configuración de EFA para instancias P6e-GB200

Las instancias P6e-GB200 se pueden configurar con hasta 17 tarjetas de red. La siguiente imagen muestra el diseño de la tarjeta de interfaz de red física (NIC) para las instancias P6e-GB200, junto con la asignación de los índices de tarjetas de red (NCI).

Asignación de la tarjeta de interfaz de red física (NIC) y del índice de tarjeta de red (NCI) para las instancias P6e-GB200.

El NCI principal (índice 0) admite hasta 100 Gbps de ancho de banda de ENA. Los NCI con los siguientes índices admiten interfaces de red exclusivas de EFA y un ancho de banda de EFA de 400 Gbps: [1, 3, 5, 7, 9, 11, 13, 15]. Los NCI con los siguientes índices admiten un ancho de banda de ENA o EFA de hasta 200 Gbps: [2, 4, 6, 8, 10, 12, 14, 16].

Los NCI de los siguientes grupos comparten una NIC física subyacente en el host:

  • [1 y 2]

  • [3 y 4]

  • [5 y 6]

  • [7 y 8]

  • [9 y 10]

  • [11 y 12]

  • [13 y 14]

  • [15 y 16]

Cada NIC física admite hasta 400 Gbps de ancho de banda. Como los NCI de estos grupos comparten la misma NIC física subyacente, el ancho de banda utilizado por una reducirá el ancho de banda disponible para la otra. Por ejemplo, si el NCI 2 usa 200 Gbps de un ancho de banda de ENA, el NCI 1 puede usar un máximo de 200 Gbps de ancho de banda de EFA al mismo tiempo.

Cada GPU subyacente del host puede enviar tráfico directamente a través de los siguientes pares de NCI:

  • [1 y 3]

  • [5 y 7]

  • [9 y 11]

  • [13 y 15]

Cada GPU admite un ancho de banda de EFA de hasta 400 Gbps. Como las tarjetas de red de estos grupos comparten la misma GPU, el ancho de banda utilizado por una reducirá el ancho de banda disponible para la otra. Por ejemplo, si el NCI 1 usa 200 Gbps de un ancho de banda de EFA, el NCI 3 puede usar un máximo de 200 Gbps de ancho de banda de EFA al mismo tiempo. Por lo tanto, para alcanzar el máximo rendimiento de EFA, se recomienda realizar una de las siguientes acciones para lograr un ancho de banda EFA total de 1600 Gbps:

  • Agregue una interfaz de red exclusiva para EFA a un solo NCI de cada grupo para lograr 400 Gbps por interfaz de red (4 interfaces de red de EFA x 400 Gbps).

  • Agregue una interfaz de red exclusiva para EFA a cada NCI de cada grupo para lograr 200 Gbps por interfaz de red (8 interfaces de red de EFA x 200 Gbps).

Por ejemplo, la siguiente configuración proporciona hasta 1600 Gbps de ancho de banda de EFA con una sola interfaz de red exclusiva para EFA en cada grupo de NCI y hasta 100 Gbps de ancho de banda de la red de ENA con solo el NCI principal (índice 0).

  • En el NCI principal (índice de tarjetas de red 0, índice de dispositivos 0), use una interfaz de red de ENA.

  • Agregue interfaces de red de EFA a lo siguiente:

    • NCI 1, índice de dispositivos 0

    • NCI 5, índice de dispositivos 0

    • NCI 9, índice de dispositivos 0

    • NCI 13, índice de dispositivos 0