View a markdown version of this page

Acelere a inicialização de contêineres com o SOCI - SageMaker IA da Amazon

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Acelere a inicialização de contêineres com o SOCI

A indexação SOCI (Seekable Open Container Initiative) permite o carregamento lento de imagens de contêiner personalizadas no SageMaker Estúdio Amazon Amazon Unified Studio. SageMaker O SOCI reduz significativamente os tempos de inicialização em cerca de 30 a 70% para seus contêineres personalizadosTraga sua própria imagem (BYOI). A melhoria da latência varia de acordo com o tamanho da imagem, a disponibilidade da instância de hospedagem e outras dependências do aplicativo. O SOCI cria um índice que permite que os contêineres sejam iniciados somente com os componentes necessários, buscando arquivos adicionais sob demanda, conforme necessário.

O SOCI aborda tempos lentos de inicialização de contêineres, que interrompem fluxos de trabalho de desenvolvimento de aprendizado de máquina (ML) iterativo para imagens personalizadas. À medida que as cargas de trabalho de ML se tornam mais complexas, as imagens de contêiner se tornam maiores, criando atrasos na inicialização que dificultam os ciclos de desenvolvimento.

Benefícios principais

  • Ciclos de iteração mais rápidos: reduza a inicialização do contêiner, dependendo dos tipos de imagem e instância

  • Otimização universal: estenda os benefícios de desempenho a todos os contêineres BYOI personalizados no Studio

Como funciona a indexação SOCI

O SOCI cria um índice de metadados especializado que mapeia a estrutura interna de arquivos da imagem do contêiner. Esse índice permite o acesso a arquivos individuais sem baixar a imagem inteira. O índice SOCI é armazenado como um artefato compatível com a OCI (Open Container Initiative) no Amazon ECR e vinculado à sua imagem original do contêiner, preservando os resumos da imagem e a validade da assinatura.

Quando você inicia um contêiner no Studio, o sistema usa o índice SOCI para identificar e baixar somente os arquivos essenciais necessários para a inicialização. Componentes adicionais são buscados em paralelo conforme a necessidade do aplicativo.

Componentes da arquitetura

  • Imagem original do contêiner: Seu contêiner base armazenado no Amazon ECR

  • Artefato de índice SOCI: metadados mapeando a estrutura de arquivos da sua imagem

  • Manifesto do OCI Image Index: vincula sua imagem original e o índice SOCI

  • Tempo de execução do contêiner Finch: permite a integração de carregamento lento com o Studio

Ferramentas compatíveis

Ferramenta Integração
nerdctl Requer configuração de contêiner
CLI do Finch Suporte nativo ao SOCI
Docker + SOCI CLI Ferramentas adicionais necessárias