As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

# Implantação e automação
<a name="deployment-and-automation"></a>


| **Pergunta** | **Exemplo de resposta** | 
| --- | --- | 
| Quais são os requisitos para escalabilidade e balanceamento de carga? | Roteamento inteligente de solicitações; sistema de escalonamento automático; otimização para arranques a frio rápidos empregando técnicas como cache de modelos, carregamento lento e sistemas de armazenamento distribuído; projetando o sistema para lidar com padrões de tráfego intermitentes e imprevisíveis.  | 
| Quais são os requisitos para atualizar e lançar novas versões? | Implantações azul/verdes, lançamentos canários, atualizações contínuas e assim por diante. | 
| Quais são os requisitos para recuperação de desastres e continuidade de negócios? | Procedimentos de backup e restauração, mecanismos de failover, configurações de alta disponibilidade e assim por diante. | 
| Quais são os requisitos para automatizar o treinamento, a implantação e o gerenciamento do modelo generativo de IA? | Pipeline de treinamento automatizado, implantação contínua, escalabilidade automática e assim por diante. | 
| Como o modelo generativo de IA será atualizado e retreinado à medida que novos dados forem disponibilizados? | Por meio de reciclagem periódica, aprendizado incremental, aprendizado por transferência e assim por diante. | 
| Quais são os requisitos para automatizar o monitoramento e o gerenciamento? | Alertas automatizados, escalabilidade automática, autorrecuperação e assim por diante. | 
| Qual é o seu ambiente de implantação preferido para cargas de trabalho generativas de IA? | Uma abordagem híbrida que usa a AWS para treinamento de modelos e nossa infraestrutura local para inferência para atender aos requisitos de residência de dados. | 
| Você prefere alguma plataforma de nuvem específica para implantações generativas de IA? | Serviços da AWS, especialmente o Amazon SageMaker AI para desenvolvimento e implantação de modelos, e o Amazon Bedrock para modelos básicos. | 
| Quais tecnologias de conteinerização você está considerando para cargas de trabalho generativas de IA? | Queremos padronizar os contêineres Docker orquestrados com o Kubernetes para garantir portabilidade e escalabilidade em nosso ambiente híbrido. | 
| Você tem alguma ferramenta preferida para CI/CD em seu pipeline de IA generativa? | GitLab para controle de versão e pipelines de CI/CD, integrados ao Jenkins para testes e implantação automatizados. | 
| Quais ferramentas de orquestração você está considerando para gerenciar fluxos de trabalho generativos de IA? | Apache Airflow para orquestração de fluxo de trabalho, especialmente para pré-processamento de dados e pipelines de treinamento de modelos. | 
| Você tem algum requisito específico de infraestrutura local para suportar cargas de trabalho generativas de IA? | Estamos investindo em servidores acelerados por GPU e redes de alta velocidade para suportar cargas de trabalho de inferência locais. | 
| Como você planeja gerenciar o controle de versão e a implantação de modelos em diferentes ambientes? | Planejamos usá-lo MLflow para rastreamento e controle de versão de modelos e integrá-lo à nossa infraestrutura Kubernetes para uma implantação perfeita em todos os ambientes. | 
| Quais ferramentas de monitoramento e observabilidade você está considerando para implantações generativas de IA? | Prometheus para coleta de métricas e Grafana para visualização, com soluções adicionais de registro personalizadas para monitoramento específico do modelo. | 
| Como você está lidando com a movimentação e sincronização de dados em um modelo de implantação híbrida? | Usaremos AWS DataSync para uma transferência eficiente de dados entre o armazenamento local e AWS, com trabalhos de sincronização automatizados que são agendados com base em nossos ciclos de treinamento. | 
| Quais medidas de segurança você está implementando para implantações generativas de IA em diferentes ambientes? | Usaremos o IAM para recursos de nuvem, integrados ao nosso Active Directory local para implementar end-to-end criptografia e segmentação de rede para proteger os fluxos de dados. |