翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

# デプロイと自動化
<a name="deployment-and-automation"></a>


| **質問** | **レスポンスの例** | 
| --- | --- | 
| スケーリングとロードバランシングの要件は何ですか？ | インテリジェントなリクエストルーティング、自動スケーリングシステム。モデルキャッシュ、遅延ロード、分散ストレージシステムなどの手法を採用することで、高速コールドスタートを最適化し、バースト的で予測不可能なトラフィックパターンを処理するシステムを設計します。 | 
| 新しいバージョンを更新およびロールアウトするための要件は何ですか？ | ブルー/グリーンデプロイ、Canary リリース、ローリング更新など。 | 
| ディザスタリカバリとビジネス継続性の要件は何ですか？ | バックアップと復元の手順、フェイルオーバーメカニズム、高可用性設定など。 | 
| 生成 AI モデルのトレーニング、デプロイ、管理を自動化するための要件は何ですか？ | 自動トレーニングパイプライン、継続的デプロイ、自動スケーリングなど。 | 
| 新しいデータが使用可能になると、生成 AI モデルはどのように更新および再トレーニングされますか？ | 定期的な再トレーニング、増分学習、転移学習などを通じて。 | 
| モニタリングと管理を自動化するための要件は何ですか？ | 自動アラート、自動スケーリング、自己修復など。 | 
| 生成 AI ワークロードに推奨されるデプロイ環境は何ですか？ | モデルトレーニングに AWS を使用し、推論にオンプレミスインフラストラクチャを使用してデータレジデンシー要件を満たすハイブリッドアプローチ。 | 
| 生成 AI のデプロイに希望する特定のクラウドプラットフォームはありますか？ | AWS のサービス、特にモデルの開発とデプロイには Amazon SageMaker AI、基盤モデルには Amazon Bedrock。 | 
| 生成 AI ワークロードにはどのようなコンテナ化テクノロジーを検討していますか？ | Kubernetes とオーケストレーションされた Docker コンテナを標準化して、ハイブリッド環境全体で移植性とスケーラビリティを確保したいと考えています。 | 
| 生成 AI パイプラインに CI/CD 用の推奨ツールはありますか？ | バージョン管理および CI/CD パイプライン用の GitLab。Jenkins と統合され、テストとデプロイを自動化します。 | 
| 生成 AI ワークフローを管理するために、どのようなオーケストレーションツールを検討していますか？ | ワークフローオーケストレーション、特にデータの前処理パイプラインとモデルトレーニングパイプライン用の Apache Airflow。 | 
| 生成 AI ワークロードをサポートするために、オンプレミスインフラストラクチャに特定の要件はありますか？ | オンプレミスの推論ワークロードをサポートするために、GPU アクセラレーションサーバーと高速ネットワーキングに投資しています。 | 
| 異なる環境間でモデルのバージョニングとデプロイを管理するにはどうすればよいですか？ | モデルの追跡とバージョニングに MLflow を使用し、Kubernetes インフラストラクチャと統合して環境間でシームレスにデプロイする予定です。 | 
| 生成 AI デプロイでは、どのようなモニタリングおよびオブザーバビリティツールを検討していますか？ | メトリクス収集用の Prometheus、視覚化用の Grafana、モデル固有のモニタリング用の追加のカスタムログ記録ソリューション。 | 
| ハイブリッドデプロイモデルでデータの移動と同期にどのように対処していますか？ | を使用して AWS、オンプレミスストレージと 間の AWS DataSync 効率的なデータ転送を行います。自動同期ジョブは、トレーニングサイクルに基づいてスケジュールされます。 | 
| さまざまな環境にわたる生成 AI デプロイには、どのようなセキュリティ対策を実装していますか？ | オンプレミスの Active Directory と統合されたクラウドリソースに IAM を使用して、end-to-endの暗号化とネットワークセグメンテーションを実装し、データフローを保護します。 |