翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
7. 継続的デプロイ
ML システムを継続的にデプロイするには、ライブモデルとの間でトラフィックをルーティングできる必要があります。継続的にデプロイされるシステムには、Canary、シャドウ、ブルーグリーン、A/B テストのいずれかの方法でモデルを本番環境に昇格させる方法があります。ML システムで、モデルをロールバックする方法が少なくとも 1 つあることを確認します。
7.1 モデルの切り替え |
システムは、ステージングと本番稼働でバージョニングされたモデルを切り替えることができます。トラフィックをすべて一度に、または段階的に新しい本番稼働用バリアントに振り分けることができます。 |
7.2 モデル昇格プロセス |
モデルの昇格には、段階的な検証プロセスが設定されています。このプロセスでは、ステージング環境の検証データに対して実行するなど、本稼働システムに影響を与えないオフラインテストを使用します。モデル昇格のランブックとメトリクスが設定されます。昇格は、いずれか 1 つのロールアウト戦略に従います。 |
7.3 ロールバック戦略 |
ロールバック戦略を設定すると、エラーが発生したとき、またはモデルが予想される動作から逸脱したときに、ロールバック、フォールバック、またはロールスルーが発生します。ロールバックでは、モデルは以前のデプロイバージョンに戻ります。フォールバックでは、モデルは強力なヒューリスティックに置き換えられます。ロールスルーでは、以前のモデルを入れ替えながら、次のモデルを本番環境に昇格させます。これらすべての戦略のランブックが設定されています。 |
7.4 カナリアデプロイ |
システムは Canary を使用してデプロイできます。トラフィックのごく一部が最初に新しいモデルに送信されます。時間の経過とともに、すべてのトラフィックが新しいモデルに移行します。テストは本番環境で実行されるため、このシフトは注意深くモニタリングされます。 |
7.5 モデルのシャドウデプロイ |
システムは、新しいモデルが既存のモデルと連携するシャドウデプロイを実行できます。どちらのモデルもトラフィックを受信しますが、以前のモデルのみが推論を出力します。評価は新しいモデルで既存のモデルと比較して実行され、新しいモデルは手動で昇格されます。 |
7.6 ブルー/グリーンデプロイ |
システムは、新しいモデル (グリーン、ステージング中) と以前のモデル (ブルー、本番環境) の両方を同時に実行しながらデプロイできます。テストが完了すると、トラフィックはブルー環境からグリーン環境に移行されます。この戦略では、同じ環境が起動しているため、ダウンタイムを防止できます。 |
7.7 A/B テストなどのサポート |
システムは、デプロイされた環境のモデルバージョンを使用した、受信トラフィックに対する A/B テストの実行をサポートしています。テストで勝利した新しいモデルに基づいて、自動的に昇格する機能が含まれる場合があります。より高度なセットアップでは、多腕バンディット |
