Amazon SageMaker AI の機能

Amazon SageMaker HyperPod 内で、または SageMaker トレーニングジョブとしてレシピを実行できます。HyperPod トレーニングアダプターをフレームワークとして使用すると、エンドツーエンドのトレーニングワークフローを実行するのに便利です。トレーニングアダプターは、NVIDIA NeMo フレームワークと Neuronx 分散トレーニングパッケージ上に構築されています。

Amazon SageMaker Studio では、HyperPod クラスターで機械学習ワークロードを起動し、HyperPod クラスター情報を表示できます。クラスターの詳細とハードウェアメトリクスをきめ細かく把握することで、チームはトレーニング前のワークロードやファインチューニングワークロードに適した候補を特定できるようになります。

Amazon SageMaker HyperPod タスクガバナンスはリソースの割り当てを合理化し、Amazon EKS クラスターのチームやプロジェクト全体でコンピューティングリソースを効率的に活用できるように設計されています。HyperPod タスクガバナンスには Amazon EKS クラスターのオブザーバビリティも用意されているため、クラスターキャパシティ、コンピューティングの可用性と使用状況、チームの割り当てと使用状況、タスクの実行と待機時間の情報をリアルタイムで把握できます。

Amazon SageMaker パートナー AI アプリケーションでは、業界をリードするアプリケーションプロバイダーによって構築、公開、配布されている生成人工知能 (AI) および機械学習 (ML) 開発アプリケーションにユーザーがアクセスできます。パートナー AI アプリケーションは SageMaker AI 上での実行が認定されています。パートナー AI アプリバージョンでは、機密データのセキュリティを損なうことなく、基盤モデル (FM) とクラシック ML モデルに基づいてソリューションを構築する方法をユーザーが加速および改善できます。機密データは信頼できるセキュリティ設定内に完全に留まり、サードパーティーと共有されることはありません。

自然言語を使用して Amazon SageMaker Canvas で Amazon Q Developer とチャットし、機械学習の問題を解決する生成 AI の支援を受けることができます。Q Developer と会話して、機械学習ワークフローのステップについて話し合い、データ変換、モデル構築、デプロイなどの Canvas 機能を活用できます。

Amazon SageMaker トレーニングプランは、SageMaker トレーニングジョブと HyperPod クラスターで実行される大規模な AI モデルトレーニングワークロード用に設計されたコンピューティング予約機能です。指定されたタイムライン内で、需要の高い GPU 加速コンピューティングリソースへの予測可能なアクセスを提供します。必要なタイムライン、期間、最大コンピューティングリソースを指定できます。SageMaker トレーニングプランでは、インフラストラクチャのセットアップ、ワークロードの実行、障害復旧を自動的に管理します。これにより、予測可能なコストモデルを使用してミッションクリティカルな AI プロジェクトを効率的に計画および実行できます。

コーディング経験のないユーザーに、モデルを構築しそれを使って予測を行う機能を提供する自動 ML サービス。

コードエディタは Studio を拡張し、Visual Studio Code – Open Source (「Code-OSS」) に基づく環境で、分析および機械学習コードを記述、テスト、デバッグ、実行できるようにします。

地理空間データを使用して ML モデルを構築、トレーニング、デプロイします。

Amazon SageMaker HyperPod は、SageMaker AI の一機能であり、回復力のあるクラスターで常時稼働する機械学習環境を提供します。この環境では、大規模言語モデル (LLM) や拡散モデルなどの大規模機械学習モデルを開発するための機械学習ワークロードを実行できます。

Studio の JupyterLab は、Studio ノートブックのレイテンシーと信頼性を改善します

Studio は、機械学習ワークフローを実行するための最新のウェブベースエクスペリエンスです。Studio は、コードエディタ、新しい Jupyterlab アプリケーション、RStudio、Studio Classic など、一連の IDE を提供しています。

統合された機械学習環境。この環境では、モデルの構築、トレーニング、デプロイ、分析をすべて同じアプリケーションで行うことができます。

オープンソースの JupyterLab をベースにした環境内の AWS コンピューティングリソースにアクセスできるようにする無料のサービス。

コンソール、直接コード実行をサポートする構文強調表示エディタ、プロット、履歴、デバッグ、ワークスペース管理のためのツールを備えた R 向けの統合開発環境です。

ML 予測の人間によるレビューに必要なワークフローを構築します。Amazon A2I は、人間によるレビューのシステム構築や人間によるレビューの多数の担当者の管理に伴う画一的で面倒な作業を取り除き、すべてのデベロッパーが人間によるレビューが行えるようにします。

AutoML ジョブを作成して、Pipelines でモデルを自動的にトレーニングします。

機械学習の知識を持たないユーザーでも、分類モデルと回帰モデルをすばやく構築できます。

データセットを事前処理し、永続的なエンドポイントが不要なときに推論を実行し、入力レコードを推論に関連付けて結果の解釈を支援します。

潜在的なバイアスの検出によって機械学習モデルを改善し、モデルが作成する予測を説明するのに役立ちます。

共有スペースは、共有 JupyterServer アプリケーションと共有ディレクトリで構成されます。Amazon SageMaker AI ドメイン内のすべてのユーザープロファイルは、ドメイン内のすべての共有スペースにアクセスできます。

SageMaker Studio でデータをインポート、分析、準備、特徴化します。Data Wrangler を機械学習ワークフローに統合して、コーディングをほとんどまたはまったく使わずにデータの前処理と特徴エンジニアリングを簡素化および合理化できます。独自の Python スクリプトと変換を追加してデータの事前ワークフローをカスタマイズすることもできます。

データを操作し、視覚化し、実用的なインサイトを探索して、データ品質の問題を修正します。

トレーニングプロセス全体を通して、トレーニングパラメータとデータを検査します。パラメータ値が大きすぎたり小さすぎたりするなど、一般的に発生するエラーを自動的に検出し、ユーザーに警告します。

エッジデバイスのカスタムモデルを最適化し、フリートの作成および管理を行い、効率的なランタイムでモデルを実行します。

実験の管理と追跡。追跡されたデータを使用して実験を再構築し、ピアによって実施された実験を段階的に構築できるほか、コンプライアンスと監査の検証のためにモデル系統をトレースできます。

特徴の検出と再利用を容易にする、特徴と関連メタデータの一元管理ストア。2 種類のストア (オンラインストアまたはオフラインストア) を作成できます。オンラインストアは低レイテンシーのリアルタイム推論のユースケースに、オフラインストアはトレーニングやバッチ推論に使用されます。

ワーカーと機械学習を使用して、ラベル付きデータセットを作成する高品質のトレーニングデータセット。

ターンキーデータラベリング機能により、ラベリングアプリケーションを構築したり、ラベリングワークフォースを自分で管理したりすることなく、高品質のトレーニングデータセットを作成できます。

ML モデルとワークロードを使用するための推論インスタンスタイプと構成 (インスタンス数、コンテナパラメータ、モデルの最適化など) に関する推奨事項を取得します。

現在デプロイされているインフラストラクチャのパフォーマンスと比較して、モデルを提供するインフラストラクチャへの変更を評価します。

デプロイ可能なキュレート 1 クリックソリューション、サンプルノートブック、事前トレーニング済みモデルを通じて、SageMaker AI の機能について学習できます。モデルを微調整してデプロイすることもできます。

機械学習ワークフローの系統を追跡します。

SageMaker AI ジョブと直接統合された機械学習パイプラインを作成して管理します。

ML モデルに関する情報を 1 か所に文書化して、ML ライフサイクル全体にわたってガバナンスとレポートを合理化します。

アカウント内すべてのモデルの視覚的な概要が事前に構築されています。Model Dashboard は、SageMaker Model Monitor、変換ジョブ、エンドポイント、系統追跡、CloudWatch からの情報を統合するため、高レベルのモデル情報にアクセスし、1 つの統一ビューでモデルのパフォーマンスを追跡できます。

本番環境のモデル (エンドポイント) を監視および分析して、データドリフトとモデル品質の偏差を検出します。

機械学習モデルのデプロイに対するバージョニング、アーティファクトと系統の追跡、承認ワークフロー、クロスアカウントのサポート。

機械学習モデルを一度トレーニングすれば、クラウド内およびエッジ内の任意の場所で実行できます。

SageMaker Studio ノートブックを非インタラクティブなスケジュールされたジョブとして実行します。

データの分析と前処理、特徴エンジニアリングへの取り組み、モデルの評価を行います。

SageMaker プロジェクトを使用し、CI/CD でエンドツーエンドの ML ソリューションを作成します。

エージェントがその行動の結果として受け取る長期的な報酬を最大化します。

管理者は、カスタムおよび事前設定されたペルソナベースの IAM ロールを使用して、一般的な ML アクティビティに対する最小特権のアクセス許可を定義できます。

ML モデルをホストするためのサーバーレスエンドポイントオプション。エンドポイントトラフィックを処理するために容量を自動的にスケールします。エンドポイントでインスタンスタイプを選択したり、スケーリングポリシーを管理したりする必要がなくなります。

Git リポジトリ の URL を入力し、環境にクローンを作成し、変更をプッシュし、コミット履歴を表示するための Git 拡張機能。

AWS IAM Identity Center (IAM アイデンティティセンター) 統合、起動時間の短縮、シングルクリック共有を含む次世代の SageMaker ノートブック。

シングルアカウントおよびクロスアカウント構成で SageMaker Studio から直接、Amazon EMR クラスターを簡単に検出、接続、作成、終了、管理できます。

SageMaker AI によって管理されるスケーラブルな GPU インスタンスで深層学習モデルのトレーニングを高速化できます。