翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Jamba 1.5 Mini

AI21 Labs — Jamba 1.5 Mini

モデルの詳細

Jamba 1.5 Mini は AI21 Labs の軽量ハイブリッド SSM トランスフォーマーモデルで、合計 52B個のパラメータと 256K のコンテキストウィンドウがあり、低レイテンシーのエンタープライズタスク用に最適化されています。モデルの開発とパフォーマンスの詳細については、モデル/サービスカードを参照してください。

サポートされているエンドポイントと APIs

次の表は、Jamba 1.5 Mini でサポートされているエンドポイントと APIs を示しています。詳細については、「Amazon Bedrock でサポートされている APIs」および「Amazon Bedrock でサポートされているエンドポイント」を参照してください。

エンドポイントのサポート

bedrock-runtimeエンドポイントでサポートされている APIs

bedrock-mantleエンドポイントでサポートされている APIs

料金

このモデルは、 AWS Marketplace を通じて提供および請求されるサードパーティーモデルです。料金は AWS 、モデルプロバイダー (Amazon Bedrock ではなく) の請求書と in AWS Cost Explorer に表示されます。料金については、Amazon Bedrock の料金ページを参照してください。

プログラムによるアクセス

次のモデル IDs とエンドポイント URLsを使用して、このモデルにプログラムでアクセスします。使用可能な APIs「サポートされている APIsとサポートされているエンドポイント」を参照してください。

たとえば、region が us-east-1 (バージニア北部) の場合、bedrock-runtime エンドポイント URL は「https://bedrock-runtime.us-east-1.amazonaws.com」になり、bedrock-mantle の URL は「https://bedrock-mantle.us-east-1.api.aws/v1」になります。

サービス階層

Amazon Bedrock は、ワークロードの要件に合わせて複数のサービス層を提供します。Standard はpay-per-tokenアクセスを提供します ( フィールドを設定"service_tier": "default"または省略）。Priority は、料金プレミアム (設定 ) に対して最速の応答時間を提供します"service_tier": "priority"。Flex は、柔軟でnon-time-sensitiveワークロード (セット ) に低コストのアクセスを提供します"service_tier": "flex"。リザーブドは、予測可能なワークロードに対するコミットメントという用語を持つ専用スループットを提供します。これは、リクエストごとではなくアカウントレベルで設定されます (AWS アカウントチームに連絡して有効にしてください）。詳細については、「 サービス層」を参照してください。

リージョン別の利用可能性

リージョンの可用性の概要

Amazon Bedrock には 3 つの推論オプションがあります。In-Region は、厳格なコンプライアンスのために 1 つのリージョン内にリクエストを保持します。Geo Cross-Region は、データレジデンシーを尊重しながら、1 つのリージョン (米国、欧州、APAC など) 間でルーティングします。Global Cross-Region は、レジデンシーの制約がない場合、世界中のどこでもルーティングします。詳細については、モデル別のリージョンの可用性「」ページを参照してください。

可用性はエンドポイントによって異なります。

bedrock-runtimeエンドポイントを使用した可用性

クォータと制限

AWS アカウントには、サービスのパフォーマンスを維持し、Amazon Bedrock の適切な使用を確保するためのデフォルトのクォータがあります。アカウントに割り当てられたデフォルトのクォータは、リージョンの要因、支払い履歴、不正使用、および/またはクォータ引き上げリクエストの承認に応じて更新される場合があります。詳細については、Amazon Bedrock のクォータ「 ドキュメント」および「 モデルの制限」を参照してください。

サンプルコード

ステップ 1 - AWS アカウント: AWS アカウントがすでにある場合は、このステップをスキップします。を初めて使用する場合は AWS、AWS アカウントにサインアップします。

ステップ 2 - API キー: Amazon Bedrock コンソールに移動し、長期 API キーを生成します。

ステップ 3 - SDK を取得する: この入門ガイドを使用するには、Python がすでにインストールされている必要があります。次に、使用している APIs に応じて、関連するソフトウェアをインストールします。

pip install boto3

ステップ 4 - 環境変数を設定する: API キーを認証に使用するように環境を設定します。

AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

ステップ 5 - 最初の推論リクエストを実行する: ファイルを として保存する bedrock-first-request.py

Invoke API

import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='ai21.jamba-1-5-mini-v1:0',
    body=json.dumps({
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
)
print(json.loads(response['body'].read()))

Converse API

import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='ai21.jamba-1-5-mini-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)