View a markdown version of this page

Rerank 3.5 - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Rerank 3.5

Three overlapping circles in dark green, coral, and purple colors forming a logo or icon. Cohere — 3.5 を再ランク付けする

モデルの詳細

Rerank 3.5 は、検索結果の順序を変更して RAG パイプラインとエンタープライズ検索の精度を向上させる Cohere の関連性スコアリングモデルです。モデルの開発とパフォーマンスの詳細については、モデル/サービスカードを参照してください。

入力モダリティ 出力モダリティ サポートされている APIs サポートされているエンドポイント
Red circle with white X icon indicating error, cancel, or close action. オーディオRed circle with white X icon indicating error, cancel, or close action. 埋め込みRed circle with white X icon indicating error, cancel, or close action. ResponsesGreen circle with white checkmark icon. bedrock-runtime
Red circle with white X icon indicating error, cancel, or close action. イメージRed circle with white X icon indicating error, cancel, or close action. イメージRed circle with white X icon indicating error, cancel, or close action. Chat CompletionsRed circle with white X icon indicating error, cancel, or close action. bedrock-mantle
Red circle with white X icon indicating error, cancel, or close action. 音声Red circle with white X icon indicating error, cancel, or close action. 音声Green circle with white checkmark icon. Invoke
Green circle with white checkmark icon. テキストGreen circle with white checkmark icon. テキストRed circle with white X icon indicating error, cancel, or close action. Converse
Red circle with white X icon indicating error, cancel, or close action. のビデオRed circle with white X icon indicating error, cancel, or close action. のビデオ
ヒント

可能な限り、新しいアプリケーションには bedrock-runtimeエンドポイントを使用することをお勧めします。詳細については、「Amazon Bedrock でサポートされているエンドポイント」を参照してください。

料金

このモデルは、 AWS Marketplace を通じて提供および請求されるサードパーティーモデルです。料金は AWS 、モデルプロバイダー (Amazon Bedrock ではなく) の請求書と in AWS Cost Explorer に表示されます。料金については、Amazon Bedrock の料金ページを参照してください。

プログラムによるアクセス

次のモデル IDs とエンドポイント URLsを使用して、このモデルにプログラムでアクセスします。使用可能な APIs「サポートされている APIs」と「サポートされているエンドポイント」を参照してください。

Endpoint モデル ID リージョン内エンドポイント URL 地理推論 ID グローバル推論 ID
bedrock-runtime cohere.rerank-v3-5:0 https://bedrock-runtime.{region}.amazonaws.com サポートされません サポートされません

たとえば、region が us-east-1 (バージニア北部) の場合、bedrock-runtime エンドポイント URL は「https://bedrock-runtime.us-east-1.amazonaws.com」になり、bedrock-mantle の URL は「https://bedrock-mantle.us-east-1.api.aws/v1」になります。

サービス階層

Amazon Bedrock は、ワークロードの要件に合わせて複数のサービス層を提供します。Standard はpay-per-tokenアクセスを提供します ( フィールドを設定"service_tier": "default"または省略)。Priority は、料金プレミアム (設定 ) に対して最速の応答時間を提供します"service_tier": "priority"Flex は、柔軟でnon-time-sensitiveワークロード (セット ) に低コストのアクセスを提供します"service_tier": "flex"リザーブドは、予測可能なワークロードに対するコミットメントという用語を持つ専用スループットを提供します。これは、リクエストごとではなくアカウントレベルで設定されます (AWS アカウントチームに連絡して有効にしてください)。詳細については、「 サービス層」を参照してください。

スタンダード 優先度 Flex 予約済み
Green circle with white checkmark icon. Red circle with white X icon indicating error, cancel, or close action. Red circle with white X icon indicating error, cancel, or close action. Red circle with white X icon indicating error, cancel, or close action.

リージョン別の利用可能性

リージョンの可用性の概要

Amazon Bedrock には 3 つの推論オプションがあります。In-Region は、厳格なコンプライアンスのために 1 つのリージョン内にリクエストを保持します。Geo Cross-Region は、データレジデンシーを尊重しながら、1 つのリージョン (米国、欧州、APAC など) 間でルーティングします。Global Cross-Region は、レジデンシーの制約がない世界中のどこにでもルーティングします。詳細については、モデル別のリージョンの可用性「」ページを参照してください。

リージョン リージョン内 地域 グローバル
us-east-1 (バージニア北部)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
us-west-2 (オレゴン)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
ca-central-1 (カナダ)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
eu-central-1 (フランクフルト)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
ap-northeast-1 (東京)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.

クォータと制限

AWS アカウントには、サービスのパフォーマンスを維持し、Amazon Bedrock の適切な使用を確保するためのデフォルトのクォータがあります。アカウントに割り当てられたデフォルトのクォータは、リージョンの要因、支払い履歴、不正使用、および/またはクォータ引き上げリクエストの承認に応じて更新される場合があります。詳細については、Amazon Bedrock のクォータ「 ドキュメント」および「 モデルの制限」を参照してください。

サンプルコード

ステップ 1 - AWS アカウント: AWS アカウントがすでにある場合は、このステップをスキップします。を初めて使用する場合は AWS、AWS アカウントにサインアップします。

ステップ 2 - API キー: Amazon Bedrock コンソールに移動し、長期 API キーを生成します。

ステップ 3 - SDK を取得する: この入門ガイドを使用するには、Python がすでにインストールされている必要があります。次に、使用している APIs に応じて、関連するソフトウェアをインストールします。

pip install boto3

ステップ 4 - 環境変数を設定する: API キーを認証に使用するように環境を設定します。

AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

ステップ 5 - 最初の推論リクエストを実行する: ファイルを として保存する bedrock-first-request.py

Rerank API
import boto3 client = boto3.client('bedrock-agent-runtime', region_name='us-east-1') response = client.rerank( queries=[{ 'type': 'TEXT', 'textQuery': {'text': 'What is Amazon Bedrock?'} }], sources=[ { 'type': 'INLINE', 'inlineDocumentSource': { 'type': 'TEXT', 'textDocument': {'text': 'Amazon Bedrock is a fully managed service for foundation models.'} } }, { 'type': 'INLINE', 'inlineDocumentSource': { 'type': 'TEXT', 'textDocument': {'text': 'Amazon S3 is an object storage service.'} } } ], rerankingConfiguration={ 'type': 'BEDROCK_RERANKING_MODEL', 'bedrockRerankingConfiguration': { 'modelConfiguration': { 'modelArn': 'arn:aws:bedrock:us-east-1::foundation-model/cohere.rerank-v3-5:0' }, 'numberOfResults': 2 } } ) for result in response['results']: print(f'Index: {result["index"]}, Score: {result["relevanceScore"]}')