View a markdown version of this page

Grok 4.3 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Grok 4.3

Icon showing the xAI logo. xAI — Grok 4.3

模型詳細資訊

Grok 4.3 是推理第一模型,提供永遠開啟且可設定的推理工作 (無、低、中、高)。由於推理一律處於作用中而非選用狀態,因此其跨多步驟代理程式迴圈的行為比可略過思考的模型更一致。它還提供強大的工具使用和指示遵循功能,用於建置多步驟代理程式,以及字符效率,以協助保持高容量推論的成本效益。Grok 4.3 特別適合合約審查、案例法研究、信用協議分析和財務文件問答等企業工作負載,同時跨對話式 AI、搜尋、聊天和多迴轉工作流程提供一致、高品質的結果。Grok 4.3 在 Mantle 上執行,這是 Amazon Bedrock 中專為價格效能而設計的新推論引擎,支援工具呼叫、結構化輸出和回應串流。

輸入模式 輸出模式 支援的 APIs 支援的端點
Red circle with white X icon indicating error, cancel, or close action. 音訊Red circle with white X icon indicating error, cancel, or close action. 內嵌Green circle with white checkmark icon. Chat CompletionsRed circle with white X icon indicating error, cancel, or close action. bedrock-runtime
Green circle with white checkmark icon. 影像Red circle with white X icon indicating error, cancel, or close action. 影像Green circle with white checkmark icon. ResponsesGreen circle with white checkmark icon. bedrock-mantle
Red circle with white X icon indicating error, cancel, or close action. 語音Red circle with white X icon indicating error, cancel, or close action. 語音Red circle with white X icon indicating error, cancel, or close action. Invoke
Green circle with white checkmark icon. 文字Green circle with white checkmark icon. 文字Red circle with white X icon indicating error, cancel, or close action. Converse
Red circle with white X icon indicating error, cancel, or close action. 影片Red circle with white X icon indicating error, cancel, or close action. 影片

在 上bedrock-mantle,此模型會在 提供/openai/v1/responses,而不是預設的 /v1/responses

功能和功能

Bedrock 功能

使用bedrock-mantle端點支援的功能

支援的 不支援

定價

推論選項 輸入 輸出 快取讀取
區域內1.25 美元2.50 美元0.20 美元

AWS GovCloud (美國西部)

推論選項 輸入 輸出 快取讀取
區域內$1.503.00 美元0.24 美元

所有價格都是每 100 萬個字符。顯示的定價適用於 Standard 方案。Grok 4.3 僅支援區域內推論。

Priority 和 Flex 方案支援:Grok 4.3 除了 Standard 之外,還支援 Priority 和 Flex 服務方案。優先順序的計費方式是標準每元費率的 1.75 倍 (75% 的溢價),彈性則是標準費率的 0.5 倍 (50% 的折扣);請將這些乘數套用至上述的標準費率。如需每個服務方案的詳細資訊,請參閱服務方案

程式設計存取

使用以下模型 IDs和端點 URLs以程式設計方式存取此模型。如需可用 APIs和端點的詳細資訊,請參閱支援的 APIs支援的端點

端點 模型 ID 區域端點 URL 地理推論 ID 全域推論 ID
bedrock-mantle xai.grok-4.3 https://bedrock-mantle.{region}.api.aws/openai/v1 不支援 不支援

例如,如果 region 是 us-west-2 (奧勒岡),則 bedrock-mantle 端點 URL 將為 "https://bedrock-mantle.us-west-2.api.aws/openai/v1"。

服務層

Amazon Bedrock 提供多種服務層,以符合您的工作負載需求。Standard 提供pay-per-token存取 (設定"service_tier": "default"或省略 欄位)。Priority 提供價格溢價最快的回應時間 (設定 "service_tier": "priority")。Flex 為彈性、non-time-sensitive的工作負載提供較低成本的存取 (設定 "service_tier": "flex")。預留會提供專用輸送量與可預測工作負載的期限承諾;它會在帳戶層級設定,而不是根據請求設定 (請聯絡您的 AWS 帳戶團隊啟用)。如需詳細資訊,請參閱 服務方案

標準 優先順序 Flex 預留
Green circle with white checkmark icon. Green circle with white checkmark icon. Green circle with white checkmark icon. Red circle with white X icon indicating error, cancel, or close action.

區域可用性

區域可用性一目了然

Amazon Bedrock 提供三種推論選項:嚴格合規,區域內將請求保留在單一區域內、在遵守資料駐留時跨區域 (例如美國、歐洲和亞太區域) 的地理跨區域路由,以及在沒有駐留限制的情況下在全球任何地方進行全球跨區域路由。如需詳細資訊,請參閱 依模型的區域可用性頁面。

區域 區域內 地理 全域
us-west-2 (奧勒岡)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
us-east-1 (維吉尼亞北部)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
us-east-2 (俄亥俄)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
us-gov-west-1 (GovCloud 西部)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.

配額和限制

AWS 您的帳戶具有預設配額來維持服務的效能,並確保適當使用 Amazon Bedrock。指派給帳戶的預設配額可能會根據區域因素、付款歷史記錄、詐騙使用量和/或配額增加請求的核准而更新。如需詳細資訊,請參閱 Amazon Bedrock 的配額 文件並參閱模型的限制

bedrock-mantle端點上消耗隨需輸送量時,可用的輸送量會隨著時間而擴展。並非所有配額內的請求都保證在高需求期間成功,因此逐步漸進很重要。對於此模型,預設限制不會直接透過 Service Quotas 顯示,因此我們建議您遵循漸進測試作為指南。

範例程式碼

步驟 1 - AWS 帳戶:如果您已經有 AWS 帳戶,請略過此步驟。如果您是新手 AWS,請註冊 AWS 帳戶

步驟 2 - API 金鑰:前往 Amazon Bedrock 主控台並產生長期 API 金鑰。

步驟 3 - 取得 SDK:若要使用此入門指南,您必須已安裝 Python。然後,根據您使用的 APIs相關軟體。

Chat Completions API
pip install openai
Responses API
pip install openai

步驟 4 - 設定環境變數:設定您的環境以使用 API 金鑰進行身分驗證。

Chat Completions API
OPENAI_API_KEY="<provide your Bedrock API key>" OPENAI_BASE_URL="https://bedrock-mantle.us-west-2.api.aws/openai/v1"
Responses API
OPENAI_API_KEY="<provide your Bedrock API key>" OPENAI_BASE_URL="https://bedrock-mantle.us-west-2.api.aws/openai/v1"

步驟 5 - 執行您的第一個推論請求:將檔案儲存為 bedrock-first-request.py

Chat Completions API
from openai import OpenAI client = OpenAI() response = client.chat.completions.create( model="xai.grok-4.3", messages=[ {"role": "user", "content": "Can you explain the features of Amazon Bedrock?"} ] ) print(response)
Responses API
from openai import OpenAI client = OpenAI() response = client.responses.create( model="xai.grok-4.3", input="Can you explain the features of Amazon Bedrock?" ) print(response)

用量考量和限制

  • 原因工作 — 預設情況下,原因一律處於作用中狀態。您可以透過 reasoning 參數設定工作: {"effort": "none"}(停用推理)、 "low"(預設)"medium"、 或 "high"。原因內容已加密,並可透過傳入include: ["reasoning.encrypted_content"]回應 API 請求傳回。您可以後續輪流傳送加密的內容,以提供多轉對話的推理內容。聊天完成 API 不會傳回推理權杖。

    response = client.responses.create( model="xai.grok-4.3", reasoning={"effort": "high"}, include=["reasoning.encrypted_content"], input="Explain quantum entanglement simply." ) print(response.output_text)
  • 預設參數 — Grok 4.3 使用與標準 OpenAI API 規格不同的預設值:temperature預設為 0.7(而非 1)、top_p預設為 0.95(而非 1),以及max_completion_tokens預設為 131072。如果您的應用程式需要不同的行為,請明確調整這些值。