本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Gemma 4 26 B-A4B

谷歌 — Gemma 4 26 B-A4B

模型详细信息

Gemma 4 26 B-A4B 是 Google 的混合专家模型，总共有 252 亿个参数，每个代币有 38 亿个活跃参数，通过内置推理、原生函数调用以及跨文本和图像的多模态输入提供具有成本效益的推断，支持 25.6 万个代币上下文窗口。有关模型开发和性能的更多信息，请参阅model/service 卡片。

功能和特点

基岩特征

使用bedrock-mantle端点支持的功能

定价

有关定价，请参阅 Amazon Bedrock 定价页面。

以编程方式访问

使用以下模型 ID 和端点 URL 以编程方式访问此模型。有关可用 API 和终端节点的更多信息，请参阅支持的 API 和支持的终端节点。

例如，如果区域为 us-east-1（弗吉尼亚北部），则基岩地幔端点 URL 将是 “”。https://bedrock-mantle.us-east-1.api.aws/openai/v1

服务等级

Amazon Bedrock 提供多个服务等级，以满足您的工作负载要求。标准版提供按令牌付费的访问权限，无需任何承诺。P@@ ri ority 通过基于时间的承诺提供更高的吞吐量。Flex 为灵活、非时间敏感型工作负载提供更低成本的访问权限。Reserved 为可预测的工作负载提供@@ 专用吞吐量和定期承诺。有关更多信息，请参阅服务等级。

区域可用性

地区供应情况一览

Bedrock 提供三种推断选项：In-Region将请求保留在单个区域内以实现严格合规；在尊重数据驻留的情况下跨地理区域（美国、欧盟等）进行地理路 Cross-Region由，以提高吞吐量；以及全球任何地方的全球 Cross-Region路由，在没有居住限制的情况下实现最大吞吐量。有关更多详细信息，请参阅该区域可用性页面。

配额和限制

您的 AWS 账户具有默认配额，用于维持服务性能并确保适当使用 Amazon Bedrock。分配给账户的默认配额可能会根据地区因素、付款历史记录、欺诈性使用情况、增加配额请求的 and/or 批准而更新。有关更多详细信息，请参阅Amazon Bedrock 的配额文档并查看该模型的限制。

在bedrock-mantle终端上使用按需吞吐量时，可用吞吐量会随着时间的推移而扩展。在需求旺盛时期，并非所有在配额内的请求都能保证成功，因此逐步增加请求非常重要。对于此模型，默认限制不会直接通过 Service Quotas 浮出水面，因此我们建议您以此为指导。

示例代码

第 1 步-AWS 账户：如果您已有 AWS 账户，请跳过此步骤。如果您不熟悉 AWS，请注册一个 A WS 账户。

第 2 步-API 密钥：前往 Amazon Bedrock 控制台生成长期 API 密钥。

第 3 步-获取 SDK：要使用本入门指南，必须已安装 Python。然后根据您使用的 API 安装相关软件。

pip install openai

第 4 步-设置环境变量：将您的环境配置为使用 API 密钥进行身份验证。

OPENAI_API_KEY="<provide your Bedrock API key>"
OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/openai/v1"

第 5 步-运行您的第一个推理请求：将文件另存为 bedrock-first-request.py

Chat Completions API

from openai import OpenAI

client = OpenAI()

response = client.chat.completions.create(
    model="google.gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}]
    )
print(response)

Responses API

from openai import OpenAI

client = OpenAI()

response = client.responses.create(
    model="google.gemma-4-26b-a4b",
    input="Explain the benefits of mixture-of-experts architectures for production inference.",
    max_output_tokens=512,
)
print(response.output_text)

使用注意事项和限制