View a markdown version of this page

Nova Lite - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Nova Lite

Amazon 徽标带有从 A 到 Z 的弯曲箭头,形成微笑。 亚马逊 — Nova Lite

模型详细信息

Nova Lite 是亚马逊的低成本多模态模型,可处理文本、图像和视频输入,用于文档分析和视觉问答等任务。有关模型开发和性能的更多信息,请参阅model/service 卡片

  • 模型发布日期:2024 年 12 月 5 日

  • 型号停产日期:不早于 2025 年 12/4

  • 最终用户许可协议和使用条款:查看

  • 模型生命周期:活跃

  • 上下文窗口:30万个代币

  • 最大输出代币:5K

  • 知识截止日期:2024 年 10 月

输入模式 输出模式 支持的 API 支持的终端节点
Red circle with white X icon indicating error, cancel, or close action.音频Red circle with white X icon indicating error, cancel, or close action.嵌入Red circle with white X icon indicating error, cancel, or close action. ResponsesGreen circle with white checkmark icon. bedrock-runtime
Green circle with white checkmark icon.图片Red circle with white X icon indicating error, cancel, or close action.图片Red circle with white X icon indicating error, cancel, or close action. Chat CompletionsRed circle with white X icon indicating error, cancel, or close action. bedrock-mantle
Red circle with white X icon indicating error, cancel, or close action.演讲Red circle with white X icon indicating error, cancel, or close action.演讲Green circle with white checkmark icon. Invoke
Green circle with white checkmark icon.文本Green circle with white checkmark icon.文本Green circle with white checkmark icon. Converse
Green circle with white checkmark icon.视频Red circle with white X icon indicating error, cancel, or close action.视频

功能和特点

基岩特征

使用bedrock-runtime端点支持的功能

使用bedrock-runtime端点提示缓存

有关更多信息,请参阅提示缓存以加快模型推断速度。

支持提示缓存 每个缓存检查点的最小令牌数 每个请求的最大缓存检查点数 支持的 TTL 接受提示缓存检查点的字段
1K* 4 5 分钟 systemmessages

* Amazon Nova 机型最多支持 2 万个令牌用于提示缓存。提示缓存主要用于文本提示。

定价

有关定价,请参阅 Amazon Bedrock 定价页面。

以编程方式访问

使用以下模型 ID 和端点 URL 以编程方式访问此模型。有关可用 API 和终端节点的更多信息,请参阅支持的 API 和支持的终端节点

Endpoint 型号 In-Region 端点网址 地理推理 ID 全局推理 ID
bedrock-runtime amazon.nova-lite-v1:0 https://bedrock-runtime.{region}.amazonaws.com

us.amazon.nova-lite-v1:0

eu.amazon.nova-lite-v1:0

不支持

例如,如果区域为 us-east-1(弗吉尼亚北部),则基岩运行时端点 URL 将为 “”,基岩地幔的 URL 将https://bedrock-runtime.us-east-1.amazonaws.com为 “”。https://bedrock-mantle.us-east-1.api.aws/v1

服务等级

Amazon Bedrock 提供多个服务等级,以满足您的工作负载要求。标准版提供按令牌付费的访问权限,无需任何承诺。P@@ ri ority 通过基于时间的承诺提供更高的吞吐量。Flex 为灵活、非时间敏感型工作负载提供更低成本的访问权限。Reserved 为可预测的工作负载提供@@ 专用吞吐量和定期承诺。有关更多信息,请参阅服务等级

Standard 优先级 Flex 已保留
Green circle with white checkmark icon. Red circle with white X icon indicating error, cancel, or close action. Red circle with white X icon indicating error, cancel, or close action. Red circle with white X icon indicating error, cancel, or close action.

区域可用性

地区供应情况一览

Bedrock 提供三种推断选项:In-Region将请求保留在单个区域内以实现严格合规;在尊重数据驻留的情况下跨地理区域(美国、欧盟等)进行地理 Cross-Region路由,以提高吞吐量;以及全球任何地方的全球 Cross-Region路由,以便在没有驻留限制的情况下实现最大吞吐量。有关更多详细信息,请参阅该各型号的地区供货情况页面。

区域 In-Region 地理 Global
us-east-1(弗吉尼亚北部)Green circle with white checkmark icon.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
us-east-2(俄亥俄州)Red circle with white X icon indicating error, cancel, or close action.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
us-west-1(加利福尼亚北部)Red circle with white X icon indicating error, cancel, or close action.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
us-west-2(俄勒冈州)Red circle with white X icon indicating error, cancel, or close action.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
us-gov-west-1 (GovCloud)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
eu-central-1(法兰克福)Red circle with white X icon indicating error, cancel, or close action.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
eu-north-1(斯德哥尔摩)Green circle with white checkmark icon.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
eu-south-1(米兰)Red circle with white X icon indicating error, cancel, or close action.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
eu-south-2(西班牙)Red circle with white X icon indicating error, cancel, or close action.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
eu-west-1(爱尔兰)Red circle with white X icon indicating error, cancel, or close action.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
eu-west-2(伦敦)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
eu-west-3(巴黎)Red circle with white X icon indicating error, cancel, or close action.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
ap-northeast-1(东京)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
ap-southeast-2(悉尼)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
ap-southeast-3(雅加达)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.
il-central-1(特拉维夫)Red circle with white X icon indicating error, cancel, or close action.Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.
me-central-1(阿联酋)Green circle with white checkmark icon.Red circle with white X icon indicating error, cancel, or close action.Red circle with white X icon indicating error, cancel, or close action.

地理推断详情

地理位置:美国

地理推理 ID:us.amazon.nova-lite-v1:0

来源区域 目的地区域
us-east-1(弗吉尼亚州北部)us-east-1(弗吉尼亚北部)、us-east-2(俄亥俄州)、us-west-2(俄勒冈州)
us-east-2(俄亥俄州)us-east-1(弗吉尼亚北部)、us-east-2(俄亥俄州)、us-west-2(俄勒冈州)
us-west-1(加利福尼亚北部)us-east-1(弗吉尼亚北部)、us-east-2(俄亥俄州)、us-west-1(加利福尼亚北部)、us-west-2(俄勒冈州)
us-west-2 (俄勒冈)us-east-1(弗吉尼亚北部)、us-east-2(俄亥俄州)、us-west-2(俄勒冈州)

地理:欧盟

地理推理 ID:eu.amazon.nova-lite-v1:0

来源区域 目的地区域
eu-central-1 (法兰克福)eu-central-1(法兰克福)、eu-north-1(斯德哥尔摩)、eu-west-1(爱尔兰)、eu-west-3(巴黎)
eu-north-1(斯德哥尔摩)eu-central-1(法兰克福)、eu-north-1(斯德哥尔摩)、eu-west-1(爱尔兰)、eu-west-3(巴黎)
eu-south-1(米兰)eu-central-1(法兰克福)、eu-north-1(斯德哥尔摩)、eu-south-1(米兰)、eu-west-1(爱尔兰)、eu-west-3(巴黎)
eu-south-2(西班牙)eu-central-1(法兰克福)、eu-north-1(斯德哥尔摩)、eu-south-2(西班牙)、eu-west-1(爱尔兰)、eu-west-3(巴黎)
eu-west-1 (爱尔兰)eu-central-1(法兰克福)、eu-north-1(斯德哥尔摩)、eu-west-1(爱尔兰)、eu-west-3(巴黎)
eu-west-3(巴黎)eu-central-1(法兰克福)、eu-north-1(斯德哥尔摩)、eu-west-1(爱尔兰)、eu-west-3(巴黎)
il-central-1(特拉维夫)eu-central-1(法兰克福)、eu-north-1(斯德哥尔摩)、eu-south-1(米兰)、eu-west-1(爱尔兰)、eu-west-3(巴黎)、il-central-1(特拉维夫)

配额和限制

您的 AWS 账户具有默认配额,用于维持服务性能并确保适当使用 Amazon Bedrock。分配给账户的默认配额可能会根据地区因素、付款历史记录、欺诈性使用情况、增加配额请求的 and/or 批准而更新。有关更多详细信息,请参阅Amazon Bedrock 的配额文档并查看该模型的限制

示例代码

第 1 步-AWS 账户:如果您已有 AWS 账户,请跳过此步骤。如果您不熟悉 AWS,请注册一个 A WS 账户

第 2 步-API 密钥:前往 Amazon Bedrock 控制台生成长期 API 密钥。

第 3 步-获取 SDK:要使用本入门指南,必须已安装 Python。然后根据您使用的 API 安装相关软件。

pip install boto3

第 4 步-设置环境变量:将您的环境配置为使用 API 密钥进行身份验证。

AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

第 5 步-运行您的第一个推理请求:将文件另存为 bedrock-first-request.py

Invoke API
import json import boto3 client = boto3.client('bedrock-runtime', region_name='us-east-1') response = client.invoke_model( modelId='amazon.nova-lite-v1:0', body=json.dumps({ 'messages': [{ 'role': 'user', 'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}] }], 'inferenceConfig': { 'maxTokens': 1024 } }) ) print(json.loads(response['body'].read()))
Converse API
import boto3 client = boto3.client('bedrock-runtime', region_name='us-east-1') response = client.converse( modelId='amazon.nova-lite-v1:0', messages=[ { 'role': 'user', 'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}] } ] ) print(response)