View a markdown version of this page

Claude 3.5 Haiku - Amazon Bedrock
Orange rounded square icon with white radial loading or progress indicator symbol. Anthropic - Claude 3.5 Haiku모델 세부 정보지원되는 엔드포인트 및 APIs요금프로그래밍 방식 액세스서비스 티어리전별 가용성할당량과 제한샘플 코드

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Claude 3.5 Haiku

Orange rounded square icon with white radial loading or progress indicator symbol. Anthropic - Claude 3.5 Haiku

모델 세부 정보

Claude 3.5 Haiku는 동일한 속도 계층에서 Claude 3 Haiku보다 코딩 및 추론 성능이 향상된 Anthropic의 차세대 고속 모델입니다. 모델 개발 및 성능에 대한 자세한 내용은 모델/서비스 카드를 참조하세요.

  • 모델 출시 날짜: 2024년 11월 4일

  • EOL: 2025년 11월 4일 이후

  • 레거시 기간: 최소 6개월

  • 모델 수명 주기 정책: 모델 수명 주기(2026년 9월 7일 이전에 출시된 모델의 경우)

  • 모델 EOL 날짜: 2026년 6월 19일

  • 최종 사용자 라이선스 계약 및 이용 약관: 보기

  • 모델 수명 주기: 레거시

  • 컨텍스트 창: 토큰 200K 개

  • 최대 출력 토큰: 8K

  • 지식 마감: 2024년 7월

  • Marketplace 제품 ID: prod-5oba7y7jpji56

입력 모달리티 출력 모달리티
Red circle with white X icon indicating error, cancel, or close action. 오디오Red circle with white X icon indicating error, cancel, or close action. 임베딩
Red circle with white X icon indicating error, cancel, or close action. 이미지Red circle with white X icon indicating error, cancel, or close action. 이미지
Red circle with white X icon indicating error, cancel, or close action. 음성Red circle with white X icon indicating error, cancel, or close action. 음성
Green circle with white checkmark icon. 텍스트Green circle with white checkmark icon. 텍스트
Red circle with white X icon indicating error, cancel, or close action. 비디오Red circle with white X icon indicating error, cancel, or close action. 비디오

bedrock-runtime 엔드포인트를 사용한 암시적 및 명시적 프롬프트 캐싱

자세한 내용은 더 빠른 모델 추론을 위한 프롬프트 캐싱을 참조하세요.

명시적 프롬프트 캐싱 지원 캐시 체크포인트당 최소 토큰 수 요청당 최대 캐시 체크포인트 지원되는 TTL 프롬프트 캐시 체크포인트를 허용하는 필드
예 2,048 4 5분 system, messages 및 tools

지원되는 엔드포인트 및 APIs

다음 표에는 Claude 3.5 Haiku에 지원되는 엔드포인트와 APIs가 나와 있습니다. 자세한 내용은 Amazon Bedrock에서 지원하는 APIs 및 Amazon Bedrock에서 지원하는 엔드포인트 섹션을 참조하세요.

엔드포인트 지원

Endpoint 지원됨
bedrock-runtime supported
bedrock-mantle not-supported

bedrock-runtime 엔드포인트에서 지원되는 APIs

메시지 응답 채팅 완료 Converse Invoke
not-supported not-supported not-supported supported supported

bedrock-mantle 엔드포인트에서 지원되는 APIs

메시지 응답 채팅 완료 Converse Invoke
not-supported not-supported not-supported not-supported not-supported
작은 정보

가능하면 새 애플리케이션에 bedrock-runtime 엔드포인트를 사용하는 것이 좋습니다. 세부 정보는 Amazon Bedrock에서 지원하는 엔드포인트 섹션을 참조하세요.

요금

이 모델은 AWS Marketplace를 통해 제공 및 청구되는 타사 모델입니다. 요금은 AWS 청구서 및 in AWS Cost Explorer의 모델 공급자(Amazon Bedrock 제외) 아래에 표시됩니다. 요금은 Amazon Bedrock 요금 페이지를 참조하세요.

프로그래밍 방식 액세스

다음 모델 IDs 및 엔드포인트 URLs 사용하여이 모델에 프로그래밍 방식으로 액세스합니다. 사용 가능한 APIs 및 엔드포인트에 대한 자세한 내용은 APIs 지원 및 엔드포인트 지원 단원을 참조하십시오.

Endpoint 모델 ID 리전 내 엔드포인트 URL 지리 추론 ID 글로벌 추론 ID
bedrock-runtime anthropic.claude-3-5-haiku-20241022-v1:0 https://bedrock-runtime.{region}.amazonaws.com us.anthropic.claude-3-5-haiku-20241022-v1:0 해당 사항 없음

예를 들어 리전이 us-east-1(버지니아 북부)인 경우 bedrock-runtime 엔드포인트 URL은 "https://bedrock-runtime.us-east-1.amazonaws.com"이 됩니다.

서비스 티어

Amazon Bedrock은 워크로드 요구 사항에 맞는 여러 서비스 티어를 제공합니다. 표준은 약정 없이 pay-per-token 액세스를 제공합니다(필드 설정 "service_tier": "default" 또는 생략). Priority는 가격 프리미엄( 설정)에 가장 빠른 응답 시간을 제공합니다"service_tier": "priority". Flex는 유연하고 non-time-sensitive 워크로드( 세트 )에 대해 저렴한 액세스를 제공합니다"service_tier": "flex". 예약은 예측 가능한 워크로드에 대한 기간 약정과 함께 전용 처리량을 제공하며, 요청당이 아닌 계정 수준에서 설정됩니다(AWS 계정 팀에 문의하여 활성화). 자세한 내용은 서비스 계층을 참조하세요.

표준 우선 순위 Flex 예약됨
Green circle with white checkmark icon. Red circle with white X icon indicating error, cancel, or close action. Red circle with white X icon indicating error, cancel, or close action. Red circle with white X icon indicating error, cancel, or close action.

리전별 가용성

리전별 가용성 개요

Amazon Bedrock은 세 가지 추론 옵션을 제공합니다. 리전 내는 엄격한 규정 준수를 위해 요청을 단일 리전 내에 유지하고, 리전 내 리전(예: 미국, EU, APAC) 간 지리적 교차 리전 경로는 데이터 레지던시를 준수하면서 라우팅하며, 글로벌 교차 리전 경로는 레지던시 제약 조건이 없는 경우 전 세계 어디서나 라우팅합니다. 자세한 내용은 모델별 리전별 가용성 페이지를 참조하세요.

가용성은 엔드포인트마다 다릅니다.

bedrock-runtime 엔드포인트를 사용한 가용성

리전 리전 내 지리 [Global]
us-east-1 (버지니아 북부)not-supportedsupportednot-supported
us-east-2 (오하이오)not-supportedsupportednot-supported
us-west-2 (오레곤)supportedsupportednot-supported

지리 추론 세부 정보

지역: 미국

지리 추론 ID: us.anthropic.claude-3-5-haiku-20241022-v1:0

소스 리전 대상 리전
us-east-1(버지니아 북부)us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤)
us-east-2(오하이오)us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤)
us-west-2(오리건)us-east-1(버지니아 북부), us-east-2(오하이오), us-west-2(오레곤)

할당량과 제한

AWS 계정에는 서비스 성능을 유지하고 Amazon Bedrock을 적절하게 사용할 수 있는 기본 할당량이 있습니다. 계정에 할당된 기본 할당량은 리전 요인, 결제 기록, 사기 사용 및/또는 할당량 증가 요청 승인에 따라 업데이트될 수 있습니다. 자세한 내용은 Amazon Bedrock의 할당량 설명서를 참조하고 모델의 제한을 참조하세요.

샘플 코드

1단계 - AWS 계정: AWS 계정이 이미 있는 경우이 단계를 건너뜁니다. 를 처음 사용하는 경우 AWS 계정에 AWS가입합니다.

2단계 - API 키: Amazon Bedrock 콘솔로 이동하여 장기 API 키를 생성합니다.

3단계 - SDK 가져오기:이 시작 안내서를 사용하려면 Python이 이미 설치되어 있어야 합니다. 그런 다음 사용 중인 APIs에 따라 관련 소프트웨어를 설치합니다.

pip install boto3

4단계 - 환경 변수 설정: 인증에 API 키를 사용하도록 환경을 구성합니다.

AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

5단계 - 첫 번째 추론 요청 실행: 파일을 로 저장 bedrock-first-request.py

Invoke API
import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='anthropic.claude-3-5-haiku-20241022-v1:0',
    body=json.dumps({
            'anthropic_version': 'bedrock-2023-05-31',
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
)
print(json.loads(response['body'].read()))
Converse API
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='anthropic.claude-3-5-haiku-20241022-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)