Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Claude 3.5 Haiku

Anthropic — Claude 3.5 Haiku

Détails du modèle

Claude 3.5 Haiku est le modèle rapide de nouvelle génération d'Anthropic avec des performances de codage et de raisonnement améliorées par rapport à Claude 3 Haiku au même niveau de vitesse. Pour plus d'informations sur le développement et les performances des modèles, consultez la model/service fiche.

Mise en cache rapide implicite et explicite à l'aide du point de terminaison bedrock-runtime

Pour plus d'informations, voir Mise en cache rapide pour une inférence de modèle plus rapide.

Endpoints et API pris en charge

Les tableaux suivants indiquent quels points de terminaison et quelles API sont pris en charge pour Claude 3.5 Haiku. Pour plus d’informations, consultez API prises en charge par Amazon Bedrock et Points de terminaison pris en charge par Amazon Bedrock.

Prise en charge des terminaux

API prises en charge sur les bedrock-runtime terminaux

API prises en charge sur les bedrock-mantle terminaux

Tarification

Ce modèle est un modèle tiers proposé et facturé via AWS Marketplace. Les frais apparaissent sur votre AWS facture et dans AWS Cost Explorer sous la rubrique fournisseur du modèle (et non sous Amazon Bedrock). Pour connaître les tarifs, consultez la page de tarification d'Amazon Bedrock.

Accès programmatique

Utilisez les ID de modèle et les URL de point de terminaison suivants pour accéder à ce modèle par programmation. Pour plus d'informations sur les API et les points de terminaison disponibles, consultez les sections API prises en charge et Points de terminaison pris en charge.

Par exemple, si la région est us-east-1 (Virginie du Nord), l'URL du point de terminaison bedrock-runtime sera « ». https://bedrock-runtime.us-east-1.amazonaws.com

Niveaux de service

Amazon Bedrock propose plusieurs niveaux de service pour répondre à vos exigences en matière de charge de travail. Standard fournit un accès au paiement par jeton sans engagement (définissez "service_tier": "default" ou omettez le champ). Priority offre les temps de réponse les plus rapides pour un prix plus élevé (fixe"service_tier": "priority"). Flex fournit un accès à moindre coût pour des charges de travail flexibles et non sensibles au facteur temps (set). "service_tier": "flex" Reserved fournit un débit dédié assorti d'un engagement à terme pour des charges de travail prévisibles ; il est défini au niveau du compte plutôt que par demande (contactez l'équipe responsable de votre compte AWS pour l'activer). Pour plus d'informations, consultez la section Niveaux de service.

Disponibilité par région

La disponibilité régionale en un coup d'œil

Amazon Bedrock propose trois options d'inférence : In-Region conserve les demandes dans une seule région pour des raisons de stricte conformité, géolocalise Cross-Region les itinéraires entre les régions d'une même zone géographique (comme les États-Unis, l'UE et l'APAC) tout en respectant la résidence des données, et les Cross-Region itinéraires mondiaux partout dans le monde lorsqu'il n'y a aucune contrainte de résidence. Consultez la Disponibilité régionale par modèle page pour plus de détails.

La disponibilité varie selon le terminal.

Disponibilité à l'aide du bedrock-runtime terminal

Détails de l'inférence géographique

Géographie : États-Unis

ID d'inférence géographique : us.anthropic.claude-3-5-haiku-20241022-v1:0

Quotas et limites

Votre AWS compte possède des quotas par défaut afin de maintenir les performances du service et de garantir une utilisation appropriée d'Amazon Bedrock. Les quotas par défaut attribués à un compte peuvent être mis à jour en fonction de facteurs régionaux, de l'historique des paiements, d'une utilisation frauduleuse ou de and/or l'approbation d'une demande d'augmentation de quota. Pour plus d'informations, consultez Quotas pour Amazon Bedrock la documentation et consultez les limites du modèle.

Exemple de code

Étape 1 - AWS Compte : Si vous avez déjà un AWS compte, ignorez cette étape. Si vous êtes nouveau sur AWS AWS, créez un compte AWS.

Étape 2 - Clé API : Accédez à la console Amazon Bedrock et générez une clé API à long terme.

Étape 3 - Téléchargez le SDK : pour utiliser ce guide de démarrage, Python doit déjà être installé. Installez ensuite le logiciel approprié en fonction des API que vous utilisez.

pip install boto3

Étape 4 - Définissez les variables d'environnement : configurez votre environnement pour utiliser la clé API pour l'authentification.

AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

Étape 5 - Exécutez votre première demande d'inférence : enregistrez le fichier sous bedrock-first-request.py

Invoke API

import json
import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.invoke_model(
    modelId='anthropic.claude-3-5-haiku-20241022-v1:0',
    body=json.dumps({
            'anthropic_version': 'bedrock-2023-05-31',
            'messages': [{ 'role': 'user', 'content': 'Can you explain the features of Amazon Bedrock?'}],
            'max_tokens': 1024
    })
)
print(json.loads(response['body'].read()))

Converse API

import boto3

client = boto3.client('bedrock-runtime', region_name='us-east-1')
response = client.converse(
    modelId='anthropic.claude-3-5-haiku-20241022-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Can you explain the features of Amazon Bedrock?'}]
        }
    ]
)
print(response)