View a markdown version of this page

Fine-tune modèles à poids ouvert utilisant IA ouverte-API compatibles - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Fine-tune modèles à poids ouvert utilisant IA ouverte-API compatibles

Amazon Bedrock fournit des points de terminaison d'API OpenAI compatibles pour affiner les modèles de base. Ces points de terminaison vous permettent d'utiliser des OpenAI kits SDK et des outils familiers pour créer, surveiller et gérer des tâches de réglage avec les modèles Amazon Bedrock. Cette page met en évidence l'utilisation de ces API pour affiner les renforcements.

Principales fonctionnalités

  • Télécharger des fichiers de formation  : utilisez l'API Files pour télécharger et gérer les données de formation afin de peaufiner les tâches

  • Créez des tâches de mise au point  : commencez à peaufiner des tâches grâce à des données d'entraînement personnalisées et à des fonctions de récompense

  • Répertorier et récupérer les tâches — Consultez toutes les tâches de réglage et obtenez des informations détaillées sur des tâches spécifiques

  • Surveillez les événements liés aux tâches  : suivez la progression des ajustements grâce à des journaux d'événements détaillés

  • Points de contrôle d'accès  : récupérez les points de contrôle du modèle intermédiaire créés pendant la formation

  • Inférence immédiate  : une fois le réglage terminé, utilisez le modèle affiné qui en résulte pour l'inférence à la demande via les API d'Amazon Bedrock ( OpenAI-compatible API de Responses/chat complétion) sans étapes de déploiement supplémentaires

  • Migration facile — Compatible avec les bases de OpenAI code SDK existantes

Flux de travail de réglage et de renforcement pour les modèles à poids ouvert

Avant de peaufiner, assurez-vous de disposer des prérequis, car Amazon Bedrock a besoin d'autorisations spécifiques pour créer et gérer le processus de réglage. Pour obtenir des informations complètes sur la sécurité et les autorisations, consultezAccès et sécurité pour les modèles à poids ouvert.

Effectuez le réglage fin des renforts pour les modèles à poids ouvert en 5 étapes :

  1. Télécharger le jeu de données d'entraînement  : utilisez l'API Files pour télécharger des instructions au format requis (par exemple, JSONL) dans le but de « peaufiner » le jeu de données d'entraînement destiné à affiner le renforcement. Pour de plus amples informations, veuillez consulter Préparer les données pour les modèles à pondération ouverte.

  2. Configurer la fonction de récompense  : définissez un évaluateur pour évaluer les réponses du modèle en fonction de leur exactitude, de leur structure, de leur ton ou d'autres objectifs à l'aide des fonctions Lambda. Pour de plus amples informations, veuillez consulter Configuration des fonctions de récompense pour les modèles à poids ouvert.

  3. Créer une Fine-tuning tâche  : lancez la tâche de réglage des armatures à l'aide de l'API OpenAI compatible en spécifiant le modèle de base, l'ensemble de données, la fonction de récompense et d'autres paramètres facultatifs tels que les hyperparamètres. Pour de plus amples informations, veuillez consulter Créez une tâche de réglage précis.

  4. Surveillez la progression de la formation  : suivez l'état des tâches, les événements et les indicateurs de formation à l'aide des API de réglage des tâches. Pour de plus amples informations, veuillez consulter Répertorier les événements de réglage. Accédez aux points de contrôle intermédiaires des modèles pour évaluer les performances aux différentes étapes de l'entraînement, voirRépertorier les points de contrôle pour affiner.

  5. Exécuter l'inférence  : utilisez l'identifiant de modèle affiné directement pour effectuer des inférences via les API Responses ou Chat Completions OpenAI compatibles avec Amazon Bedrock. Pour de plus amples informations, veuillez consulter Exécutez l'inférence avec un modèle affiné.

Régions et terminaux pris en charge

Le tableau suivant présente les modèles de base et les régions qui prennent en charge les API de réglage fin OpenAI compatibles :

Modèles et régions pris en charge pour IA ouverte API de réglage fin compatibles
Fournisseur Modèle ID du modèle Nom de la région Région Endpoint
IA ouverte Gpt-oss-20B openai.gpt-oss-20b USA Ouest (Oregon) us-west-2 bedrock-mantle.us-west-2.api.aws
Qwen Qwen3 32 Go qwen.qwen3-32b USA Ouest (Oregon) us-west-2 bedrock-mantle.us-west-2.api.aws