View a markdown version of this page

Fine-tune modèles à poids ouvert utilisant OpenAI-API compatibles - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Fine-tune modèles à poids ouvert utilisant OpenAI-API compatibles

Amazon Bedrock fournit des points de terminaison d'API OpenAI compatibles pour affiner les modèles de base. Ces points de terminaison vous permettent d'utiliser des OpenAI SDK et des outils familiers pour créer, surveiller et gérer des tâches de réglage précis avec les modèles Amazon Bedrock. Cette page décrit l'utilisation de ces API pour affiner le renforcement.

Capacités clés

  • Télécharger des fichiers de formation : utilisez l'API Files pour télécharger et gérer les données de formation afin de peaufiner les tâches

  • Créez des tâches de réglage précis — Commencez à peaufiner les tâches grâce à des données d'entraînement personnalisées et à des fonctions de récompense

  • Répertorier et récupérer les tâches : consultez toutes les tâches de réglage précis et obtenez des informations détaillées sur des tâches spécifiques

  • Surveillez les événements liés aux tâches : suivez la progression des ajustements grâce à des journaux d'événements détaillés

  • Points de contrôle d'accès — Récupérez les points de contrôle du modèle intermédiaire créés pendant la formation

  • Inférence immédiate — Une fois le réglage terminé, utilisez le modèle affiné qui en résulte pour une inférence à la demande via les API d'Amazon Bedrock Responses/chat (API OpenAI-compatible de complétion) sans étapes de déploiement supplémentaires

  • Migration facile — Compatible avec les bases de OpenAI code SDK existantes

Renforcement du flux de travail affiné pour les modèles à poids ouvert

Avant de peaufiner le réglage, assurez-vous de remplir les conditions préalables, car Amazon Bedrock a besoin d'autorisations spécifiques pour créer et gérer le processus de mise au point. Pour obtenir des informations complètes sur la sécurité et les autorisations, consultezAccès et sécurité pour les modèles à poids ouvert.

Effectuez le réglage précis du renforcement pour les modèles à poids ouvert en 5 étapes :

  1. Télécharger le jeu de données d'entraînement — Utilisez l'API Files pour télécharger les instructions dans le format requis (par exemple, JSONL) dans le but de les « peaufiner » en tant que jeu de données d'entraînement peaufinant le renforcement. Pour de plus amples informations, veuillez consulter Préparer les données pour les modèles à pondération ouverte.

  2. Configurer la fonction de récompense : définissez un évaluateur pour évaluer les réponses du modèle en fonction de l'exactitude, de la structure, du ton ou d'autres objectifs à l'aide des fonctions Lambda. Pour de plus amples informations, veuillez consulter Configuration des fonctions de récompense pour les modèles à poids ouvert.

  3. Create Fine-tuning Job : lancez le travail de réglage précis du renforcement à l'aide de l'API OpenAI compatible en spécifiant le modèle de base, l'ensemble de données, la fonction de récompense et d'autres paramètres facultatifs tels que les hyperparamètres. Pour de plus amples informations, veuillez consulter Créez une tâche de réglage précis.

  4. Surveillez les progrès de la formation : suivez l'état des tâches, les événements et les indicateurs de formation à l'aide des API de personnalisation des tâches. Pour de plus amples informations, veuillez consulter Répertorier les événements de réglage. Accédez aux points de contrôle du modèle intermédiaire pour évaluer les performances à différentes étapes de l'entraînement, voirRépertorier les points de contrôle pour affiner.

  5. Exécuter l'inférence : utilisez directement l'identifiant du modèle affiné pour effectuer des inférences via les API Responses ou Chat Completions OpenAI compatibles d'Amazon Bedrock. Pour de plus amples informations, veuillez consulter Exécutez l'inférence avec un modèle affiné.

Régions et terminaux pris en charge

Le tableau suivant présente les modèles de base et les régions qui prennent en charge les API de réglage fin OpenAI compatibles :

Modèles et régions pris en charge pour OpenAI API de réglage fin compatibles
Fournisseur Modèle ID du modèle Nom de la région Région Endpoint
OpenAI Gpt-oss-20B openai.gpt-oss-20b USA Ouest (Oregon) us-west-2 bedrock-mantle.us-west-2.api.aws
Qwen Qwen3 32B qwen.qwen3-32b USA Ouest (Oregon) us-west-2 bedrock-mantle.us-west-2.api.aws