Personalizzazione del modello per migliorarne le prestazioni per il proprio caso d’uso - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Personalizzazione del modello per migliorarne le prestazioni per il proprio caso d’uso

La personalizzazione del modello è il processo tramite il quale vengono forniti dati a un modello per migliorarne le prestazioni per casi d’uso specifici. Puoi personalizzare un modello di fondazione Amazon Bedrock per migliorarne le prestazioni e offrire ai clienti un’esperienza migliore. Attualmente, Amazon Bedrock offre i metodi di personalizzazione indicati di seguito.

  • Distillazione

    Utilizza la distillazione per trasferire informazioni da un modello più grande e intelligente (noto come insegnante) a un modello più piccolo, veloce e conveniente (noto come studente). Amazon Bedrock automatizza il processo di distillazione utilizzando le tecniche di sintesi dei dati più recenti per generare risposte diverse e di alta qualità a partire dal modello insegnante ed esegue il fine-tuning del modello studente.

    Per utilizzare la distillazione, seleziona il modello insegnante di cui desideri raggiungere la precisione necessaria per il tuo caso d’uso e un modello studente di cui eseguire il fine-tuning. Quindi, fornisci istruzioni specifiche per il caso d’uso come dati di input. Amazon Bedrock genera risposte dal modello insegnante per determinati prompt, quindi le utilizza per eseguire il fine-tuning del modello studente. Facoltativamente, puoi fornire dati di input etichettati come coppie di prompt-risposta.

    Per ulteriori informazioni sull’utilizzo della distillazione, consulta Personalizzare un modello con distillazione in Amazon Bedrock.

  • Ottimizzazione dei rinforzi

    La messa a punto del rinforzo migliora l'allineamento del modello di base allo specifico caso d'uso attraverso l'apprendimento basato sul feedback. Invece di fornire coppie di input-output etichettate, si definiscono funzioni di ricompensa che valutano la qualità della risposta. Il modello apprende in modo iterativo ricevendo punteggi di feedback da queste funzioni di ricompensa.

    È possibile utilizzare i registri di invocazione di Bedrock esistenti come dati di addestramento o caricare set di dati di prompt personalizzati. È possibile definire le funzioni di ricompensa utilizzando per valutare la qualità della risposta. AWS Lambda Amazon Bedrock automatizza il flusso di lavoro di formazione e fornisce metriche in tempo reale per monitorare i progressi dell'apprendimento dei modelli.

    Per ulteriori informazioni sull'utilizzo della regolazione fine del rinforzo, consulta. Personalizza un modello con la messa a punto del rinforzo in Amazon Bedrock

  • Regolazione di precisione supervisionata

    Fornisci dati etichettati per addestrare un modello in modo da migliorarne le prestazioni su attività specifiche. Fornire un set di dati di addestramento con esempi etichettati consente al modello di imparare ad associare i tipi di output da generare per determinati tipi di input. I parametri del modello vengono modificati durante il processo e le prestazioni del modello vengono migliorate per le attività rappresentate dal set di dati di addestramento.

  • Pre-addestramento continuo

    Fornisci dati non etichettati per pre-addestrare un modello di fondazione in modo che acquisisca familiarità con determinati tipi di input. È possibile fornire dati relativi ad argomenti specifici per esporre il modello a tali aree. Il processo di pre-addestramento continuo modifica i parametri del modello per adattarli ai dati di input e per migliorarne la conoscenza del dominio.

    Ad esempio, puoi addestrare un modello con dati privati, come documenti aziendali, che non sono pubblicamente disponibili per l’addestramento di modelli linguistici di grandi dimensioni. Inoltre, puoi continuare a migliorare il modello riqualificandolo con più dati non etichettati non appena saranno disponibili.

Per informazioni sulle quote di personalizzazione del modello, consulta Endpoint e quote di Amazon Bedrock in Riferimenti generali di AWS. Dopo aver personalizzato un modello, puoi impostare l’inferenza per il nuovo modello personalizzato. Per ulteriori informazioni, consulta Impostazione dell’inferenza per un modello personalizzato.

Nota

I costi di addestramento dei modelli vengono addebitati in base al numero di token che questo elabora (numero di token nel corpus dei dati di addestramento × numero di epoch) e l’archiviazione di ogni modello viene addebitata mensilmente. Per maggiori informazioni, consulta Prezzi di Amazon Bedrock.

Linee guida per la personalizzazione dei modelli

I parametri ideali per la personalizzazione di un modello dipendono dal set di dati e dall'attività a cui è destinato il modello. Ti consigliamo di sperimentare i valori per determinare quali parametri funzionano meglio per il tuo caso specifico. A tal fine, puoi valutare il modello eseguendo un processo di valutazione del modello. Per ulteriori informazioni, consulta Valutare le prestazioni delle risorse Amazon Bedrock.

Utilizza le metriche di addestramento e convalida dei file di output generati quando invii un processo di personalizzazione del modello per ottimizzare la modifica dei parametri. Trova questi file nel bucket Amazon S3 in cui hai scritto l'output o usa l'operazione. GetCustomModel