Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
7. Implementación continua
Para que un sistema de ML se implemente de manera continua, debe poder desviar el tráfico desde o entre los modelos activos. Un sistema que se implementa de forma continua tiene al menos una forma de promover los modelos a producción: canary, shadow,blue/green, or A/B. Confirme que en el sistema ML hay al menos una forma de revertir los modelos.
7.1 Cambio de modelo |
El sistema puede cambiar entre modelos versionados en entornos de prueba y producción. Puede desviar el tráfico de una sola vez o de manera incremental hacia variantes nuevas de producción. |
7.2 Procesos de promoción de modelos |
Se estableció un proceso de validación por etapas para la promoción de modelos. El proceso utiliza pruebas sin conexión que no afectan al sistema de producción, como la ejecución de pruebas con datos de validación en un entorno provisional. Se establecen un manual de procedimientos y métricas para la promoción de modelos. La promoción sigue una de las estrategias de implementación. |
7.3 Estrategias de reversión |
Existe una estrategia de reversión para que, cuando se produzca un error o se desvíe el comportamiento esperado del modelo, se produzca una reversión, una reserva o una continuación. En una reversión, el modelo vuelve a una versión de implementación anterior. En una estrategia de alternativa, el modelo se sustituye por una heurística sólida. Una estrategia de continuación promoverá la producción del modelo siguiente, al igual que el modelo anterior. Existen manuales de procedimientos para todas estas estrategias. |
7.4 Implementación canario |
El sistema se puede implementar mediante un canario. Desde un principio, una pequeña parte del tráfico se envía al modelo nuevo. Con el tiempo, todo el tráfico pasa al modelo nuevo. Este cambio se supervisa de cerca porque las pruebas se hacen en el entorno de producción. |
7.5 Modelado de una implementación sombra |
El sistema puede ejecutar una implementación paralelo en el que el modelo nuevo funcione junto con el modelo existente. Ambos modelos reciben tráfico, pero solo el modelo anterior genera inferencias. Las evaluaciones se ejecutan en el modelo nuevo en comparación con el modelo existente y, a continuación, el modelo nuevo se promueve de manera manual. |
7.6 implementación azul/verde |
El sistema se puede implementar con un modelo nuevo (verde, que está en fase de pruebas) y con el modelo anterior (azul, que es de producción), y los dos funcionan al mismo tiempo. Una vez finalizadas las pruebas, el tráfico se desvía del entorno azul al entorno verde. Esta estrategia evita el tiempo de inactividad debido a que se crean entornos idénticos. |
7.7 Compatibilidad con pruebas A/B o más |
El sistema admite el uso de versiones de modelos en el entorno implementado para realizar A/B pruebas en el tráfico entrante. Esto puede incluir la posibilidad de promocionarse de manera automática según el modelo más nuevo que gane en las pruebas. En las configuraciones más avanzadas se utilizará un proceso de bandido con varios brazos |
