Interpretabilidade global

Entender como os atributos contribuem para a produção geral de um modelo fornece uma visão geral que é útil para a seleção de recursos e o desenvolvimento de modelos. Para medir o efeito da adição de um novo atributo, você normalmente executa a validação cruzada com e sem o atributo. No entanto, executar uma validação cruzada para todas as combinações de atributos e todos os tipos de modelos em consideração geralmente é inviável devido ao custo computacional. Outros métodos para determinar a importância do atributo são, portanto, úteis para tomar decisões rápidas. Nossa recomendação para determinar as atribuições globais de atributos é agregar as pontuações de atribuição de atributos locais recomendadas na seção anterior em todos os dados. Também recomendamos calcular a alteração na pontuação de validação cruzada quando um atributo é removido, se as restrições de tempo e computação permitirem. O exemplo a seguir ilustra a agregação das pontuações de atribuição locais. Ele calcula a média das magnitudes dos valores de SHAP para o modelo de classificação da íris (a partir da visão geral) e os traça como um mapa de calor. Você pode ver que as medidas da sépala não desempenham um papel importante no modelo para determinar a classe da íris.

Para uma saída de modelo especificada, a coleção de valores de SHAP nas instâncias de avaliação pode ser visualizada em um gráfico beeswarm, conforme ilustrado no diagrama a seguir (para um subconjunto de dados do conjunto de dados da íris [4]). Aqui você pode ver que o atributo petal_width tem o maior efeito na saída do modelo para a classe Iris-versicolor, e que um valor petal_width alto contribui negativamente para a previsão da classe. Quando mais de um ponto de dados tem o mesmo valor de atribuição de atributo ou muito semelhante, os pontos são empilhados para indicar a maior prevalência naquele local.