Dados
Dados sintéticos: vêm de uma fórmula conhecida, por isso dá para verificar se a explicação acerta (vê a ajuda).
600 linhas · classificação: a probabilidade de «1»
Modelo
Acerta 84% em linhas que não viu (92,4% nas de treino).
Linha 1 de 150 (das de teste)
ingresos 2.218deuda 10.924anos_trabajo 3edad 32dia_nacimiento 7
O modelo diz:61,3%(na realidade: 1)
SHAP (exato, 1280 previsões)
Da previsão média à desta linha, variável a variável:
média50,8%
ingresos = 2.218+28,8 pp
deuda = 10.924−15,1 pp
edad = 32−2,1 pp
anos_trabajo = 3−1,5 pp
dia_nacimiento = 7+0,2 pp
esta linha61,3%
LIME
Uma reta que imita o modelo perto desta linha. Peso de cada variável (verde, empurra para cima):
ingresos+27,3 pp
deuda−12,2 pp
edad−4,8 pp
anos_trabajo−2,3 pp
dia_nacimiento+1,6 pp
Fidelidade (R² da reta perto da linha): 0,45, com 600 linhas inventadas.
O SHAP e o LIME ordenam as variáveis quase da mesma forma (ρ = 1).
O que pesa mais em geral
A média de |SHAP| de cada variável em 30 linhas de teste.
ingresos23 pp
deuda9 pp
anos_trabajo1,2 pp
dia_nacimiento0,7 pp
edad0,6 pp
Nestes dados, «dia_nacimiento» não influencia nada na fórmula que os gerou: se a sua barra ficar quase vazia, a explicação acertou.