Interpreting Machine Learning Models Using Shapley Values
Author info
Michal Bogár
Author
Bogár Michal EUBFHIKOV - Katedra operačného výskumu a ekonometrie FHI
Source document
Nové trendy v ekonometrii a operačním výzkumu : mezinárodní vědecký seminář : zborník : 27. november - 29. november 2024 : 27. listopad - 29. listopad 2024, Praha. S. 5-9. - Bratislava : Vydavateľstvo EKONÓM, 2024 / König Brian ; Lukáčik Martin ; Goga Marián ; Fendek Michal ; Kultan Jaroslav ; Nové trendy v ekonometrii a operačním výzkumu Mezinárodní vědecký seminář. ISBN 978-80-225-5199-1
Interpretovateľnosť modelov umelej inteligencie a strojového učenia sa stáva kľúčovou témou v dôsledku rozšíreného využívania týchto modelov v citlivých oblastiach, ako sú finančníctvo a zdravotníctvo, kedy nie je možné pozerať na modely iba ako na tzv. čierne skrinky. Preto sa zdôrazňuje potreba interpretácie modelov najmä tam, kde môže ich zlyhanie viesť k vážnym negatívnym dopadom. Jednou z účinných techník interpretácie sú Shapleyho hodnoty, ktoré vychádzajú z teórie hier a určujú vplyv jednotlivých premenných na výsledok modelu.
