A review of explainable AI methods applicable to biomedical use cases

Bc. Michal Šosták

Bachelor's thesis

Abstract:

Užitečnost mnoha moderních systémů umělé inteligence trpí tzv. „problémem černé skříňky“, který uživatelům brání pochopit důvody, jež stojí za výstupy stroje. Cílem oboru vysvětlitelné umělé inteligence je nabídnout lidským operátorům vhled do toho, proč algoritmus dospěl k určitému rozhodnutí. První část této práce podává přehled o současném stavu vysvětlitelných metod a představuje koncept znalostního grafu. Druhá část popisuje implementaci vybrané vysvětlitelné techniky. Používáme data ze dvou biomedicínských databází integrovaná do znalostního grafu, následuje výběr modelu, trénování, predikce nových spojení, a nakonec interpretace možných příčin stojících za predikovaným spojením.

Abstract:

The usefulness of many modern artificial intelligence systems suffers from the “Black Box Problem”, which hinders users from understanding the reasoning behind a machine's output. The field of explainable artificial intelligence aims to offer human operators insight into why an algorithm has reached a particular decision. The first part of this thesis reviews the current state of explainable methods and introduces the concept of a knowledge graph. The second part describes the implementation of a selected explainable technique. We use data from two biomedical databases integrated into a knowledge graph, followed by model selection, training, new link prediction and finally, the interpretation of possible causes behind a predicted link.

Keywords

explainable artificial intelligence, knowledge graph, interpretability, interpretable machine learning, XAI, ML

Language used: English

Date on which the thesis was submitted / produced: 16. 12. 2021

Thesis defence

• Date of defence: 8. 2. 2022
• Supervisor: Mgr. Bc. Vít Nováček, PhD
• Reader: Sameh K. Mohamed, PhD

Masaryk University

Faculty of Informatics

Bachelor programme / field:
Applied Informatics / Applied Informatics