Projekt naslavlja potrebo po boljšem razumevanju odločitev, ki jih sprejemajo modeli umetne inteligence (UI) v zdravstvu. Tradicionalni pristopi, ki temeljijo na globokem učenju, pogosto delujejo kot "črne škatle", kar otežuje njihovo razlago in zmanjšuje zaupanje uporabnikov. Cilj projekta je razviti razložljive vmesnike UI, ki bodo omogočili zdravstvenim delavcem, da s pomočjo pogovornih (konverzacijskih) metod učinkovito komunicirajo z modeli strojnega učenja.

Namesto kompleksnih vizualizacij, ki zahtevajo tehnično znanje, se projekt osredotoča na razvoj pogovornih vmesnikov, ki z uporabo naravnega jezika razložijo odločitve modelov. To vključuje tako lokalne (posamezne) kot globalne (splošne) razlage ter vključitev najnovejših znanstvenih spoznanj za boljše razumevanje in sprejemanje rezultatov modelov.

Projekt ima tri ključne cilje:

1. Razvoj pogovornih metod razlage, ki omogočajo vpogled v delovanje modelov skozi interakcijo v naravnem jeziku.
2. Razširitev na t. i. “široke” razlage (broad-XAI), ki vključujejo kontekstualne in globalne informacije ter relevantno znanstveno literaturo.
3. Personalizacija razlag, prilagojena značilnostim posameznega uporabnika (npr. raven znanja, vizualni spomin), z namenom povečanja razumevanja in zaupanja.

Projekt naslavlja pomembne izzive pri uporabi UI v zdravstvu in prispeva k razvoju uporabniku prijaznih, zaupanja vrednih razložljivih sistemov UI.