Letztlich liege die Verantwortung für eine Diagnose beim Kliniker, daher sei die Vorsicht beim Einsatz KI-basierter Systeme, deren Entscheidungen man nicht nachvollziehen kann, berechtigt, so PD Dr. med. Titus Brinker vom Deutschen Krebsforschungszentrum Heidelberg. Hier setzt seine neu entwickelte App „sKIn“ an, ein auf XAI (explainable artificial intelligence) basierendes KI-Unterstützungssystem zum qualitativ hochwerti­gen Hautscreening, das direkt ins Dermatoskop eingebaut werden soll. „Das Unterstützungssystem ist auf die klinische Sichtweise abgestimmt und erklärt seine Entscheidungsfindung“, so Brinker. In einer 3-phasigen Studie mit > 100 Dermatologinnen und Dermatologen steigerte das XAI-System die diagnostische Genauigkeit bei der Melanom-Erkennung – und das Vertrauen in die eigene Diagnose. Aktuell befindet es sich im Zulassungsverfahren.