Eine Google-KI für die Diagnose einer Augenkrankheit zeigt die Herausforderung der KI-Implementierung im Alltag auf.
Googles Medizinabteilung Health versucht sich an der Implementierung einer CE-geprüften Diagnose-KI im thailändischen Klinikalltag. Sie soll Patienten mit Diabetes auf Diabetische Retinopathie prüfen. Wird diese früh erkannt, kann eine drohende Blindheit verhindert werden. In insgesamt elf Kliniken testete Google Health die KI über mehrere Monate hinweg.
Der normale Untersuchungsprozess läuft so: Eine Pflegekraft fotografiert das Auge eines Patienten und schickt das Bild an einen niedergelassenen Augenarzt, der es auf Hinweise einer Erkrankung prüft wie auffällige Blutgefäße. Tauchen diese auf, werden weitere Untersuchungen angeordnet. Der Prozess kann mehrere Wochen dauern: 4,5 Millionen Patienten treffen in Thailand auf circa 200 spezialisierte Augenärzte.
Die KI prüft wie der Augenarzt das Bild auf visuell auffällige Merkmale, soll aber viel schneller sein. Die Diagnose steht nach maximal zehn Minuten bei einer Genauigkeit von mehr als 90 Prozent. So funktionierte die Technik jedenfalls unter Laborbedingungen.
Zehn Minuten statt zehn Wochen? Das würde die medizinische Versorgung signifikant verbessern und viel Zeit und Geld sparen.
Die Realität stellt der KI ein Bein
Im Klinikalltag stieß Googles KI-Diagnose jedoch an ihre Grenzen. Das KI-System wies mehr als ein Fünftel der eingereichten Bilder ab, da die Bildqualität nicht ausreichte.
Die Pflegekräfte in den elf Kliniken nutzten keinen einheitlichen Prozess für die Aufnahmen, entsprechend unterschiedlich waren die für die Diagnose bereitgestellten Augenfotos. Nur zwei der elf Kliniken hatten spezielle Aufnahmeräume, die eine ausreichende Bildqualität garantieren.
Das KI-Training fand einerseits mit hochauflösenden Bildern statt, andererseits war das System so konfiguriert, dass es Bilder schon bei geringen Einfärbungen oder Unschärfen ablehnt - auch wenn eine gute Vorhersage möglich wäre. So eine Ablehnung sorgt für Frustration bei Patienten und Pflegekräften. Fotos mussten erneut gemacht werden oder die Patienten sollten einen Folgetermin vereinbaren.
Hinzu kam, dass die Internetverbindung der Kliniken mitunter so langsam war, dass Bilder erst nach 60 bis 90 Sekunden hochgeladen waren. Das ist an sich keine lange Zeit, aber bei Dutzenden Scans pro Stunde fällt sie ins Gewicht.
KI als menschlicher Leistungsverstärker
Bei der Einführung neuer Technologien berücksichtigten Planer, politische Entscheidungsträger und Technologiedesigner die Dynamik eines komplexen Gesundheitssystems generell nicht ausreichend, schreiben die Google-Forscher mit Verweis auf eine Studie. Bei der Implementierung müssten daher unbedingt die Menschen berücksichtigt werden - ihre Motivation, ihre Werte, ihre berufliche Identität sowie Normen und Routinen im Arbeitsalltag.
Insgesamt fällt das Fazit zum Implementierungsprojekt trotz der Widrigkeiten eher positiv aus: Die KI habe Menschen, die gut in ihrem Job seien, noch besser gemacht.
Eine Schwester habe mit dem KI-Werkzeug 1.000 Patienten im Alleingang gescannt und sei "nicht aufzuhalten gewesen", erklärt Emma Beede, die für Google-Health-Anwendungen die Nutzererfahrungen untersucht. Die Patienten kümmerte es laut Beede nicht, ob ein Mensch oder eine Maschine ihr Auge untersucht. Für sie habe die Nutzererfahrung im Vordergrund gestanden.
Zukünftig geplante Verbesserungen betreffen sowohl Mensch als auch Technik: Gemeinsam mit den Pflegekräften und im Einklang mit der KI-Diagnosetechnologie sollen Arbeitsprozesse definiert werden. Außerdem soll das System suboptimale Bilder besser verarbeiten lernen.
Das Projekt zeigt auch: KI im Labor und KI im Alltag sind zwei Paar Schuhe.
Quellen: MIT, Google Health Blog, Google Health, Nature; Bilder: Google
