Häufig wird beim Einsatz von KI von Vorurteilen und Diskriminierung gesprochen. Zu Recht, denn soziale und technische Verzerrungen sind in den meisten Modellen angelegt. Aber auch Menschen haben bewusste und unbewusste Vorurteile und diskriminieren.
Laut einer Studie von Forschern des Massachusetts Institute of Technology (MIT) sind Ärzte schlechter darin, Hautkrankheiten bei dunkelhäutigen Menschen auf Bildern zu diagnostizieren.
Die Studie ergab, dass Dermatologen nur 34 Prozent der Bilder von dunkelhäutigen Menschen richtig einstuften, während sie bei heller Haut etwa 38 Prozent richtig einstuften.
Allgemeinmediziner waren insgesamt weniger genau, zeigten aber eine ähnliche Abnahme der diagnostischen Genauigkeit bei dunkler Haut.
Künstliche Intelligenz kann Genauigkeit von dermatologischen Diagnosen verbessern, gleicht aber keinen Bias aus
Die Studie umfasste mehr als 1.000 Dermatologen und Allgemeinmediziner, die über die soziale Netzwerkseite Sermo für Ärzte rekrutiert wurden.
Den Teilnehmern wurden 364 Bilder aus Dermatologie-Lehrbüchern und anderen Quellen zur Verfügung gestellt, die 46 Hautkrankheiten auf verschiedenen Hauttönen zeigten.
Die Studienteilnehmer wurden gebeten, ihre drei besten Prognosen für die mögliche Krankheit jedes Bildes anzugeben und ob sie den Patienten für eine Biopsie überweisen würden.
Sowohl Dermatologen als auch Allgemeinmediziner profitierten von der KI-Unterstützung. Dermatologen konnten ihre Genauigkeit um bis zu 60 Prozent steigern, Allgemeinmediziner um bis zu 47 Prozent.
Letztere konnten ihre Diagnosefähigkeit mit KI bei heller Haut stärker steigern, obwohl der KI-Algorithmus bei heller und dunkler Haut gleich gut funktioniere, so die Forscher.
Zudem waren die Ärzte gut darin, Fehldiagnosen der KI zu erkennen und zu verwerfen, wenn ihre eigene Diagnose richtig war.
Ein Faktor, der zu den Unterschieden in der diagnostischen Genauigkeit bei verschiedenen Hauttönen beitragen könnte, ist, dass die Bilder in dermatologischen Lehrbüchern und Schulungsmaterialien überwiegend hellere Hauttöne zeigen.
Ärzte könnten weniger Erfahrung mit der Behandlung von Patienten mit dunkler Hautfarbe haben und daher bei bestimmten Personengruppen schlechtere Ergebnisse erzielen.
Die MIT-Forscher hoffen, dass ihre Ergebnisse zu mehr Schulungen und Inhalten in Lehrbüchern über Patienten mit dunkler Haut führen werden. Sie könnten auch dazu beitragen, die Einführung von Programmen zur Unterstützung durch künstliche Intelligenz in der Dermatologie zu lenken, die derzeit von vielen Unternehmen entwickelt werden.