Themen Hub KI in der Medizin
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
Anzeige
KI-News 24/7: Wirtschaft, Forschung & mehr
Die US-Behörde FDA, die über Medikamentenzulassungen entscheidet, setzt auf das generative KI-System Elsa – obwohl das laut Insidern regelmäßig Studien halluziniert.
„Alles, wofür man keine Zeit hat, es zu überprüfen, ist unzuverlässig. Es halluziniert voller Überzeugung“, sagt ein aktueller FDA-Mitarbeiter über das KI-System „Elsa“ (Efficient Language System for Analysis), das eigentlich die Zulassung neuer Medikamente beschleunigen soll. Mehrere Beschäftigte berichten gegenüber CNN, dass Elsa regelmäßig nicht existierende Studien erfindet oder Forschungsdaten falsch darstellt – ein bekanntes Problem großer Sprachmodelle. Der FDA-Chef für KI, Jeremy Walsh, räumt ein: „Elsa unterscheidet sich nicht von vielen anderen großen Sprachmodellen und generativer KI. Sie kann möglicherweise halluzinieren.“
Trotz dieser bekannten Schwächen wird Elsa bereits zur Bewertung klinischer Protokolle und zur Risikoeinschätzung bei Inspektionen eingesetzt – und das in einem regulatorischen Vakuum, da es in den USA derzeit keine verbindlichen Regeln für den Einsatz von KI im Gesundheitswesen gibt.
Der Deepmind-Ableger Isomorphic Labs will Medikamente künftig per Knopfdruck entwickeln - und bereitet erste klinische Studien vor.
"Eines Tages wollen wir sagen können: Da ist eine Krankheit – und mit einem Klick spuckt die KI den passenden Wirkstoff aus", sagt Colin Murdoch, Präsident von Isomorphic Labs und Chief Business Officer bei Deepmind, gegenüber Fortune.
Das Unternehmen bereitet erste klinische Studien mit Medikamenten vor, die mithilfe von AlphaFold-basierten KI-Systemen entworfen wurden. Ziel ist es, die bislang langsame und teure Arzneimittelentwicklung radikal zu beschleunigen. Laut Murdoch sind auch Wirkstoffe gegen Krebs in Entwicklung.
Isomorphic Labs schloss im letzten Jahr Verträge mit Eli Lilly und Novartis. 2025 folgte eine Finanzierungsrunde über 600 Millionen US-Dollar unter Führung von Thrive Capital.