Verschiedene Suchmaschinen für die Suche nach wissenschaftlichen Publikationen werden mit KI-Funktionen ausgestattet. Die Anbieter versprechen besondere Vorsicht, denn gerade in der Wissenschaft könnten KI-generierte Fehlinformationen großen Schaden anrichten.
Am 1. August hat Elsevier, ein großer niederländischer Wissenschaftsverlag, Scopus AI für einen ausgewählten Kreis von 15.000 Beta-Nutzer:innen veröffentlicht. Dabei handelt es sich um eine auf GPT-3.5 basierende KI-Suche für die bestehende Scopus-Datenbank. Die endgültige Produkteinführung ist für Anfang 2024 geplant.
Die Versprechen, was Scopus AI alles können soll, sind groß: Das Tool soll Forschenden einen prägnanten und zuverlässigen Überblick über Forschungsthemen inklusive akademischer Referenzen geben, die Lesezeit und das Risiko von Halluzinationen reduzieren, eine einfache Navigation zu weiterführenden Links bieten und Abfragen in natürlicher Sprache ermöglichen.
Demnächst soll auch eine grafische Darstellung eingeführt werden, die es ermöglicht, in die Beziehungen zwischen verschiedenen Papieren einzutauchen.
Verschiedene KI-Modelle angebunden
Digital Science, das Unternehmen hinter der weit verbreiteten Datenbanksuche Dimensions, folgt diesem Trend und kündigte am 1. August eine geschlossene Testphase für einen KI-Assistenten an, der sein eigenes General Science-BERT-Sprachmodell sowie die GPT-Modelle von OpenAI verwendet.
"Wenn Benutzer:innen mit dem Dimensions AI Assistant interagieren, scannt dieser 33 Millionen Artikel aus der Dimensions-Datenbank, ruft die Top-Ergebnisse ab und ordnet sie dann mithilfe semantischer Einbettungen", erklärt Head of Innovation Martin Schmidt.
Die Zusammenfassungen der vier besten Ergebnisse werden dann von einer OpenAI-API verarbeitet, um abstrakte Zusammenfassungen zu generieren. Das General-Science-BERT-Modell von Dimension wiederum soll die Antworten der zehn relevantesten Publikationen liefern.
Video: Digital Science
Ähnliches gilt für Clarivate und ihr Produkt Web of Science. Dessen Assistent wird auf einem großen Sprachmodell von AI21 Labs basieren, möglicherweise ein Derivat von Jurassic-1.
Wissenschaftlern soll damit ein schneller Zugriff auf detaillierte und kontextbezogene Informationen und Antworten sowie beispielsweise personalisierte Empfehlungen ermöglicht werden, schreibt Clarivate in einer Pressemitteilung.
Gefahr der Fehlinformation
Bisher galten Chatbots für die wissenschaftliche Forschung als eher ungeeignet, da sie Informationen samt Quellen erfinden können. Diese klingen zwar plausibel, sind aber bei weiterer Recherche nicht auffindbar. Das von Meta veröffentlichte Wissenschaftssprachmodell Galactica etwa ging nach massiven Protesten aus der wissenschaftlichen Gemeinschaft kurz nach der Veröffentlichung wieder vom Netz.
Bei den genannten Anbietern Elsevier, Digital Science und Clarivate herrscht daher verständlicherweise Vorsicht, die Software noch nicht direkt für alle Nutzer:innen zu veröffentlichen. Stattdessen wird sie zunächst in einem kleinen Kreis in einer geschlossenen Beta getestet. Wie die Datenbankbetreiber den KI-Wildwuchs eindämmen wollen, geht aus der Ankündigung nicht hervor.
Wir sind uns der Herausforderungen bewusst, die der Einsatz von KI mit sich bringt, insbesondere in einem so grundlegenden und wichtigen Bereich wie der Forschung.
Die ethischen und sozialen Auswirkungen dieser Technologie können nicht ignoriert werden, und wir glauben, dass ein ethischer und verantwortungsbewusster Ansatz erforderlich ist, selbst angesichts der schnellen Innovation und des Hypes um KI.
Wir verpflichten uns, nur solche Tools freizugeben, deren Nachteile wir entweder verstehen und explizit benennen können oder bei denen wir ein hohes Maß an Vertrauen in ihre Ergebnisse haben. Wir glauben, dass dieser Ansatz entscheidend dafür ist, dass Nutzer:innen wissen, wann sie KI vertrauen können und wann Vorsicht geboten ist.
Daniel Hook, CEO von Digital Science
Dass KI neben der Generierung von Inhalten vorwiegend bei der Informationsbeschaffung im Rahmen von Suchmaschinen helfen kann, ist eine gängige These. Besondere Ambitionen zeigen beispielsweise Google mit der Search Generative Experience oder Microsoft mit der Integration von GPT-4 in Bing.
Zuletzt hat etwa die Coding-Plattform Stack Overflow mit Overflow AI eine ganze Reihe neuer Werkzeuge angekündigt, die es Entwickler:innen leichter machen sollen, beispielsweise bestimmte Teile einer unternehmenseigenen Code-Dokumentation zu finden.
