Anthropic führt mit "Citations" eine neue API-Funktion ein, die es Claude ermöglicht, seine Antworten automatisch mit Quellenangaben zu versehen. Das Feature soll KI-generierte Inhalte vertrauenswürdiger machen.
Die neue Funktion ist via API ab sofort für die Claude 3.5 Modelle Sonnet und Haiku verfügbar. Nach Angaben von Anthropic übertrifft die integrierte Zitierungsfähigkeit die meisten individuellen Implementierungen und erhöht die Genauigkeit der Quellenangaben um bis zu 15 Prozent.
Die neue Funktion verarbeitet von Nutzern bereitgestellte Quelldokumente wie PDFs und Textdateien, indem sie diese in Sätze zerlegt. Diese Textfragmente werden dann zusammen mit dem Nutzerkontext und der Anfrage an das Modell übergeben.
Entwickler mussten bisher komplexe Prompts verwenden, um Quelleninformationen in die Ausgaben einzubinden. Dies führte oft zu inkonsistenten Ergebnissen und einem hohen Aufwand beim Prompt-Engineering, so Anthropic. Das neue Feature nutzt Anthropics standardisiertes, Token-basiertes Preismodell. Die zitierten Textstellen werden in der Ausgabe nicht zusätzlich berechnet.
Verbesserungen bei Halluzinationen und Formatierung
Während Thomson Reuters' KI-Plattform CoCounsel die neue Funktion für eine vertrauenswürdigere Rechtsberatung einsetzen will, konnte das Finanzunternehmen Endex mit seinem autonomen Finanzagenten laut eigenen Angaben schon Verbesserungen erzielen: Die Rate von "Quellen-Halluzinationen" und Formatierungsfehlern sank von 10 auf 0 Prozent, während gleichzeitig die Anzahl der Referenzen pro Antwort um 20 Prozent stieg. Beide Unternehmen betonen, dass Citations den Aufwand beim Prompt-Engineering reduziert.
Anthropic sieht vielfältige Einsatzmöglichkeiten für Citations, etwa bei der Dokumentenzusammenfassung, der Beantwortung komplexer Fragen über große Dokumentenbestände hinweg oder im Kundenservice, wo Produkthandbücher und FAQs ausgewertet werden können. Die automatische Zitierung soll dabei Halluzinationen minimieren und das Vertrauen in KI-generierte Inhalte stärken.
