Anthropic stellt neues Zitations-Feature für Claude-Modelle vor
Kurz & Knapp
- Anthropic führt mit "Citations" eine neue API-Funktion für seine Claude 3.5 Modelle ein, die automatisch Quellenangaben in die Antworten einfügt und so die Vertrauenswürdigkeit KI-generierter Inhalte erhöhen soll.
- Die Funktion verarbeitet von Nutzern bereitgestellte Quelldokumente, zerlegt sie in Sätze und übergibt diese zusammen mit Kontext und Anfrage an das Modell. Damit entfällt die Notwendigkeit für komplexes Prompt Engineering.
- Anthropic sieht vielfältige Einsatzmöglichkeiten etwa bei Dokumentenzusammenfassungen, komplexen Fragen über große Dokumentenbestände oder im Kundenservice. Der Anwender Endex berichtet von deutlich reduzierten Fehlerraten bei Quellen-Halluzinationen und Formatierung.
Anthropic führt mit "Citations" eine neue API-Funktion ein, die es Claude ermöglicht, seine Antworten automatisch mit Quellenangaben zu versehen. Das Feature soll KI-generierte Inhalte vertrauenswürdiger machen.
Die neue Funktion ist via API ab sofort für die Claude 3.5 Modelle Sonnet und Haiku verfügbar. Nach Angaben von Anthropic übertrifft die integrierte Zitierungsfähigkeit die meisten individuellen Implementierungen und erhöht die Genauigkeit der Quellenangaben um bis zu 15 Prozent.
Die neue Funktion verarbeitet von Nutzern bereitgestellte Quelldokumente wie PDFs und Textdateien, indem sie diese in Sätze zerlegt. Diese Textfragmente werden dann zusammen mit dem Nutzerkontext und der Anfrage an das Modell übergeben.
Entwickler mussten bisher komplexe Prompts verwenden, um Quelleninformationen in die Ausgaben einzubinden. Dies führte oft zu inkonsistenten Ergebnissen und einem hohen Aufwand beim Prompt-Engineering, so Anthropic. Das neue Feature nutzt Anthropics standardisiertes, Token-basiertes Preismodell. Die zitierten Textstellen werden in der Ausgabe nicht zusätzlich berechnet.
Verbesserungen bei Halluzinationen und Formatierung
Während Thomson Reuters' KI-Plattform CoCounsel die neue Funktion für eine vertrauenswürdigere Rechtsberatung einsetzen will, konnte das Finanzunternehmen Endex mit seinem autonomen Finanzagenten laut eigenen Angaben schon Verbesserungen erzielen: Die Rate von "Quellen-Halluzinationen" und Formatierungsfehlern sank von 10 auf 0 Prozent, während gleichzeitig die Anzahl der Referenzen pro Antwort um 20 Prozent stieg. Beide Unternehmen betonen, dass Citations den Aufwand beim Prompt-Engineering reduziert.
Anthropic sieht vielfältige Einsatzmöglichkeiten für Citations, etwa bei der Dokumentenzusammenfassung, der Beantwortung komplexer Fragen über große Dokumentenbestände hinweg oder im Kundenservice, wo Produkthandbücher und FAQs ausgewertet werden können. Die automatische Zitierung soll dabei Halluzinationen minimieren und das Vertrauen in KI-generierte Inhalte stärken.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.