Anthropic stellt neues Zitations-Feature für Claude-Modelle vor
Anthropic führt mit "Citations" eine neue API-Funktion ein, die es Claude ermöglicht, seine Antworten automatisch mit Quellenangaben zu versehen. Das Feature soll KI-generierte Inhalte vertrauenswürdiger machen.
Die neue Funktion ist via API ab sofort für die Claude 3.5 Modelle Sonnet und Haiku verfügbar. Nach Angaben von Anthropic übertrifft die integrierte Zitierungsfähigkeit die meisten individuellen Implementierungen und erhöht die Genauigkeit der Quellenangaben um bis zu 15 Prozent.
Die neue Funktion verarbeitet von Nutzern bereitgestellte Quelldokumente wie PDFs und Textdateien, indem sie diese in Sätze zerlegt. Diese Textfragmente werden dann zusammen mit dem Nutzerkontext und der Anfrage an das Modell übergeben.
Entwickler mussten bisher komplexe Prompts verwenden, um Quelleninformationen in die Ausgaben einzubinden. Dies führte oft zu inkonsistenten Ergebnissen und einem hohen Aufwand beim Prompt-Engineering, so Anthropic. Das neue Feature nutzt Anthropics standardisiertes, Token-basiertes Preismodell. Die zitierten Textstellen werden in der Ausgabe nicht zusätzlich berechnet.
Verbesserungen bei Halluzinationen und Formatierung
Während Thomson Reuters' KI-Plattform CoCounsel die neue Funktion für eine vertrauenswürdigere Rechtsberatung einsetzen will, konnte das Finanzunternehmen Endex mit seinem autonomen Finanzagenten laut eigenen Angaben schon Verbesserungen erzielen: Die Rate von "Quellen-Halluzinationen" und Formatierungsfehlern sank von 10 auf 0 Prozent, während gleichzeitig die Anzahl der Referenzen pro Antwort um 20 Prozent stieg. Beide Unternehmen betonen, dass Citations den Aufwand beim Prompt-Engineering reduziert.
Anthropic sieht vielfältige Einsatzmöglichkeiten für Citations, etwa bei der Dokumentenzusammenfassung, der Beantwortung komplexer Fragen über große Dokumentenbestände hinweg oder im Kundenservice, wo Produkthandbücher und FAQs ausgewertet werden können. Die automatische Zitierung soll dabei Halluzinationen minimieren und das Vertrauen in KI-generierte Inhalte stärken.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.