Antrhopics ChatGPT-Konkurrent Claude kann nun Hunderte von Textseiten verarbeiten und überholt damit GPT-4.
Das Kontextfenster eines Chatbots wie ChatGPT bestimmt die Textmenge, die das KI-Modell gleichzeitig verarbeiten kann. Im aktuell verfügbaren GPT-4 von OpenAI liegt das Fenster bei knapp 8.000 Token, eine Variante mit knapp 32.000 Token befindet sich in einem geschlossenen Test.
Das KI-Startup Anthropic erweitert nun das Kontextfenster des ChatGPT-Konkurrenten Claude von bisher knapp 9.000 auf 100.000 Token. Nach Angaben des Unternehmens entspricht dies etwa 75.000 Wörtern und damit hunderten Seiten Text.
Anthropic Claude kann hunderte Seiten verarbeiten
Claude soll die Menge in weniger als einer Minute verarbeiten können. In einem Beispiel änderte das Unternehmen einen Satz im Klassiker "The Great Gatsby" und fragte Claude, ob sich etwas geändert habe. Claude fand den geänderten Satz in 22 Sekunden.
Mit dem großen Kontextfenster soll Claude beispielsweise für Unternehmen Wissen aus mehreren Dokumenten oder einem ganzen Buch zusammenführen können. "Bei komplexen Fragestellungen wird das wahrscheinlich viel besser funktionieren als vektorbasierte Suchverfahren", sagt Anthropic.
Tatsächlich nutzen Unternehmen bereits Vektordatenbanken von Anbietern wie Pinecone, um große Textmengen zu speichern und so für ChatGPT oder andere Sprachmodelle verarbeitbar zu machen. Ob das Kontextfenster tatsächlich Vorteile gegenüber solchen Vektordatenbanken bietet, wird sich zeigen.
Anthropic sieht zahlreiche Anwendungen, die vom Kontextfenster profitieren könnten
Claude könnte auch Zusammenfassungen von transkribierten Podcasts erstellen - 100.000 Token entsprechen etwa sechs Stunden Audio - oder hunderte Seiten API-Dokumentation durchsuchbar machen.
Weiter Anwendungsbeispiele seien:
- Verdichtung, Zusammenfassung und Erläuterung umfangreicher Dokumente wie Jahresabschlüsse oder Research Papers
- Analyse der strategischen Risiken und Chancen eines Unternehmens anhand von Geschäftsberichten
- Das Für und Wider eines Gesetzes beurteilen
- Erkennen von Risiken, Themen und verschiedenen Argumentationsformen in juristischen Dokumenten.
- Hunderte von Seiten Entwicklerdokumentation zu lesen und Antworten auf technische Fragen zu finden
- Schnelle Erstellung von Prototypen durch Einfügen einer ganzen Codebasis in den Kontext und intelligentes Aufbauen oder Modifizieren auf dieser Basis
Das 100.000 Token Kontextfenster ist jetzt über die Claude-API verfügbar. Zugang zu Claude lässt sich hier beantragen.