OpenAI kündigt Updates für die Assistants API an, darunter ein verbessertes Retrieval-Tool namens "file_search". Dieses ermöglicht die Einbindung von bis zu 10.000 Dateien pro Assistent, was einer 500-fachen Steigerung entspricht. Zudem werden "vector_store"-Objekte eingeführt, die Dateien automatisch parsen, in Chunks aufteilen und einbetten. Die API unterstützt nun auch die Begrenzung der maximalen Token-Anzahl pro Durchlauf sowie die Steuerung der Verwendung bestimmter Tools. Assistenten und Run objects unterstützen jetzt gängige Modellkonfigurationsparameter wie Temperatur und Top-P-Wert. Darüber hinaus können nun auch feinabgestimmte Modelle in der Assistants API verwendet werden, allerdings vorerst nur Versionen von gpt-3.5-turbo-0125. Die API unterstützt jetzt auch Streaming, und die Node- und Python-SDKs von OpenAI wurden um Streaming- und Polling-Hilfsfunktionen erweitert.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!