OpenAI stellt Verbesserungen und neue Funktionen für Assistants API vor

OpenAI kündigt Updates für die Assistants API an, darunter ein verbessertes Retrieval-Tool namens "file_search". Dieses ermöglicht die Einbindung von bis zu 10.000 Dateien pro Assistent, was einer 500-fachen Steigerung entspricht. Zudem werden "vector_store"-Objekte eingeführt, die Dateien automatisch parsen, in Chunks aufteilen und einbetten. Die API unterstützt nun auch die Begrenzung der maximalen Token-Anzahl pro Durchlauf sowie die Steuerung der Verwendung bestimmter Tools. Assistenten und Run objects unterstützen jetzt gängige Modellkonfigurationsparameter wie Temperatur und Top-P-Wert. Darüber hinaus können nun auch feinabgestimmte Modelle in der Assistants API verwendet werden, allerdings vorerst nur Versionen von gpt-3.5-turbo-0125. Die API unterstützt jetzt auch Streaming, und die Node- und Python-SDKs von OpenAI wurden um Streaming- und Polling-Hilfsfunktionen erweitert.