OpenAI führt eine neue Batch API ein, die bis zu 50 Prozent Ermäßigung für asynchrone API-Aufgaben wie Zusammenfassung, Übersetzung und Bildklassifizierung bietet. Die Batch API ermöglicht es, Ergebnisse für eine große Anzahl von API-Anfragen innerhalb von 24 Stunden zu erhalten. Dazu muss eine JSONL-Datei mit den Anfragen im Batch-Format hochgeladen werden. Derzeit wird nur der Endpunkt /v1/chat/completions unterstützt. Neben der Anfragedatei und dem Endpunkt muss auch ein 24-Stunden-Zeitfenster für die Bearbeitung angegeben werden. Optional können benutzerdefinierte Metadaten zum Batch hinzugefügt werden. Die neue Batch API spart Kosten und bietet höhere Limits für asynchrone Aufgaben. OpenAI erwartet dadurch eine effizientere Nutzung seiner APIs für Anwendungen, die eine große Anzahl von Anfragen benötigen.
Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Quellen
News, Tests und Berichte über VR, AR und MIXED Reality.
Meta Quest: Offizielle Cloud-Streaming-App taucht im Store auf
Kickstarter-Projekt will VR-Wave-Shooter mit Piñata-Monstern auf Meta Quest & PC-VR bringen
Warum es vorerst keinen Test zur Meta Quest 3S auf MIXED geben wird
MIXED.de
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!