Anzeige
Skip to content

Cloudflare will mit Clef KI-Agenten befähigen, ohne Menschen zu entscheiden

Image description
GPT-Image-2 prompted by THE DECODER

Kurz & Knapp

  • Cloudflare hat mit Clef und Clef-flash zwei Entscheidungsmodelle für KI-Agenten veröffentlicht, die direkt mit Jev von TypeSafe AI konkurrieren.
  • Statt Fließtext zu erzeugen, klassifizieren die Modelle Eingaben anhand vorgegebener Optionen und Wahrscheinlichkeiten, damit nachgelagerte Systeme automatisiert handeln können.
  • Die auf Qwen basierenden Modelle verarbeiten Text sowie Bilder und arbeiten laut Cloudflare mit Reaktionszeiten von 39 bis 209 Millisekunden schneller als die Konkurrenz.

Cloudflare veröffentlicht mit Clef und Clef-flash zwei eigene Entscheidungsmodelle für KI-Agenten. Gegen den Vorreiter Jev tritt das Unternehmen vor allem mit Tempo an.

Ein Entscheidungsmodell liefert statt eines langen Texts eine kurze Klassifizierung mit Wahrscheinlichkeiten. Übergibt man Clef etwa eine Kundensupport-Nachricht, bewertet das Modell die Dringlichkeit und nennt das zuständige Team. Der nachgelagerte Code kann anhand der Ergebnisse ein Ticket weiterleiten, eine Eskalation auslösen oder den Fall an einen Menschen übergeben. Laut Cloudflare muss damit "nicht unbedingt" an jedem Entscheidungspunkt ein Mensch sitzen. Agenten könnten selbst Kontext sammeln, entscheiden und handeln.

Schaubild, in dem ein Support-Ticket über API-Fehler und zwei Fragen zu Team und Dringlichkeit in ein Entscheidungsmodell fließen, das parallel 100 Prozent für das Technik-Team und 100 Prozent für Dringlichkeit ausgibt.
Ein Entscheidungsmodell beantwortet mehrere vorgegebene Fragen zu einer Eingabe gleichzeitig und liefert für jede Antwortoption eine Wahrscheinlichkeit. | Bild: Cloudflare

Solche Modelle besetzen eine Nische zwischen großen Sprachmodellen und klassischen Klassifikatoren. Sprachmodelle können argumentieren und Werkzeuge aufrufen, arbeiten aber unbestimmt und oft langsam. Klassische Klassifikatoren sind schnell, müssen aber für jede neue Kategorie neu trainiert werden. Cloudflare versteht Clef als direkte Antwort auf das Modell Jev von TypeSafe AI und hält die Schnittstelle vollständig kompatibel, damit Kunden leicht wechseln können.

Den Namen leitet Cloudflare aus der Musik ab. Ein Notenschlüssel (englisch Clef) ordnet den Linien eines Notensystems Tonhöhen zu. Ein Entscheidungsmodell legt analog den Rahmen für anschließende Handlungen fest. Die phonetische Ähnlichkeit zum Vorbild "Jev" dürfte ebenfalls kein Zufall sein.

Anzeige

Clef-flash entscheidet in 39 Millisekunden

In 43 getesteten Benchmarks seien Clef und das kleinere Clef-flash schneller als alle relevanten konkurrierenden Entscheidungsmodelle. Bei der mittleren Latenz nennt Cloudflare rund 39 Millisekunden für Clef-flash und rund 209 Millisekunden für Clef. Jev benötige gut 524 Millisekunden. Da die Modelle direkt auf Cloudflares Infrastruktur laufen, profitieren sie zusätzlich von der Nähe zu den Rechenzentren am Netzrand.

Streudiagramm mit Decision-Index-Wert auf der y-Achse und mittlerer Latenz in Millisekunden auf der x-Achse; Clef erreicht 61,2 Punkte bei rund 210 Millisekunden, Clef-flash 57,1 Punkte bei rund 40 Millisekunden, Jev 57,9 Punkte bei rund 525 Millisekunden, dazu offene Modelle wie AutoJev-27B und Kev 9B.
In Cloudflares selbst erhobenen Werten liefert Clef die höchste Entscheidungsqualität, Clef-flash erreicht fast das Niveau von Jev bei einem Bruchteil der Latenz. | Bild: Cloudflare

Cloudflares Threat-Intelligence-Team testet Clef bereits zur Einordnung von Websites. Eine Domain werde etwa mit 95 Prozent Wahrscheinlichkeit als Mode-Website klassifiziert, zu 85 Prozent als Online-Shop und zu unter einem Prozent als Phishing-Seite. Abrufen, Darstellen und Einordnen dauerten 2,2 Sekunden. Das schnellste allgemeine Sprachmodell des Unternehmens brauchte im selben Ablauf 4,7 Sekunden und lieferte nur zwei Kategorien.

Clef kann laut Cloudflare auch Bilder verarbeiten. Jev ist bislang auf Text beschränkt. Mit einem Kontextfenster von 64.000 Token fasst Clef zudem doppelt so viel Eingabe wie Jev. In den von Cloudflare selbst durchgeführten Benchmarks liegt Clef auf dem Jev Decision Index vorn.

Benchmark · accuracy Clef Clef-flash Jev DiffusionGemma Jev Kev 9B Laya
API-Bank 91.93 93.11 88.19 83.66 56.30 11.41
When2Call 72.37 65.58 80.97 75.44 49.62 11.94
PhishNChips 79.60 75.05 62.55 85.35 50.75 50.15

Qwen-Modelle als Grundlage

Clef basiert laut Cloudflare auf Qwen3.8-27B, Clef-flash auf dem kleineren Qwen3.5-9B. Die Basismodelle bleiben beim Training unverändert. Mit eigenen synthetischen Daten trainiert Cloudflare zusätzliche Komponenten, die aus den internen Berechnungen Antwortoptionen und Wahrscheinlichkeiten ableiten.

Anzeige

Dafür nutzt Cloudflare auch eine eigene Variante des Trainingsverfahrens Reinforcement Learning for Calibrated Decisions (RLCD), mit dem TypeSafe sein Modell Jev trainiert hat. RLCD trainiert Modelle darauf, mehrere Fragen zu einer Eingabe in einem einzigen Aufruf zu beantworten. Die angegebenen Wahrscheinlichkeiten sollen widerspiegeln, wie oft die Antworten tatsächlich richtig sind. Zuvor hatte Cloudflare mit DiffusionGemma experimentiert, um aus den internen Berechnungen eines Sprachmodells feste Entscheidungswerte abzuleiten.

Cloudflare trainiert Clef für Kunden nach

Parallel startet Cloudflare einen Reinforcement-Learning-Dienst, mit dem Kunden Clef auf eigene Aufgaben zuschneiden können. Zunächst übernimmt ein Team von Forward Deployed Engineers das Nachtrainieren gemeinsam mit den Kunden, später soll eine Self-Service-Plattform folgen. Dort sollen Kunden ihre Anfragen über AI Gateway als Datensatz mitschneiden, in Containern als RL-Sandbox auswerten und das nachtrainierte Modell über eine neue Trainer-Komponente auf Workers AI bereitstellen. Für den Betrieb eigener Modelle greift Cloudflare auf Technik von Replicate zurück, das es Ende 2025 übernommen hat.

Ablaufdiagramm des geplanten Fine-Tuning-Prozesses mit den Stationen AI Gateway zum Mitschneiden von Anfragen, eigener Datenaufbereitung, einer RL-Trainingsschleife aus Workers AI, Containers und RL Trainer sowie dem Deployment auf Workers AI mit eigenem Modell.
Cloudflares Self-Service-Plattform soll Produktionsdaten mitschneiden, Clef per Reinforcement Learning nachtrainieren und das angepasste Modell direkt wieder bereitstellen. | Bild: Cloudflare

Intern will Cloudflare Clef unter anderem zur Prüfung von Missbrauchsmeldungen, zur Sortierung von Support-Anfragen und zur Unterscheidung zwischen guten und schädlichen Bots nutzen. Dafür stehen laut Unternehmen mehr als 15 Jahre an Netzwerkdaten zur Verfügung.

Beide Modelle laufen auf Cloudflares Plattform Workers AI und stehen auf Hugging Face unter der Apache-2.0-Lizenz zur Verfügung.

Bekannt gemacht hat den Ansatz das Start-up TypeSafe AI des ehemaligen OpenAI-Forschers Diogo Almeida, das Mitte September Jev vorstellte. TypeSafe bewirbt Jev als Modell „ohne Halluzinationen“. Garantiert ist damit lediglich, dass es innerhalb der vorgegebenen Antworten bleibt. Eine falsche Auswahl ist weiterhin möglich. Ende September zog OpenAI mit einer Decisions-API auf Basis von GPT-6 Luna nach, die Kontext ebenfalls als Text oder Bild annimmt.

Cloudflare betreibt primär ein globales Netzwerk für Content Delivery, DNS und Sicherheitsdienste und ist bislang kaum mit eigenen KI-Modellen aufgefallen. Beim Thema KI machte das Unternehmen zuletzt als Kontrollinstanz für Websites Schlagzeilen. Im Juli erlaubte es Seitenbetreibern etwa, KI-Bots gezielt nach Zweck zu blockieren oder zuzulassen.

KI-News ohne Hype – von Menschen kuratiert

Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.

Quelle: Cloudflare