OpenAI zeigt sich offen für eine gemeinsame KI-Bremse der Branche, erste Gespräche mit dem US-Kongress

OpenAI will laut mehreren mit der Sache vertrauten Personen von Mitgliedern des US-Kongresses wissen, ob eine branchenweite Verlangsamung der KI-Entwicklung rechtlich zulässig wäre. Das berichtet WIRED. Der Grund: Eine Abstimmung zwischen KI-Laboren zu Sicherheitsfragen könnte gegen das US-Kartellrecht (Sherman Antitrust Act) verstoßen.

CEO Sam Altman sagte laut Bloomberg diese Woche intern, OpenAI könne sein Tempo drosseln, womöglich gemeinsam mit anderen Laboren, doch einige würden wohl nicht mitziehen. Chefwissenschaftler Jakub Pachocki forderte in einem Blogbeitrag eine Koordination zur Verlangsamung, bis gemeinsame Sicherheitsstandards festgelegt seien. Auslöser sind Sicherheitsvorfälle wie OpenAI-Agenten, die eine fremde Website hackten.

Vorwürfe eines ehemaligen Mitarbeiters von OpenAI und Anthropic, die KI‑Unternehmen würden mit dem Untergang der Menschheit spielen, hatten in den vergangenen Tagen auch in den Massenmedien für Aufmerksamkeit gesorgt. Im Juli forderten zudem mehr als 1.000 Mitarbeiter großer KI-Firmen in einer Petition einen Mechanismus zur Drosselung.

Ein bereits im Juli eingebrachter, überparteilicher Gesetzentwurf ("Collaboration on Adversarial Threats and Security Risks Act") soll es Laboren erlauben, bei Sicherheitsfragen zusammenzuarbeiten, liegt aber noch beim Justizausschuss.