OpenAI fordert internationale Standards für KI, die sich selbst verbessern könnte

OpenAI fordert internationale Standards für die Entwicklung fortschrittlicher KI, insbesondere für sogenannte rekursive Selbstverbesserung (RSI). Bei RSI übernehmen KI-Systeme zunehmend selbst die Arbeit an der nächsten KI-Generation, also automatisierte Forschung, was den Fortschritt stark beschleunigen könnte. Vollständig autonome RSI passiere noch nicht, räumt OpenAI ein, und solle nur verfolgt werden, wenn menschliche Kontrolle gewährleistet sei. Ohne ausgereifte Schutzmaßnahmen könnten Menschen ansonsten die Übersicht über die KI-Entwicklung verlieren. KI könnte dann "gefährlicher, weniger kontrollierbar und insgesamt eine Gefahr für Menschen" werden, schreibt das Unternehmen.

OpenAI schlägt vor, dass die USA die Führung bei globalen technischen Standards übernehmen, aufbauend auf dem Netzwerk nationaler KI-Sicherheitsinstitute und Organisationen wie CAISI oder ISO. Dazu gehören gemeinsame Messverfahren, Vorfallberichte und Regeln für menschliche Aufsicht über automatisierte KI‑Forschung. Auch ein UN-Wissenschaftspanel warnte vor einem möglichen Kontrollverlust bei fortschrittlicher KI, speziell bei autonom agierenden Agentenschwärmen, und schlug eine internationale Zusammenarbeit für KI-Sicherheit vor, ähnlich wie bei Luftfahrt, Atomkraft und Cybersicherheit.