Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
xAIs Kommandozeilen-Tool "grok" hat massive Kritik ausgelöst, weil es beim Ausführen in einem Verzeichnis sämtliche Dateien auf xAIs Google-Cloud-Server hochlud. Ein Nutzer berichtete, dass SSH-Schlüssel, Passwort-Datenbanken, Dokumente und Fotos übertragen wurden. Elon Musk kündigte anschließend an, alle hochgeladenen Nutzerdaten vollständig zu löschen. xAI deaktivierte die Upload-Funktion und stellte den gesamten Quellcode unter Apache-2.0-Lizenz auf GitHub bereit, um Vertrauen zurückzugewinnen. Mit der Veröffentlichung will xAI vollständige Transparenz schaffen. Das Tool kann nun auch vollständig lokal mit eigener Inferenz betrieben werden.
Die Codebasis umfasst rund 844.530 Zeilen Rust und enthält den Agenten-Loop, Tools, das Terminal-UI sowie ein Erweiterungssystem für Plugins und Subagenten. Reste der Upload-Funktion sind noch im Code vorhanden, aber deaktiviert. Laut xAI ist die Datenspeicherung seit dem 12. Juli standardmäßig abgeschaltet.
OpenAI hat mit GPT-Red ein internes KI-Modell trainiert, das automatisiert Sicherheitslücken in GPT-Modellen aufspüren soll. GPT-Red simuliert Angriffe wie Prompt-Injections, bei denen schädliche Anweisungen etwa in E-Mails, Webseiten oder Dateien versteckt werden, um ein KI-Modell zu manipulieren. Das Modell wurde per Self-Play-Reinforcement-Learning trainiert: GPT-Red greift an, Verteidiger-Modelle wehren ab, beide werden dabei besser. Laut OpenAI findet GPT-Red in 84 Prozent der Testszenarien erfolgreiche Angriffe, menschliche Red-Teamer nur in 13 Prozent. In einem Praxistest manipulierte GPT-Red einen KI-gesteuerten Automaten im OpenAI-Büro, änderte Preise und stornierte Bestellungen anderer Kunden.
Die Ergebnisse fließen direkt ins Training ein: GPT-5.6 Sol weist laut OpenAI sechsmal weniger Fehler bei direkten Prompt-Injections auf als das beste Modell von vor vier Monaten, ohne dass die allgemeine Leistungsfähigkeit leide. Damit bleibt es aber dennoch weiter anfällig: Rund 3,8 Prozent der stärkeren Prompt-Injections sind erfolgreich. Skaliert man die Angriffe auf Hunderte oder Tausende, kann hier eine beachtliche Anzahl zustande kommen, ähnlich wie bei Claude Opus 4.5.
GPT-Red bleibt intern und wird nicht veröffentlicht. Ein Paper mit weiteren Details soll folgen.
Ehemalige und aktuelle Meta-Mitarbeiter verklagen das Unternehmen wegen angeblich diskriminierender Entlassungen durch KI.Laut einer Klage vor einem Bundesgericht in Kalifornien soll Meta bei der Entlassung von 8000 Beschäftigten im Mai interne KI-Systeme eingesetzt haben, um Kündigungslisten zu erstellen. Diese sollen Beschäftigte mit Behinderungen sowie Personen in geschützter Kranken-, Familien- oder Elternzeit übermäßig oft erfasst haben. Eine Klägerin wurde laut Klage zwei Tage vor der Geburt ihres Kindes informiert. Auswahlkriterien seien angeblich Leistungsnoten, Produktivität, Arbeitsergebnisse und die gemessene KI-Nutzung gewesen.
Ein Meta-Sprecher wies die Vorwürfe zurück: Personalentscheidungen würden von Menschen getroffen. Die Gruppe will ihre Beschäftigung bis zu einem Schiedsverfahren per Eilverfügung sichern.
Google integriert KI-Bildgenerierung direkt in die AI-Overviews der Google-Suche. Nutzer können künftig per Texteingabe eigene Bilder erstellen lassen, wenn laut Google kein passendes Bild im Web zu finden ist. Die Funktion nutzt Googles neues Bildmodell "Nano Banana 2 Lite" und erzeugt aus den Textbeschreibungen im Google-Suchschlitz individuelle Bilder. Der Rollout beginnt in den kommenden Wochen auf Englisch in allen Regionen, die bereits Bilderstellung im AI-Mode unterstützen. Fürs WWW bedeutet das wohl noch ein paar Klicks weniger, denn auch die Bildersuche spült mitunter Traffic ins offene Web. Google verschließt sich hier also weiter.
Gleichzeitig erhält Google Images eine neue Startseite mit einer dynamischen Bildergalerie, die Inhalte aus dem Web in Echtzeit anzeigt und auf die Interessen der Nutzer zugeschnitten ist. Nutzer können Bilder in Sammlungen speichern, die dann als Tabs über der Galerie erscheinen. Die neue Startseite wird in den kommenden Wochen zunächst auf dem Desktop in den USA auf Englisch verfügbar sein und erfordert ein Google-Konto.
Deepmind-Chef Demis Hassabis schlägt eine neue US-Standardisierungsbehörde nach dem Vorbild der Finanzaufsicht FINRA vor, die Bewertungsprotokolle für Spitzenmodelle entwickeln und bei Bedarf eine koordinierte Verlangsamung der KI-Entwicklung veranlassen soll. Startups und Forschungsmodelle wären ausgenommen.
Richard Sutton, Turing-Preisträger 2024 und Mitbegründer des modernen Reinforcement Learning, hat zusammen mit Khurram Javed das Startup Oak Lab in Toronto gegründet. Beide kommen von John Carmacks KI-Firma Keen Technologies. Sutton kritisiert aktuelle Deep-Learning-Methoden als "schwach und ineffizient" und fordert grundlegend neue Ansätze.
Einen Hinweis auf Suttons Pläne geben seine jüngsten Aussagen. Im Juni argumentierte er, generative KI sei gut im Nachahmen, könne aber eigene Ergebnisse nicht bewerten und sei daher unfähig zur echten Entdeckung. Stattdessen will er KI-Agenten bauen, die kontinuierlich aus ihrer Umgebung lernen, innere Weltmodelle aufbauen und Variation, Bewertung und Selektion selbst organisieren. Oak Lab verfolgt genau diesen Ansatz, setzt wie Keen auf Reinforcement Learning und die Überzeugung, dass KI während des Betriebs aus Erfahrung lernt, statt nur einmalig aus Datensätzen. Das Fernziel ist ein Agent mit "einer Billion Parametern, der in Echtzeit lernt und plant und dabei nur 20 Watt Energie verbraucht."
Mehr als 200 Ökonomen und KI-Forscher, darunter Nobelpreisträger und Vertreter von Google, OpenAI und Anthropic, fordern in einem koordinierten Statement sofortiges Handeln: Die KI-Transformation könne größer als die Industrielle Revolution sein, entfalte sich aber in einem deutlich kürzeren Zeitrahmen. Konkrete Maßnahmen nennt das Papier allerdings nicht und bisherige Studien belegen noch keine signifikanten KI-Effekte auf den Arbeitsmarkt.
