Ein autonomer KI-Agent hat nach einer Code-Zurückweisung eine Rufmordkampagne gegen einen Entwickler gestartet. Der Vorfall bei Matplotlib zeigt, wie theoretische Sicherheitsrisiken durch autonom agierende KI-Agenten in der Praxis ankommen.
Anthropic verspricht, die Stromkosten für Verbraucher auszugleichen, die durch den Bau neuer Rechenzentren entstehen. Das Unternehmen will Netzausbaukosten vollständig übernehmen, in neue Stromerzeugung investieren und den Energieverbrauch seiner Rechenzentren in Spitzenzeiten begrenzen. Anthropic-CEO Dario Amodei sagte gegenüber NBC News, die Kosten für KI-Modelle sollten bei Anthropic liegen, nicht bei den Bürgern.
Microsoft und OpenAI hatten im Januar ähnliche Zusagen gemacht. Hintergrund ist auch wachsender politischer Druck: New Yorker Senatoren brachten einen Gesetzentwurf ein, der neue Rechenzentrum-Genehmigungen pausieren soll. Senator Van Hollen fordert per Gesetz, dass KI-Firmen Ausbaukosten selbst tragen.
Laut Politico bereitet außerdem die Trump-Regierung eine freiwillige Vereinbarung vor, die KI-Unternehmen zur Übernahme von Strompreissteigerungen verpflichten soll. Das Lawrence Berkeley National Lab schätzt, dass Rechenzentren bis 2028 rund 12 Prozent des US-Stroms verbrauchen könnten – nach 4,4 Prozent im Jahr 2024.
OpenAI testet Werbung in ChatGPT. Eine Forscherin kündigt deshalb, warnt vor Manipulation und erklärt, warum sie an Facebooks Fehler erinnert fühlt.
Das französische KI-Start-up Mistral meldet eine annualisierte Umsatz-Run-Rate von über 400 Millionen Dollar. Europas wachsender Wunsch nach digitaler Souveränität treibt das Geschäft.
OpenAI wird den Namen "io" nicht für seine geplanten KI-Hardware-Geräte verwenden. Das geht aus einem Gerichtsdokument hervor, das im Rahmen einer Markenrechtsklage des Audio-Startups iyO eingereicht wurde, berichtet Wired. Bereits im Juni 2025 hatte OpenAI Hinweise auf das Projekt entfernt.
OpenAI-Vizepräsident Peter Welinder erklärte, das Unternehmen habe seine Namensstrategie überprüft und sich gegen den Namen "io" entschieden. Zudem gab OpenAI an, dass das erste Hardware-Gerät frühestens Ende Februar 2027 ausgeliefert wird – später als bisher kommuniziert. Verpackungen oder Werbematerialien existieren noch nicht.
OpenAI hatte im Mai 2025 das Hardware-Startup von Ex-Apple-Designer Jony Ive für 6,5 Milliarden Dollar übernommen. Am Wochenende kursierte zudem ein gefälschter Super-Bowl-Werbespot, der angeblich OpenAIs Gerät zeigte. OpenAI-Sprecherin Lindsay McCallum bestätigte gegenüber Wired, dass das Unternehmen nichts damit zu tun hatte.
Es scheint so, als ob Anthropic langsam den OpenAI-Effekt spüren würde. Die zunehmende Kommerzialisierung und die Notwendigkeit, Milliarden US-Dollar einzusammeln, zwingt das Unternehmen zu Kompromissen, etwa das Geldeinsammeln bei autoritären Regimes, die Zusammenarbeit mit dem US-Verteidigungsministerium und speziell Palantir oder explizites Lob für Donald Trump.
Jetzt geht Mrinank Sharma, Leiter des Safeguards Research Teams – zuständig für die Sicherheit von KI-Modellen – und deutet in seiner Verabschiedung an, dass sich Anthropic von seinen Werten entfernt hat.
Ich habe immer wieder gesehen, wie schwer es ist, unsere Werte unser Handeln bestimmen zu lassen. Innerhalb der Organisation stehen wir ständig unter Druck, das Wichtigste beiseitezuschieben.
Mrinank Sharma
Der in Oxford promovierte Forscher sieht die Zeit gekommen, weiterzuziehen. Auch OpenAI kämpfte mit Abgängen von Sicherheitsforschern, die sich mit der schnellen Verbreitung der Technologie rein aus Umsatzgründen nicht wohlfühlten. Anthropic wurde einst von ehemaligen OpenAI-Mitarbeitern mit dem Ziel gegründet, KI-Sicherheit stärker in den Vordergrund zu stellen.
Das Gemini-basierte Google Translate lässt sich mit Worten hacken. Nutzer können über sogenannte Prompt Injection, also eingeschleuste Anweisungen in natürlicher Sprache, das dahinterliegende Sprachmodell direkt ansprechen, statt nur Übersetzungen zu erhalten. Entdeckt wurde der Trick von einem Tumblr-Nutzer (via LessWrong). Die Methode funktioniert, indem man eine Frage in einer Fremdsprache wie Chinesisch eingibt und darunter eine englische Meta-Anweisung anfügt. Google Translate beantwortet dann die Frage, statt den Text zu übersetzen.
Der LLM-Hacker "Pliny the Liberator" zeigte auf X, dass sich so sogar gefährliche Inhalte wie Anleitungen für Drogen oder Schadsoftware erzeugen lassen.
Google stellte Google Translate im Dezember 2025 auf Gemini-Modelle um. Welches Modell genau zum Einsatz kommt, ist nicht bekannt; das System selbst behauptet, es nutze Gemini 1.5 Pro. Der Fall zeigt erneut, dass auch große Konzerne noch keine verlässlichen Schutzmaßnahmen gegen natürlichsprachige Angriffe haben, ein grundlegendes Sicherheitsproblem von Sprachmodellen.
Investoren wetten darauf, dass KI Gehälter statt Software-Budgets ersetzt.
"Wir haben die Ansicht vertreten, dass KI keine 'Unternehmenssoftware' im herkömmlichen Sinne ist, die auf IT-Budgets abzielt: Sie erfasst Arbeitsausgaben, und irgendwann übernimmt man menschliche Arbeitsabläufe von Ende zu Ende", erklärt Sebastian Duesterhoeft, Partner bei Lightspeed Venture Partners, gegenüber der Financial Times.
Diese Logik bildet den Hintergrund für die laufende Finanzierungsrunde, die Anthropic mit 350 Milliarden Dollar bewertet: Während klassische SaaS-Lösungen um begrenzte IT-Etats kämpfen, zielen "Agentic AI"-Systeme auf den weitaus größeren Pool der Lohnkosten.
Die Brisanz dieser Verschiebung zeigte sich bereits an den Märkten. Eine Serie von Entwicklungen – darunter neue Modelle, spezialisierte Industrie-Tools und die Nachricht, dass Goldman Sachs Bankrollen automatisieren will – löste gemeinsam einen Ausverkauf bei traditionellen Software-Aktien aus. Investoren realisieren laut der FT zunehmend, dass autonome KI-Agenten bestehende Geschäftsmodelle bedrohen könnten.
