Künstliche Intelligenz: News, Business, Forschung & mehr

23. Oktober 2025

OpenAIs neuer Browser ChatGPT Atlas birgt Sicherheitsrisiken, warnt OpenAI-Sicherheitschef Dane Stuckey.

Ein zentrales Problem sind sogenannte Prompt Injections: Angreifer verstecken schädliche Anweisungen auf Webseiten oder in E-Mails, um den Agenten zu manipulieren. Die Attacken reichen von der Beeinflussung von Kaufentscheidungen bis zum Diebstahl privater Daten wie E-Mail-Inhalten oder Zugangsdaten.

OpenAI hat laut Stuckey umfangreiche Tests durchgeführt, neue Trainingsmethoden eingesetzt und Schutzmechanismen implementiert. Dennoch sei Prompt Injection ein ungelöstes Sicherheitsproblem. Als Schutzmaßnahmen bietet Atlas einen "Logged out Mode" ohne Zugriff auf Nutzerdaten und einen "Watch Mode" für sensible Webseiten, der aktive Überwachung durch den Nutzer erfordert. OpenAI arbeitet laut Stuckey an weiteren Sicherheitsfunktionen und schnellen Reaktionssystemen gegen Angriffe.

Kommentieren

Matthias Bastian

23. Oktober 2025

Praxis

Apple hat kürzlich eine viel beachtete Studie veröffentlicht, in der eigene Forscher grundlegende Schwächen von Reasoning-Modellen aufzeigten. Nun sucht das Unternehmen dennoch eine Forscherin oder einen Forscher mit Schwerpunkt auf genau diesen Themen.

Die Stelle im MIND-Team in Seattle richtet sich an Fachleute für Reasoning, Planung, Tool-Nutzung und agentenbasierte LLMs. Gefordert wird Erfahrung mit großskaligem Modelltraining, PyTorch, RAG, multimodalen Modellen, Jax und hardwareoptimierter Inferenz. Ziel ist die Entwicklung neuer LLM- und VLM-Architekturen mit höherer Genauigkeit und besserer Effizienz.

Kommentieren

Matthias Bastian

23. Oktober 2025

Gesellschaft

Anthropic-CEO lobt Donald Trump und verteidigt eigene KI-Politik gegen Kritik

Matthias Bastian

22. Oktober 2025

Praxis

Manche glauben an die KI-Bubble, andere an baldige Superintelligenz

Über 1000 Expert:innen und Persönlichkeiten fordern ein Verbot der Entwicklung von Superintelligenz, solange deren Sicherheit nicht wissenschaftlich nachgewiesen und gesellschaftlich legitimiert ist.

Vollständigen Artikel lesen

Kommentieren

Matthias Bastian

22. Oktober 2025

Praxis

Meta streicht rund 600 Stellen in den KI-Abteilungen Grundlagenforschung (FAIR), Produkt-KI und Infrastruktur. Grund ist laut einem internen Memo von KI-Chef Alexandr Wang, dass die Arbeit zu bürokratisch geworden sei. Durch die Verkleinerung sollen Entscheidungen schneller fallen und Mitarbeitende mehr Verantwortung übernehmen. Mehrere tausend KI-Stellen bleiben bestehen. Insbesondere die neue Einheit TBD Lab von Wang bleibt von den Kürzungen ausgenommen und wird weiter ausgebaut. CEO Mark Zuckerberg hatte angeblich Zweifel am bisherigen Kurs und setzt nun auf das neue Team um Wang.

Betroffene Beschäftigte in den USA sollten bis Mittwochmorgen informiert werden und haben laut Wang Chancen auf andere interne Stellen. Schon zuvor gab es Berichte, dass es bei Metas KI-Sparten Spannungen gibt, etwa zwischen Yann LeCun und dem neuen Führungsteam.

Kommentieren

Matthias Bastian

21. Oktober 2025

Praxis

OpenAI bringt mit "Atlas" einen KI-Browser mit eingebautem ChatGPT-Agenten

Matthias Bastian

21. Oktober 2025

Praxis

OpenAI will mit „Projekt Mercury“ Juniorbanker überflüssig machen

Mehr als 100 ehemalige Investmentbanker trainieren laut Bloomberg OpenAIs KI darauf, Finanzmodelle zu bauen und Routinearbeit im Investmentbanking zu übernehmen. Das geheime Projekt „Mercury“ soll die lästige Schreibtischarbeit von Nachwuchsbankern abschaffen.

Vollständigen Artikel lesen

Kommentieren

Matthias Bastian

21. Oktober 2025

Praxis

Anthropic startet Claude Code im Web als Beta-Version. Nutzer können jetzt über den Browser mehrere Programmieraufgaben gleichzeitig an Claude delegieren, ohne ein Terminal zu öffnen. Die Aufgaben laufen in isolierten Cloud-Umgebungen mit Zugriff auf verknüpfte GitHub-Repositories. Claude erstellt automatisch Pull-Requests und dokumentiert Änderungen.

Der Dienst eignet sich laut Anthropic für Routineaufgaben, Bugfixes und testgetriebene Backend-Entwicklung. Auch eine iOS-Version ist Teil der Vorschau. Alle Aufgaben laufen in abgesicherten Sandboxen mit Netzwerk- und Dateisystemeinschränkungen. Claude greift nur über einen Proxy auf autorisierte Repositories zu. Verfügbar ist das Angebot für Pro- und Max-Nutzer.

Kommentieren

Matthias Bastian

21. Oktober 2025

Praxis

Breaking-Bad-Star Bryan Cranston zwingt OpenAI zu stärkeren Schutzmaßnahmen in Sora 2

Nach ungewollten Imitationen hat OpenAI seine Richtlinien für den KI-Videogenerator Sora 2 überarbeitet. Die Schauspielergewerkschaft SAG-AFTRA spricht von einem Etappensieg.

Vollständigen Artikel lesen

Kommentieren

Matthias Bastian

20. Oktober 2025

Praxis

Die Wikipedia beklagt sinkende Zugriffe von Menschen auf ihre Seiten – rund acht Prozent weniger als im Vorjahr. Grund dafür seien generative KI-Angebote und soziale Netzwerke, die Inhalte direkt anzeigen, ohne auf Wikipedia zu verlinken, so die Wikimedia Foundation. Hinzu kommt, dass viele Bots zunehmend menschlich wirken und so die Infrastruktur belasten.

Laut der Stiftung bleibt Wikipedia eine zentrale Grundlage für KI-Modelle, wird jedoch zunehmend seltener direkt aufgerufen – diese Entwicklung könnte das Projekt langfristig gefährden. Gegensteuern will man mit neuen Formaten für junge Zielgruppen, einer besseren mobilen Bearbeitung sowie klareren Regeln für externe Nutzungen.

25 Jahre nach ihrer Gründung ist das menschliche Wissen von Wikipedia für die Welt wertvoller denn je zuvor.

Wikimedia Foundation

Kommentieren