OpenAI hat mit „Company Knowledge“ eine neue Funktion für ChatGPT vorgestellt, die Business-, Enterprise- und Education-Nutzern erlaubt, auf Daten aus Slack, SharePoint, Google Drive und GitHub zuzugreifen.
Eine große Schwachstelle solcher universellen Suchsysteme lässt OpenAI unerwähnt.
Google verknüpft seine geospatiale KI Earth AI mit Gemini-Sprachmodellen und macht sie breiter zugänglich. Das System soll helfen, Überschwemmungen, Dürren und Krankheitsausbrüche schneller zu erkennen und gezielter darauf zu reagieren.
OpenAIs neuer Browser ChatGPT Atlas birgt Sicherheitsrisiken, warnt OpenAI-Sicherheitschef Dane Stuckey.
Ein zentrales Problem sind sogenannte Prompt Injections: Angreifer verstecken schädliche Anweisungen auf Webseiten oder in E-Mails, um den Agenten zu manipulieren. Die Attacken reichen von der Beeinflussung von Kaufentscheidungen bis zum Diebstahl privater Daten wie E-Mail-Inhalten oder Zugangsdaten.
OpenAI hat laut Stuckey umfangreiche Tests durchgeführt, neue Trainingsmethoden eingesetzt und Schutzmechanismen implementiert. Dennoch sei Prompt Injection ein ungelöstes Sicherheitsproblem. Als Schutzmaßnahmen bietet Atlas einen "Logged out Mode" ohne Zugriff auf Nutzerdaten und einen "Watch Mode" für sensible Webseiten, der aktive Überwachung durch den Nutzer erfordert. OpenAI arbeitet laut Stuckey an weiteren Sicherheitsfunktionen und schnellen Reaktionssystemen gegen Angriffe.
Apple hat kürzlich eine viel beachtete Studie veröffentlicht, in der eigene Forscher grundlegende Schwächen von Reasoning-Modellen aufzeigten. Nun sucht das Unternehmen dennoch eine Forscherin oder einen Forscher mit Schwerpunkt auf genau diesen Themen.
Die Stelle im MIND-Team in Seattle richtet sich an Fachleute für Reasoning, Planung, Tool-Nutzung und agentenbasierte LLMs. Gefordert wird Erfahrung mit großskaligem Modelltraining, PyTorch, RAG, multimodalen Modellen, Jax und hardwareoptimierter Inferenz. Ziel ist die Entwicklung neuer LLM- und VLM-Architekturen mit höherer Genauigkeit und besserer Effizienz.
Über 1000 Expert:innen und Persönlichkeiten fordern ein Verbot der Entwicklung von Superintelligenz, solange deren Sicherheit nicht wissenschaftlich nachgewiesen und gesellschaftlich legitimiert ist.
Meta streicht rund 600 Stellen in den KI-Abteilungen Grundlagenforschung (FAIR), Produkt-KI und Infrastruktur. Grund ist laut einem internen Memo von KI-Chef Alexandr Wang, dass die Arbeit zu bürokratisch geworden sei. Durch die Verkleinerung sollen Entscheidungen schneller fallen und Mitarbeitende mehr Verantwortung übernehmen. Mehrere tausend KI-Stellen bleiben bestehen. Insbesondere die neue Einheit TBD Lab von Wang bleibt von den Kürzungen ausgenommen und wird weiter ausgebaut. CEO Mark Zuckerberg hatte angeblich Zweifel am bisherigen Kurs und setzt nun auf das neue Team um Wang.
Betroffene Beschäftigte in den USA sollten bis Mittwochmorgen informiert werden und haben laut Wang Chancen auf andere interne Stellen. Schon zuvor gab es Berichte, dass es bei Metas KI-Sparten Spannungen gibt, etwa zwischen Yann LeCun und dem neuen Führungsteam.
Mehr als 100 ehemalige Investmentbanker trainieren laut Bloomberg OpenAIs KI darauf, Finanzmodelle zu bauen und Routinearbeit im Investmentbanking zu übernehmen. Das geheime Projekt „Mercury“ soll die lästige Schreibtischarbeit von Nachwuchsbankern abschaffen.
