OpenAI hat mit „Company Knowledge“ eine neue Funktion für ChatGPT vorgestellt, die Business-, Enterprise- und Education-Nutzern erlaubt, auf Daten aus Slack, SharePoint, Google Drive und GitHub zuzugreifen.
Eine große Schwachstelle solcher universellen Suchsysteme lässt OpenAI unerwähnt.
Google verknüpft seine geospatiale KI Earth AI mit Gemini-Sprachmodellen und macht sie breiter zugänglich. Das System soll helfen, Überschwemmungen, Dürren und Krankheitsausbrüche schneller zu erkennen und gezielter darauf zu reagieren.
Anthropic rollt die Claude-Memory-Funktion für Nutzer der Pro- und Max-Tarife aus. Die Funktion merkt sich Projektinhalte, Vorlieben und Arbeitsabläufe, um den Kontext über Gespräche hinweg zu erhalten. Für jedes Projekt wird ein separater Speicher angelegt, damit vertrauliche Themen getrennt bleiben. Nutzer können jederzeit einsehen und anpassen, was Claude speichert. Zusätzlich gibt es einen „Inkognito-Chat“, der keine Daten speichert und nicht im Verlauf erscheint.
Die Funktion ist optional und lässt sich in den Einstellungen aktivieren. Vor dem Start testete Anthropic laut eigenen Angaben die Speicherfunktion in sensiblen Bereichen, etwa ob sie schädliche Gesprächsmuster verstärken oder Schutzmechanismen umgehen könnte, und passte sie gezielt an. Die Funktion war bereits für Team- und Enterprise-Nutzer verfügbar.
OpenAI hat das Unternehmen Software Applications Incorporated (SAI) übernommen, das die Mac-Anwendung Sky entwickelt hat. Sky ist ein Interface für natürliche Sprache, das erkennt, was auf dem Bildschirm passiert, und direkt mit Programmen interagieren kann. Ziel ist es laut ChatGPT-Chef Nick Turley, ChatGPT stärker in alltägliche Computeranwendungen einzubinden und Nutzer aktiv bei Aufgaben zu unterstützen. Sky soll vor allem die Integration von OpenAI-Technologie auf dem Mac verbessern. Alle Sky-Mitarbeitenden wechseln zu OpenAI. Die Übernahme passt zu OpenAIs Plänen, ChatGPT langfristig zur Automatisierung von Arbeitsschritten einzusetzen.
Die Übernahme wurde von den unabhängigen Gremien des Verwaltungsrats geprüft und genehmigt. Eine mit Sam Altman verbundene Beteiligungsgesellschaft hielt zuvor eine passive Beteiligung an Sky. SAI entwickelte zuvor die iPhone-App Workflow, die später zu Apple Shortcuts wurde.
Alibaba bringt mit den Quark-AI-Glasses erstmals eigene smarte Brillen auf den Markt. Sie kosten ab 4.699 Yuan (ca. 660 US-Dollar) und können ab dem 24. Oktober vorbestellt werden, die Auslieferung beginnt im Dezember. Die Brillen nutzen Alibabas Sprachmodell Qwen und den Quark-AI-Assistenten, unterstützen unter anderem Anrufe, Musik und Übersetzungen. Alibaba tritt hier in Konkurrenz zu Metas KI-Brillen, hat aber den Vorteil eines leistungsstärkeren KI-Modell-Angebots.
Zeitgleich stellte das Unternehmen den AI-Chat-Assistant vor – eine neue Chatbot-Funktion innerhalb der Quark-App. Nutzer können per Text oder Sprache mit der KI kommunizieren, Fotos bearbeiten oder Aufgaben lösen. Alibaba positioniert sich damit gegen Konkurrenten wie Meta, Xiaomi und OpenAI. Beide Produkte zielen auf den Endverbrauchermarkt.
Reddit stellte der KI-Suchmaschine Perplexity eine Falle, um das Scrapen von Daten über die Google-Suche nachzuweisen.
Im Rahmen einer Klage gegen mehrere Daten-Scraper-Unternehmen wirft Reddit der KI-Firma Perplexity vor, unrechtmäßig Inhalte zu nutzen. Um den Vorwurf zu untermauern, hat Reddit einen gezielten Test durchgeführt. Laut Klageschrift wurde ein „Test-Beitrag“ erstellt, der „nur von Googles Suchmaschine gecrawlt werden konnte und sonst nirgendwo im Internet zugänglich war“. Innerhalb weniger Stunden sei der Inhalt dieses Beitrags in den Suchergebnissen von Perplexity aufgetaucht, was als Beweis für das Scraping von Google-Suchergebnissen gewertet wird.
Dieser Vorfall ist Teil eines größeren Konflikts, in dem Plattformen wie Reddit versuchen, die unlizenzierte Nutzung ihrer Daten für das Training von KI-Modellen zu unterbinden. „KI-Unternehmen befinden sich in einem Wettrüsten um hochwertige menschliche Inhalte – und dieser Druck hat eine ‚Datenwäsche‘-Wirtschaft im industriellen Maßstab angeheizt“, so Ben Lee, Chief Legal Officer bei Reddit.
OpenAIs neuer Browser ChatGPT Atlas birgt Sicherheitsrisiken, warnt OpenAI-Sicherheitschef Dane Stuckey.
Ein zentrales Problem sind sogenannte Prompt Injections: Angreifer verstecken schädliche Anweisungen auf Webseiten oder in E-Mails, um den Agenten zu manipulieren. Die Attacken reichen von der Beeinflussung von Kaufentscheidungen bis zum Diebstahl privater Daten wie E-Mail-Inhalten oder Zugangsdaten.
OpenAI hat laut Stuckey umfangreiche Tests durchgeführt, neue Trainingsmethoden eingesetzt und Schutzmechanismen implementiert. Dennoch sei Prompt Injection ein ungelöstes Sicherheitsproblem. Als Schutzmaßnahmen bietet Atlas einen "Logged out Mode" ohne Zugriff auf Nutzerdaten und einen "Watch Mode" für sensible Webseiten, der aktive Überwachung durch den Nutzer erfordert. OpenAI arbeitet laut Stuckey an weiteren Sicherheitsfunktionen und schnellen Reaktionssystemen gegen Angriffe.
Apple hat kürzlich eine viel beachtete Studie veröffentlicht, in der eigene Forscher grundlegende Schwächen von Reasoning-Modellen aufzeigten. Nun sucht das Unternehmen dennoch eine Forscherin oder einen Forscher mit Schwerpunkt auf genau diesen Themen.
Die Stelle im MIND-Team in Seattle richtet sich an Fachleute für Reasoning, Planung, Tool-Nutzung und agentenbasierte LLMs. Gefordert wird Erfahrung mit großskaligem Modelltraining, PyTorch, RAG, multimodalen Modellen, Jax und hardwareoptimierter Inferenz. Ziel ist die Entwicklung neuer LLM- und VLM-Architekturen mit höherer Genauigkeit und besserer Effizienz.
