Google bringt mit Gemini Embedding 2 Text, Bild, Video und Audio in einen gemeinsamen Vektorraum
Google stellt sein erstes nativ multimodales Embedding-Modell vor. Gemini Embedding 2 soll Text, Bilder, Videos, Audio und Dokumente in einem einzigen semantischen Raum abbilden und damit komplexe KI-Pipelines vereinfachen.
Finanzmodell in Excel bauen, Ergebnis in PowerPoint einfügen, alles in einem Gespräch in der jeweiligen Microsoft-App: Anthropic rückt Claude näher an den Arbeitsalltag in Microsoft 365.
Anthropic erweitert seine Add-ins Claude for Excel und Claude for PowerPoint um drei Funktionen. Erstens teilen sich beide Add-ins nun den Gesprächskontext: Claude kann in einer durchgehenden Sitzung Zellwerte lesen, Formeln schreiben und Folien bearbeiten, ohne dass Nutzer Informationen wiederholen müssen.
Zweitens führt Anthropic sogenannte Skills ein – wiederverwendbare Arbeitsabläufe, die Teams als Ein-Klick-Aktionen teilen können, etwa für Finanzmodell-Prüfungen oder Deckanalysen. Ein vorinstalliertes Starter-Set deckt gängige Anwendungsfälle ab.
Drittens sind beide Add-ins nun über Amazon Bedrock, Google Cloud Vertex AI und Microsoft Foundry verfügbar, sodass Unternehmen den für sie passenden Cloud-Anbieter wählen können. Alle Funktionen stehen für zahlende Nutzer auf Mac und Windows bereit.
Grammarly nutzt offenbar ohne Erlaubnis die Namen von Journalisten und Autoren für eine KI-Funktion namens "Expert Review". Das Feature gibt Nutzern Schreibtipps, die angeblich von Experten wie Stephen King oder Neil deGrasse Tyson "inspiriert" sind. Auch bereits verstorbene Personen wie Carl Sagan sollen in der Funktion vertreten sein. Wie The Verge, Platformer und Wired berichteten, tauchen zudem zahlreiche Tech-Journalisten auf, darunter Verge-Chefredakteur Nilay Patel und weitere Redakteure. Keiner soll vorab gefragt worden sein.
Das Expert Review-Panel in Grammarly liefert kontextbasierte Schreibempfehlungen.
Nach Kritik soll Grammarly lediglich eine Opt-out-Möglichkeit per E-Mail angeboten haben, jedoch keine Entschuldigung. Alex Gay, Vizepräsident für Produktmarketing bei Mutterkonzern Superhuman, erklärte, die Funktion beanspruche keine direkte Beteiligung der Experten. Die Quellenlinks der Funktion führten laut The Verge teilweise zu Spam-Seiten oder völlig fremden Inhalten. Expertenbeschreibungen enthielten zudem veraltete Jobtitel. Die KI-Vorschläge ähneln in Google Docs echten Nutzerkommentaren, was irreführend wirken kann.
OpenAI will mit neuem Trainingsdatensatz Prompt-Injection-Abwehr deutlich verbessern
OpenAI stellt IH-Challenge vor, einen Trainingsdatensatz, der KI-Modellen beibringt, vertrauenswürdige Anweisungen zuverlässig über nicht vertrauenswürdige zu stellen. Erste Ergebnisse zeigen deutliche Verbesserungen bei Sicherheit und Prompt-Injection-Abwehr.
Anthropic hat das neue "Anthropic Institute" gestartet, eine interne Denkfabrik, die die Auswirkungen leistungsstarker KI auf Gesellschaft, Wirtschaft und Sicherheit untersuchen soll. Geleitet wird das Institut von Mitgründer Jack Clark, der dafür eine neue Rolle als "Head of Public Benefit" übernimmt.
Das Institut will unter anderem erforschen, wie KI Arbeitsplätze verändert, welche neuen Risiken durch Missbrauch entstehen, welche "Werte" KI-Systeme ausdrücken und wie Menschen die Kontrolle über sich selbst verbessernde KI-Systeme behalten können.
Das Team umfasst rund 30 Personen aus drei bestehenden Forschungsgruppen: dem Frontier Red Team, dem Societal-Impacts-Team und dem Wirtschaftsforschungsteam. Zu den ersten Mitarbeitern gehören Matt Botvinick (ehemals Google Deepmind), Anton Korinek (Universität Virginia) und Zoë Hitzig (zuvor OpenAI).
Der Start fällt in eine turbulente Phase: Anthropic hat das US-Verteidigungsministerium verklagt, nachdem es als Lieferkettenrisiko eingestuft wurde. Laut The Verge sagte Clark, er habe "keine Bedenken" wegen der Forschungsfinanzierung. Anthropic eröffnet zudem ein Büro in Washington, D.C.
Ein KI-Agent hackt McKinseys KI-Plattform Lilli mit einer Schwachstelle aus den 1990ern
Die Sicherheitsfirma Codewall ließ einen offensiven KI-Agenten auf McKinseys interne KI-Plattform Lilli los, ein System, das über 43.000 Mitarbeiter für Strategiearbeit, Mandantenrecherche und Dokumentenanalyse nutzen. Ohne Zugangsdaten, ohne Insiderwissen, ohne menschliche Hilfe. Innerhalb von zwei Stunden hatte der Agent vollständigen Lese- und Schreibzugriff auf die Produktionsdatenbank.
