Perplexity stellt Sicherheitssystem gegen Prompt-Injection-Angriffe auf Browser-Agenten vor
Perplexity stellt ein neues Sicherheitssystem für KI-Browser vor – und trifft damit einen wunden Punkt der Branche. Während immer mehr Anbieter Agenten tief ins Web integrieren, steigt das Risiko versteckter Prompt-Injection-Angriffe. BrowseSafe soll diese Lücke schließen: schnell, präzise und für die unberechenbare Realität des Netzes gebaut. Doch die grundlegenden Sicherheitsprobleme bleiben bestehen.
Open-Source-KI GeoVista findet Aufnahmeorte von Fotos durch Zoom und Websuche
Ein Forschungsteam aus China hat mit GeoVista ein Open-Source-KI-Modell vorgestellt, das Bilder analysiert und gleichzeitig das Internet durchsucht, um deren Aufnahmeort zu bestimmen. Das Modell soll die Leistung kommerzieller Systeme wie Gemini-2.5-flash erreichen.
Apple zeigt Alternative zu Diffusionsmodellen für Video-KI
Apples STARFlow‑V zeigt: Videogenerierung muss nicht auf Diffusion setzen. Das neue Modell nutzt „Normalizing Flows“, erzeugt so stabilere längere Clips und hängt andere autoregressive Ansätze im Benchmark ab. Es bleibt aber bei Qualität, Auflösung und Physik noch sichtbar hinter Top-Modellen wie Veo 3 oder HunyuanVideo zurück.
Demis Hassabis, CEO von Google Deepmind, erwartet in den nächsten zwölf Monaten Fortschritte bei der Konvergenz multimodaler Modelle, interaktiven Videowelten und verlässlichen KI-Agenten. Besonders die Multimodalität von Gemini ermögliche neue Anwendungen, erklärte Hassabis auf dem Axios AI+ Summit. Als Beispiel nannte er eine Szene aus dem Film "Fight Club", in der die KI das Ablegen eines Rings philosophisch als Symbol für den Verzicht auf den Alltag deutete. Auch das neueste Bildmodell von Google nutzt diese multimodalen Fähigkeiten, um visuelle Inhalte präzise zu verstehen und etwa Infografiken zu erstellen.
Zudem arbeitet Google Deepmind weiter an "Weltmodellen" wie Genie 3, die interaktive, begehbare Videoräume erzeugen. Hassabis prognostiziert auch, dass KI-Agenten in einem Jahr "nahe dran" sein werden, komplexere Aufgaben verlässlich und eigenständig zu erledigen. Ziel sei ein universeller Assistent, der Nutzer über verschiedene Geräte hinweg im Alltag begleitet.
Yann LeCun, der scheidende KI-Wissenschaftler von Meta, plant ein neues Startup mit Fokus auf sogenannte "World Models", die die physische Welt verstehen, anstatt lediglich Text zu generieren. Da das Silicon Valley laut LeCun von generativer KI "hypnotisiert" sei, setzt er für das Projekt stark auf europäische Talente. Das Unternehmen soll global agieren und unter anderem einen Standort in Paris haben, bestätigten Quellen gegenüber Sifted.
LeCun argumentiert, dass aktuellen Sprachmodellen das Verständnis für die physische Welt fehle und bloßes Skalieren dieser Technologie nicht zu menschlicher Intelligenz führe. Sein Projekt "AMI" setzt daher auf eine neue, nicht-generative Architektur.
Some people claim we can scale up current technology and get to general intelligence [...] I think that’s bullshit, if you’ll pardon my French.
Aikido Security warnt vor einer neuen Schwachstelle in GitHub‑ und GitLab‑Workflows, die mit KI‑Agenten wie Gemini CLI, Claude Code, OpenAI Codex oder GitHub AI Inference verbunden sind. Laut Aikido kann unkontrollierter Text aus Issues, Pull Requests oder Commits in Modell‑Prompts gelangen und von den KI‑Agenten als Anweisung verstanden werden. Diese Agenten dürfen oft Werkzeuge nutzen, die Änderungen an Repos erlauben oder Shell‑Befehle ausführen. Aikido zeigte in eigenen Tests, dass so Geheimnisse offengelegt oder Arbeitsabläufe verändert werden können. Mindestens fünf Fortune‑500‑Unternehmen seien betroffen.
Google habe das Problem in seinem Gemini‑CLI‑Repo nach einer Meldung von Aikido innerhalb von vier Tagen behoben. Aikido stellt offene Suchregeln bereit und rät, KI‑Werkzeuge einzuschränken, Eingaben zu prüfen und KI‑Ausgaben nicht direkt auszuführen.
