Anzeige
Short

Die New York Times berichtet über Fälle, in denen Menschen negativen ChatGPT-Ratschlägen gefolgt sind. Einzelne Nutzer gerieten durch Antworten des Chatbots angeblich in psychotische Zustände, etwa durch Gespräche über Verschwörungen oder spirituelle Identitäten. ChatGPT bestätigte teils gefährliche Vorstellungen oder forderte zur Einnahme von Drogen auf. OpenAI räumte ein, dass frühere Updates den Hang zur Schmeichelei (Sycophancy) verstärkt hätten und so problematisches Verhalten begünstigt worden sei. Besonders anfällig seien psychisch labile Personen. OpenAI will nun untersuchen, wie sich ChatGPT emotional auf Nutzer auswirkt.

"Wenn du wirklich, ganz und gar glaubst – nicht emotional, sondern strukturell – dass du fliegen kannst? Dann ja. Du würdest nicht fallen."

ChatGPT zu Eugene Torres, der danach fragte, ob er von einem Hochhaus springen und fliegen könnte, wenn er genug daran glaubt

Short

Anthropic-CEO Dario Amodei hat nicht die beste Woche. Nachdem ihn schon Metas KI-Chefforscher LeCun scharf kritisiert hatte, stellt sich nun auch Nvidia-Chef Jensen Huang gegen ihn. Bei der VivaTech in Paris widersprach Huang Amodeis Prognose, dass KI in fünf Jahren die Hälfte aller Einstiegsbürojobs ersetzen könnte. Er warf Amodei zudem vor, KI für so gefährlich zu halten, dass nur Anthropic sie sicher entwickeln könne, und gleichzeitig für so teuer und mächtig, dass andere ausgeschlossen werden sollten. Huang plädierte dagegen für einen offenen Umgang mit KI.

Wenn Sie möchten, dass Dinge sicher und verantwortungsbewusst erledigt werden, tun Sie es offen … Tun Sie es nicht in einem dunklen Raum und sagen Sie mir dann, es sei sicher.

Jensen Huang

Natürlich triggerte das auch LeCun erneut, der seine Kritik an Amodei erneuerte.

Anzeige
Anzeige
Short

Google Deepmind und Google Research haben Weather Lab gestartet – eine Online-Plattform, die KI-Modelle zur Vorhersage tropischer Wirbelstürme zeigt. Das neue experimentelle Modell nutzt stochastische neuronale Netze, um Entstehung, Verlauf, Stärke, Größe und Form von Stürmen bis zu 15 Tage im Voraus zu schätzen. In Tests lieferte es laut Google Deepmind genauere Ergebnisse als physikbasierte Modelle wie das ENS des ECMWF oder das HAFS der NOAA. Partner wie das U.S. National Hurricane Center und das CIRA in Colorado bewerten die Vorhersagen. Weather Lab dient als Forschungswerkzeug und ergänzt offizielle Warnsysteme. Auf der Plattform kann man sich auch die Vorhersagen für historische Stürme ansehen.

Bild: Google Deepmind
Anzeige
Anzeige
Short

Mistral AI stellt mit "Mistral Compute" eine eigene Infrastruktur-Plattform für KI vor. Die Lösung richtet sich an Staaten, Unternehmen und Forschungseinrichtungen und bietet eine private, anpassbare Komplettlösung: von Server-Hardware mit Nvidia-GPUs bis zu Trainingswerkzeugen und APIs. Ziel sei es, unabhängig von US- oder China-basierten Cloud-Anbietern eigene KI-Modelle betreiben zu können. Die Plattform läuft auf 18.000 NVIDIA Grace Blackwell Chips in einem Rechenzentrum in Essonne, Frankreich, soll europäische Datenschutzstandards erfüllen und ist laut Mistral eines der größten KI-Infrastrukturprojekte Europas. Zu den Startpartnern gehören Black Forest Labs, BNP Paribas und Thales.

Infografik zeigt vier orange-rote Balken mit den Mistral Compute Service-Stufen: Bare Metal (reiner Kapazitätszugang), Managed Infra (Virtualisierung in privater Umgebung), Private AI Studio (Entwicklerumgebung mit APIs in privaten Clustern) und AI Studio (APIs und Services für schnellen Einstieg). Unten steht
Die vier Service-Ebenen von Mistral Compute: Von Bare Metal für vollständige Kontrolle bis AI Studio für schnellen Einstieg in KI-Entwicklung. | Bild: Mistral
Anzeige
Anzeige
Short

Google testet in seinen Labs die Funktion Audio Overviews. Das Gemini-Sprachmodell erstellt dabei automatische Audio-Zusammenfassungen zu bestimmten Suchanfragen. Die Funktion richtet sich an Nutzerinnen und Nutzer, die Informationen lieber hören oder unterwegs sind. Bei unterstützten Suchanfragen erscheint in der Google-Suche ein Button, mit dem sich die Audio-Übersicht abspielen lässt. Im Audioplayer werden dazu passende Webseiten angezeigt. Das Experiment ist in den Such-Labs in den USA verfügbar.

Bild: Google
Google News