Read full article about: OpenAI verliert führende Sicherheitsforscherin an Anthropic
Andrea Vallone, eine führende Sicherheitsforscherin bei OpenAI, ist zu Anthropic gewechselt. Sie wird dort im Alignment-Team arbeiten, das sich mit den Risiken von KI-Modellen beschäftigt. Vallone war drei Jahre bei OpenAI und gründete dort das "Model Policy"-Forschungsteam. Sie arbeitete an wichtigen Projekten wie GPT-4, GPT-5 und den Reasoning-Modellen.
Im vergangenen Jahr leitete Vallone bei OpenAI dann die Forschung zu einer akut gewordenen Frage: Wie sollten KI-Modelle reagieren, wenn Nutzer Anzeichen von emotionaler Abhängigkeit oder psychischen Problemen zeigen? Einige Nutzer, darunter Jugendliche, haben sich nach Gesprächen mit Chatbots das Leben genommen. Mehrere Familien haben Klagen eingereicht, und der US-Senat hat eine Anhörung zu dem Thema abgehalten.
Bei Anthropic arbeitet Vallone nun unter Jan Leike. Leike war selbst Sicherheitsforschungsleiter bei OpenAI und verließ das Unternehmen im Mai 2024. Leike hatte damals kritisiert, dass Sicherheit bei OpenAI hinter neuen Produkten zurückstehe.
Kommentieren
Quelle: LinkedIn
Read full article about: Amazon, Meta, Microsoft und mehr: Wikimedia Enterprise gewinnt KI-Riesen als zahlende Kunden
Die Wikipedia hat große KI-Unternehmen als Partner gewonnen: Amazon, Meta, Microsoft, Mistral AI und Perplexity sind dem Partnerprogramm Wikimedia Enterprise beigetreten. Bereits zuvor waren Google, Ecosia und weitere Unternehmen Partner. Die Firmen nutzen die Schnittstellen von Wikimedia Enterprise, um Wikipedia-Inhalte in ihre Produkte einzubinden.
Wikipedia gilt als einer der hochwertigsten Datensätze für das Training großer Sprachmodelle. Ihre Inhalte speisen zudem die Antworten von Chatbots, Suchmaschinen und Sprachassistenten. Entsprechend sieht die Wikimedia Foundation menschlich gepflegtes Wissen im KI-Zeitalter wichtiger denn je an. Ohne finanzielle Beiträge sei das offene Wissensmodell gefährdet.
Bereits Ende Oktober beklagte Wikipedia einen Besucherschwund durch KI-Systeme, die Inhalte ausspielen, ohne Nutzer auf die Webseite zu bringen, und forderte eine faire Lizenzierung über die dafür angebotene API.
Ähnliche Fälle dürfte es in Zukunft immer häufiger geben: Chatbots saugen das WWW leer, bei einer rechtlich nach wie vor ungeklärten Lage. Nicht alle Webseiten-Betreiber werden wie die Wikipedia oder die offene CSS-Bibliothek Tailwind verlorenen Umsatz durch Partner und APIs ausgleichen können.
Kommentieren
Quelle: Wikimedia Enterprise
TranslateGemma: Google veröffentlicht offene KI-Modelle für Übersetzungen
TranslateGemma zeigt, wie Google mit gezieltem Training mehr aus kleineren Modellen herausholt: Das 12B-Modell übersetzt besser als das doppelt so große Basismodell – und läuft auf einem Consumer-Laptop. Mit der wachsenden Gemma-Familie positioniert sich Google im Wettbewerb um offene KI-Modelle.
OpenAI lehnte Rolle als exklusiver KI-Lieferant für Apple angeblich bewusst ab
OpenAI wollte angeblich nie Apples KI-Partner werden und konzentriert sich stattdessen auf eigene Hardware. Die ChatGPT-Integration auf dem iPhone wurde angeblich kaum genutzt.
Read full article about: Konter gegen China: OpenAI will US-Lieferketten für KI-Infrastruktur stärken
Was China kann, kann die USA auch: OpenAI will die heimische Produktion von KI-Hardware stärken und hat dazu eine Ausschreibung veröffentlicht. Das Unternehmen sucht Hersteller und Zulieferer für Rechenzentrumskomponenten wie Kühlung, Stromversorgung und Netzwerktechnik sowie für Unterhaltungselektronik und Robotik. KI hängt laut OpenAI nicht nur von Chips ab, sondern von einem breiten Ökosystem physischer Komponenten. Bewerbungen werden bis Juni 2026 angenommen.
Die Ankündigung folgt auf Gerüchte, dass China die Einfuhr von Nvidia-H200-Chips stark einschränkt und heimische Hersteller zwingt, Hardware mehrheitlich aus inländischer Produktion zu beziehen. Sollte China mit dieser Abkopplung erfolgreich sein, muss die USA mit Gegenmaßnahmen rechnen. Wenn einer unabhängig sein will, müssen es letztlich beide sein.
Freilich ist die Ankündigung auch eine Anbiederung an Trumps "America First"-Politik. OpenAI spricht von einer "Reindustrialisierung des Landes". OpenAI-Präsident Greg Brockman spendete 25 Millionen US-Dollar für Trumps Wahlkampf.
Kommentieren
Quelle: OpenAI
Read full article about: OpenAI investiert in Gehirn-Computer-Schnittstellen Start-up Merge Labs
OpenAI beteiligt sich an der Seed-Finanzierungsrunde von Merge Labs, einem Forschungslabor für Gehirn-Computer-Schnittstellen (BCIs). Das Unternehmen will biologische und künstliche Intelligenz verbinden, um menschliche Fähigkeiten zu erweitern.
Die Firma entwickelt laut OpenAI neue Ansätze für sichere BCIs mit höherer Bandbreite durch die Kombination von Biologie, Geräten und KI. OpenAI sieht BCIs als wichtige Schnittstelle, damit Menschen natürlicher mit KI interagieren können.
Die Zusammenarbeit umfasst wissenschaftliche Grundlagenmodelle und andere Werkzeuge, um die Forschung zu beschleunigen. KI soll dabei helfen, Absichten zu interpretieren und zuverlässig mit begrenzten Signalen zu arbeiten. Merge Labs setzt auf Ultraschall-Technologie statt Elektroden wie Neuralink. Das Ziel: weniger invasive BCIs, die mit mehr Neuronen interagieren können.
Damit bestätigen sich die Gerüchte aus dem Sommer. Der Umfang von OpenAIs Beteiligung ist nicht bekannt; insgesamt sammelte das Start-up laut Bloomberg 252 Millionen US-Dollar ein. OpenAI-CEO Sam Altman ist Mitgründer von Merge Labs.
Die Investition reiht sich in OpenAIs Strategie ein, in Hardware- und Schnittstellentechnologien zu investieren. Mit der Investition tritt OpenAI in direkte Konkurrenz zu Elon Musks Neuralink, das bereits 2016 gegründet wurde.
Kommentieren
Quelle: OpenAI | Bloomberg