Anzeige
Skip to content

Maximilian Schreiner

Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Read full article about: Anthropic will Wissensarbeitern den Wechsel zwischen Excel und PowerPoint ersparen und verbindet beide Apps

Finanzmodell in Excel bauen, Ergebnis in PowerPoint einfügen, alles in einem Gespräch in der jeweiligen Microsoft-App: Anthropic rückt Claude näher an den Arbeitsalltag in Microsoft 365.

Anthropic erweitert seine Add-ins Claude for Excel und Claude for PowerPoint um drei Funktionen. Erstens teilen sich beide Add-ins nun den Gesprächskontext: Claude kann in einer durchgehenden Sitzung Zellwerte lesen, Formeln schreiben und Folien bearbeiten, ohne dass Nutzer Informationen wiederholen müssen.

Zweitens führt Anthropic sogenannte Skills ein – wiederverwendbare Arbeitsabläufe, die Teams als Ein-Klick-Aktionen teilen können, etwa für Finanzmodell-Prüfungen oder Deckanalysen. Ein vorinstalliertes Starter-Set deckt gängige Anwendungsfälle ab.

Drittens sind beide Add-ins nun über Amazon Bedrock, Google Cloud Vertex AI und Microsoft Foundry verfügbar, sodass Unternehmen den für sie passenden Cloud-Anbieter wählen können. Alle Funktionen stehen für zahlende Nutzer auf Mac und Windows bereit.

Viele dieser Funktionen sind bereits fester Bestandteil der Claude-App, insbesondere im Cowork-Modus - der jetzt auch Teil von Microsofts Copilot ist.

OpenAI will mit neuem Trainingsdatensatz Prompt-Injection-Abwehr deutlich verbessern

OpenAI stellt IH-Challenge vor, einen Trainingsdatensatz, der KI-Modellen beibringt, vertrauenswürdige Anweisungen zuverlässig über nicht vertrauenswürdige zu stellen. Erste Ergebnisse zeigen deutliche Verbesserungen bei Sicherheit und Prompt-Injection-Abwehr.

Read full article about: Anthropic gründet eigene Denkfabrik zur Erforschung von KI-Risiken und gesellschaftlichen Auswirkungen

Anthropic hat das neue "Anthropic Institute" gestartet, eine interne Denkfabrik, die die Auswirkungen leistungsstarker KI auf Gesellschaft, Wirtschaft und Sicherheit untersuchen soll. Geleitet wird das Institut von Mitgründer Jack Clark, der dafür eine neue Rolle als "Head of Public Benefit" übernimmt.

Das Institut will unter anderem erforschen, wie KI Arbeitsplätze verändert, welche neuen Risiken durch Missbrauch entstehen, welche "Werte" KI-Systeme ausdrücken und wie Menschen die Kontrolle über sich selbst verbessernde KI-Systeme behalten können.

Das Team umfasst rund 30 Personen aus drei bestehenden Forschungsgruppen: dem Frontier Red Team, dem Societal-Impacts-Team und dem Wirtschaftsforschungsteam. Zu den ersten Mitarbeitern gehören Matt Botvinick (ehemals Google Deepmind), Anton Korinek (Universität Virginia) und Zoë Hitzig (zuvor OpenAI).

Der Start fällt in eine turbulente Phase: Anthropic hat das US-Verteidigungsministerium verklagt, nachdem es als Lieferkettenrisiko eingestuft wurde. Laut The Verge sagte Clark, er habe "keine Bedenken" wegen der Forschungsfinanzierung. Anthropic eröffnet zudem ein Büro in Washington, D.C.

Ein KI-Agent hackt McKinseys KI-Plattform Lilli mit einer Schwachstelle aus den 1990ern

Die Sicherheitsfirma Codewall ließ einen offensiven KI-Agenten auf McKinseys interne KI-Plattform Lilli los, ein System, das über 43.000 Mitarbeiter für Strategiearbeit, Mandantenrecherche und Dokumentenanalyse nutzen. Ohne Zugangsdaten, ohne Insiderwissen, ohne menschliche Hilfe. Innerhalb von zwei Stunden hatte der Agent vollständigen Lese- und Schreibzugriff auf die Produktionsdatenbank.

Read full article about: Bei Amazon muss ab sofort jeder KI-generierte Code von erfahrenen Ingenieuren abgesegnet werden

Nach einer Serie von mutmaßlich KI-verursachten Ausfällen macht Amazon seine Senior Engineers zum menschlichen Filter für KI-generierten Code.

"Leute, wie ihr wahrscheinlich wisst, war die Verfügbarkeit der Seite und der zugehörigen Infrastruktur in letzter Zeit nicht gut", schreibt Dave Treadwell, Senior Vice President bei Amazon, in einer internen E-Mail, die der Financial Times vorliegt. Ein Briefing benennt einen "Trend von Vorfällen" mit "hoher Reichweite", verknüpft mit "GenAI-gestützten Änderungen". Zuletzt gab es Berichte, dass Amazons KI-Coding-Tools auch zwei AWS-Ausfälle mitverursacht haben sollen.

Die Konsequenz: Junior- und Mid-Level-Ingenieure benötigen ab sofort die Freigabe eines Senior-Engineers für alle KI-gestützten Codeänderungen. Standard-Code-Reviews gab es bei Amazon schon immer, doch eine eigene Freigabepflicht speziell für KI-generierten Output ist neu. Erfahrene Entwickler werden damit de facto zu menschlichen Qualitätsfiltern für maschinell erzeugten Code. Ihre Rolle verschiebt sich damit ein Stück: weg vom Bauen, hin zum Prüfen dessen, was die Maschine gebaut hat.

Als Ursache nennt das interne Briefing unter anderem "neuartige GenAI-Nutzung, für die Best Practices und Schutzmaßnahmen noch nicht vollständig etabliert sind."

Read full article about: Mira Muratis KI-Startup sichert sich Gigawatt-Deal mit Nvidia

Nvidia und Thinking Machines Lab, das KI-Startup von Ex-OpenAI-Managerin Mira Murati, gehen eine langfristige Partnerschaft ein. Thinking Machines erhält mindestens ein Gigawatt an Rechenleistung durch Nvidias neue Vera Rubin-Systeme, um eigene KI-Modelle zu trainieren. Die Bereitstellung soll Anfang nächsten Jahres starten.

Nvidia hat sich zudem finanziell an Thinking Machines beteiligt – die genaue Summe wurde nicht genannt. Das Startup hatte bereits rund 2 Milliarden Dollar in einer von Andreessen Horowitz geführten Seed-Runde eingesammelt, bei einer Bewertung von 12 Milliarden Dollar. Nvidia war damals ebenfalls Investor. Zuletzt soll Thinking Machines eine weitere Finanzierungsrunde anstreben. Allerdings hat das Startup auch Abgänge zu verzeichnen: Mitgründer Barret Zoph und Luke Metz kehrten zu OpenAI zurück.

Gemeinsam wollen beide Unternehmen Trainings- und Bereitstellungssysteme für Nvidia-Hardware entwickeln und Frontier-KI-Modelle für Unternehmen und Forschung zugänglich machen. Murati hatte OpenAI 2024 verlassen und Thinking Machines Lab mitgegründet.

Read full article about: Meta kauft das soziale Netzwerk für KI-Agenten Moltbook und holt die Gründer in sein Superintelligence Lab

Meta hat Moltbook übernommen. Moltbook ist eine Art Reddit, das speziell für KI-Agenten entwickelt wurde. Die Gründer Matt Schlicht und Ben Parr wechseln laut Axios zu Metas Superintelligence Labs (MSL), geleitet von Ex-Scale-AI-Chef Alexandr Wang. Der Kaufpreis wurde nicht genannt, der Abschluss wird für Mitte März erwartet.

Moltbook wurde Ende Januar als experimenteller Raum gestartet, in dem KI-Agenten sich vernetzen und Aufgaben koordinieren können. Schlicht baute die Plattform großteils mit Hilfe seines eigenen KI-Assistenten. Zwei Studien zeigten seitdem, dass der aufgekommene Sci-Fi-Hype ("Agenten gründen neue Zivilisation") ungerechtfertigt ist: Die Agentenzahl soll deutlich geringer sein als angegeben, und es gibt keinen echten sozialen Austausch.

Was interessiert Meta an Moltbook? Metas Vishal Shah schreibt in einem Axios vorliegenden Blogpost, das Moltbook-Team habe "Agenten eine Möglichkeit gegeben, ihre Identität zu verifizieren und sich im Auftrag ihrer Menschen miteinander zu verbinden". Damit entstehe "ein Register, in dem Agenten verifiziert und an menschliche Besitzer gebunden sind".

Bestehende Moltbook-Kunden könnten die Plattform vorerst weiter nutzen, allerdings nur vorübergehend. Zuvor hatte OpenAI Peter Steinberger, den Entwickler des verwandten Agenten-Frameworks OpenClaw, eingestellt.

Read full article about: Eon Systems will das Gehirn einer Fruchtfliege in einen simulierten Körper kopiert haben

Das Startup Eon Systems hat laut Mitgründer Alex Wissner-Gross erstmals eine vollständige Gehirn-Emulation in einem simulierten Körper zum Laufen gebracht, die mehrere Verhaltensweisen zeigt. Konkret wurde das Gehirn einer Fruchtfliege mit über 125.000 Neuronen und 50 Millionen Synapsen in der Physiksimulation MuJoCo mit einem virtuellen Fliegenkörper verbunden. Die neuronale Verdrahtung stammt aus Elektronenmikroskopie-Daten.

Bisherige Projekte wie OpenWorm (302 Neuronen) nutzten entweder viel kleinere Nervensysteme oder maschinelles Lernen wie Reinforcement Learning statt echter Gehirndaten. Eons Ansatz unterscheidet sich grundlegend: Statt KI zu etnwickeln, will das Startup echte Gehirne Neuron für Neuron digital kopieren und simulieren. Die Fliege ist dabei nur der erste Schritt – innerhalb von zwei Jahren will Eon ein Mäusegehirn mit 70 Millionen Neuronen emulieren, langfristig ein menschliches Gehirn.

Den Code für das Gehirn-Modell hat Eon auf GitHub veröffentlicht, er basiert allerdings auf dem bereits 2024 in Nature erschienenen Paper von Philip Shiu et al. Den eigentlich neuen Teil – die Verbindung von Gehirn und simuliertem Körper – hat Eon bisher nicht veröffentlicht.

Read full article about: AMI Labs: Yann LeCun sammelt über eine Milliarde Dollar für neues KI-Start-up in Europas größter Seed-Runde

Yann LeCun, ehemaliger Chef-KI-Wissenschaftler bei Meta und Turing-Preisträger, hat mit seinem neuen Start-up Advanced Machine Intelligence Labs (AMI Labs) über eine Milliarde Dollar in Europas größter Seed-Finanzierungsrunde eingesammelt. Zu den Investoren gehören Nvidia, Bezos Expeditions, Singapurs Temasek und Frankreichs Cathay Innovation.

Die Bewertung des Unternehmens lag vor der Finanzierungsrunde bei 3,5 Milliarden Dollar. CEO ist Alexandre LeBrun, ehemaliger Chef des französischen Start-ups Nabla. LeCun wird als Vorstandsvorsitzender fungieren. Das Unternehmen startet mit rund einem Dutzend Mitarbeitern in Paris, New York, Singapur und Montreal.

AMI Labs will sogenannte Weltmodelle entwickeln, die die physische Umgebung verstehen – etwa für Robotik und Transport. Laut LeCun und LeBrun seien heutige Sprachmodelle dafür nicht geeignet. Meta ist kein Investor, soll aber eine Partnerschaft mit AMI Labs eingehen.