Meta beobachtet erste Anzeichen für sich selbstverbessernde KI-Systeme. "In den letzten Monaten haben wir begonnen, erste Anzeichen dafür zu sehen, dass sich unsere KI-Systeme selbst verbessern. Die Verbesserung ist im Moment noch langsam, aber unbestreitbar", schreibt Meta-CEO Mark Zuckerberg in einem Grundsatzpapier zur Zukunft von Superintelligenz bei Meta.
Damit rückt der Übergang zu selbstoptimierender KI näher – ein Schritt, der nach Ansicht einiger Forscher das Potenzial hat, die Entwicklung hin zur Superintelligenz maßgeblich zu beschleunigen und gänzlich neue Dynamiken in der KI-Entwicklung auszulösen.
Gleichzeitig dämpft Zuckerberg Erwartungen, dass Meta seine Super-KI wie bisherige Llama-Modelle offenlegt: "Superintelligenz wird neuartige Sicherheitsbedenken aufwerfen. Wir müssen rigoros daran arbeiten, diese Risiken zu mindern, und vorsichtig sein, was wir als Open Source freigeben."