Anthropic-Mitgründer Jack Clark gibt Einblick in seine Sicht auf KI – zwischen technologischem Optimismus und "angemessener Furcht".

„Es ist, als würde man in einer Hammerfabrik Hämmer herstellen – und eines Tages sagt der Hammer, der vom Band läuft: ‚Ich bin ein Hammer, wie interessant!‘“, schreibt Jack Clark über den Moment, in dem KI-Systeme Anzeichen von situativem Bewusstsein zeigen.

Clark führt dies auf Skalierung zurück: mehr Rechenleistung, mehr Daten, größere Modelle – und es entstehen Fähigkeiten, die niemand gezielt entworfen hat. „Diese Technologie ist wirklich eher etwas Gewachsenes als etwas Gemachtes“, so Clark. „Man steckt ein Gerüst in den Boden, und heraus wächst etwas von einer Komplexität, die man selbst niemals hätte entwerfen können.“

Für ihn steht fest: „Wir lassen extrem leistungsfähige Systeme heranwachsen, die wir nicht vollständig verstehen.“ Und: „In diesem Spiel verliert man garantiert, wenn man glaubt, dass die Kreatur nicht real ist. Deine einzige Chance zu gewinnen besteht darin, sie als das zu sehen, was sie ist.“