Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
DEEP MINDS #12: Künstliche Intelligenz regulieren

Das erst 2021 gegründete KI-Unternehmen Antrophic erhält mehr als eine halbe Milliarde US-Dollar von Investoren – ohne fixes Geschäftsmodell. Was macht das Start-up so besonders?

Viele Unternehmen erforschen und entwickeln KI-Systeme, die in Zukunft großflächig eingesetzt werden sollen oder bereits werden. Häufig geht es dabei um grundlegende Aufgaben, die großen Einfluss auf unsere Gesellschaft haben können: wie wir uns fortbewegen, Informationen austauschen, Konsumentscheidungen treffen, welche Berufe wir ausüben. KI durchdringt potenziell alle Bereiche unseres Lebens.

Entsprechend sind Verlässlichkeit, Sicherheit und Nachvollziehbarkeit großer KI-Systeme von hoher Relevanz. Wenn KI ihr volles Potenzial entfalten soll, muss sie in diesen Feldern bestehen. Umgekehrt könnten Ausfälle das Vertrauen in die Technologie erschüttern, so die Entwicklung ausbremsen oder – schlimmer – schwerwiegende Konsequenzen für die Menschheit haben.

704 Millionen US-Dollar für KI-Sicherheit

Das Start-up Antrophic hat sich auf Forschung zu KI-Sicherheit spezialisiert. Es arbeitet laut eigenen Angaben an einer „groß angelegten experimentellen Infrastruktur“, um die Sicherheit großer KI-Modelle zu erforschen und zu verbessern.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Seit der Gründung 2021 erhielt Antrophic bereits 704 Millionen US-Dollar von Investor:innen. In der jetzt bekanntgegebenen zweiten Finanzierungsrunde kommen 580 Millionen US-Dollar hinzu. Dass derart hohe Summen in ein Forschungs-Start-up fließen, ist wohl mit der eingangs erwähnten Relevanz der Themen begründbar und mit einer teils altruistischen Motivation der Geldgeber:innen.

Angeführt wird die Investitionsrunde von Sam Bankman-Fried, dem Gründer und CEO der Kryptowährungsbörse FTX. Sein Vermögen wird auf mehr als 25 Milliarden US-Dollar geschätzt.

Das Schweizer „Center for Emerging Risk Research (CERR)“ steht ebenfalls neu auf der Investorenliste von Antrophic. Es hat laut eigenen Angaben zum Ziel, die „Lebensqualität künftiger Generationen so umfassend wie möglich zu verbessern“ und Forschung und Umsetzung von „Lösungen zur Vermeidung technologischer Risiken“ zu fördern. Künstliche Intelligenz ist ein Schwerpunktthema des CERR.

Der frühere Google-Chef Eric Schmidt gehört bereits zu den Antrophic-Investoren. Schmidt legte unter anderem Anfang 2022 ein altruistisch motiviertes Förderprogramm auf für Forschende, die zu dem Ziel einer leistungsfähigen, sicheren allgemeinen KI beitragen.

In Anthropic steckt viel OpenAI

Gegründet wurde Antrophic von den Geschwistern Dario und Daniela Amodei. Dario Amodei arbeitete zuvor mehrere Jahre in leitender Position als Forscher bei OpenAI. Für zwei Jahre verantwortete er die Arbeit von OpenAIs Team für KI-Sicherheit.

Empfehlung

Daniela Amodei war zwischen Mai und Dezember 2020 bei OpenAI für Sicherheit und Richtlinien verantwortlich. Zuvor arbeitete sie ebenfalls bei OpenAI als Ingenieurin.

Die Geschwister waren an der Entwicklung von OpenAIs Sprach-KI GPT-3 beteiligt. Gemeinsam waren sie fast sechs Jahre in OpenAIs Forschungsteams angestellt.

Ähnlich wie OpenAI ist Antrophic teils wissenschaftlich und altruistisch motiviert, verfolgt zwar auch kommerzielle Interessen, aber ohne fixes Geschäftsmodell. Aktuell konzentriere sich das Start-up primär auf die Erforschung der Sicherheitsziele, heißt es in der Selbstbeschreibung: „Auf dem Weg dorthin sehen wir viele Möglichkeiten für unsere Arbeit, um kommerziellen und öffentlichen Nutzen zu schaffen.“

Das neu gewonnene Kapital fließt in den Ausbau der eigenen Infrastruktur für maschinelles Lernen. Das Start-up will große KI-Modelle trainieren, um diese dann auf Sicherheitsmerkmale zu untersuchen und so besser zu verstehen, was sichere, integrierte KI-Modelle auszeichnet.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

„Wir haben erste große Fortschritte beim Verständnis und der Steuerung des Verhaltens von KI-Systemen gemacht und setzen allmählich die Teile zusammen, die erforderlich sind, um brauchbare, integrierte KI-Systeme zum Nutzen der Gesellschaft zu entwickeln“, kommentiert CEO Dario Amodei die aktuelle Investitionsrunde.

Derzeit hat das Start-up rund 40 Angestellte und will weiter wachsen. Der Hauptsitz ist in San Francisco.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!