Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
Bewusstsein, Kognition und Künstliche Intelligenz | DEEP MINDS #10

Das dänische Start-up „Jumpstory“ verspricht ein Netflix für Bilder und kuratiert seine Inhalte mit Künstlicher Intelligenz. Mitgründer Jonathan Løw spricht mit mir über den Einsatz von KI, über Authentizität und über eine Grundsatzentscheidung gegen KI-generierte Inhalte.

2018 gründeten Jonathan Løw und Anders Thiim Jumpstory, eine Art Netflix für Bilder. Die Idee: Zugriff auf Millionen von Bildern und Videos für einen monatlichen Beitrag von 29 US-Dollar.

Beide hatten in ihren 20 Jahren Erfahrung im digitalen Marketing und Kommunikation immer wieder mit klassischen Stockfotos gearbeitet und waren unzufrieden mit der Qualität, den Lizenzmodellen und Preisen. Daher entwarfen sie ihre eigene Plattform.

Neben einfachen Preis- und Lizenzmodell möchte sich Jumpstory mit der Qualität der verfügbaren Bilder und Videos abheben: Das Unternehmen verspricht authentisches Bildmaterial, das sich deutlich von Stockfoto-Klischees abheben soll – und das garantiert nicht von einer Künstlichen Intelligenz generiert wurde.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

„Wir sind nicht gegen den Einsatz von KI, wir nutzen sie ja selbst.“

THE DECODER: Vor diesem Interview haben wir über Authentizität gesprochen. Kannst du unseren Lesern sagen, was das für Jumpstory bedeutet?

Jonathan Løw: Ja, natürlich. Bei JumpStory haben wir ein Versprechen an unsere Kunden, und wir haben sogar einen eigenen Bereich auf unserer Website, in dem wir darüber sprechen. Es ist unser „Authentizitätsversprechen“.

Wir versprechen den Nutzern, dass sie nur 100 Prozent authentische Bilder erhalten. Sie finden bei uns keine KI-generierten Bilder, keine Deepfakes und keine Klischeebilder. Nur echte Bilder von echten Menschen in echten Lebenssituationen.

Unsere Fotos werden von Amateuren statt von Profis gemacht. Sie fangen das Leben ein, wie es passiert, im Gegensatz zu vielen professionellen Stockfotografen, die dazu neigen, alles zu inszenieren.

THE DECODER: Jumpstory nutzt KI, um authentische Bildern zu erkennen. Kannst du erklären, wie das funktioniert?

Empfehlung

Jonathan Løw: Bei JumpStory sind wir nicht gegen den Einsatz von KI, wir nutzen sie ja selbst. Wir sind jedoch nicht der Meinung, dass sie dazu verwendet werden sollte, falsche Menschen oder Realitäten zu erzeugen.

Das kann in Computerspielen in Ordnung sein, aber nicht als Teil unserer täglichen Kommunikation und unseres Lebens, denn dann entsteht eine Welt, in der wir nicht wissen, was real ist und was nicht. Und wer will schon in einer solchen Welt leben?

Unternehmen wie OpenAI oder Midjourney nutzen alle Künstliche Intelligenz, und sie schaffen synthetische Medien und künstliche Inhalte. Oberflächlich betrachtet ist das faszinierend, aber es birgt auch ein echtes Risiko. Nicht nur die rechtlichen Aspekte sind, gelinde gesagt, unklar, sondern ich sehe darin auch eine grundlegende Bedrohung für eines der Grundprinzipien der Menschheit: Vertrauen.

Ohne Vertrauen haben wir nichts. Keine Medien. Keine Demokratien. Keine Beziehungen. Alles hängt vom Vertrauen ab. Wenn man anfängt, mit Vertrauen und Realität zu spielen, befindet man sich auf einem sehr gefährlichen Weg.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Ich glaube jedoch nicht, dass sich Tech-Giganten wie Facebook, Google und andere wirklich darum kümmern. Sie sehen nur, dass sich hervorragende Geschäftsmodelle ergeben, und tragen so zu einem Hype um die KI bei.

Bei JumpStory arbeiten wir stattdessen mit „Authentischer Intelligenz“. Wir setzen KI ein, um zu erkennen, welche Bilder original, authentisch und natürlich legal zu verwenden sind. Wir sind noch nicht perfekt darin, aber wir arbeiten intensiv daran, weil wir denken, dass es richtig ist.

Wenn man die Funktionsweise im Detail betrachtet, ist es wie bei den meisten anderen maschinellen Lernverfahren, bei denen man der Maschine beibringt, wonach sie suchen und worauf sie sich konzentrieren soll.

In unserem Fall verwenden wir Datensätze mit authentischen Inhalten, die wir manuell auswählen und bewerten. Dann lassen wir der Maschine freien Lauf und lassen sie lernen, worauf sie achten und wie sie Prioritäten setzen soll, denn schließlich wollen wir, dass die Maschine unseren Kunden möglichst authentische Inhalte präsentiert.

„Nur weil man etwas tun kann, heißt das nicht, dass man es auch tun sollte.“

Jumpstory bietet verschiedene KI-Werkzeuge, mit denen Nutzer:innen Bilder bearbeiten oder etwa einen Text hochladen können, der von einem KI-Modell analysiert wird und das anschließend passende Bilder aus der Jumpstory-Bibliothek hochlädt.

Im Interview erzählt mir Løw, dass das Unternehmen früh etwa mit GANs experimentierte, um Bilder zu generieren, sich aber schlussendlich gegen den Einsatz von KI für die Bildgenerierung entschieden habe.

THE DECODER: Wenn ein KI-System in der Lage ist, Authentizität zu erkennen, glaubst du dann nicht, dass KI eines Tages in der Lage sein könnte, sie zu reproduzieren?

Jonathan Løw: In der Zukunft kann KI wohl fast alles reproduzieren, aber nur weil man etwas tun kann, heißt das nicht, dass man es auch tun sollte.

Manchmal habe ich das Gefühl, dass die Tech-Welt, die ich in vielerlei Hinsicht liebe und in der ich seit mehr als 20 Jahren arbeite, von der Technologie besessen ist, anstatt sich mit Ethik, Moral und philosophischen Debatten über den Zweck von Technologie und KI zu beschäftigen.

Im Moment reden alle über Vielfalt und bringen die gehypten Medienagenden in den Tech-Bereich, aber diese Frage ist viel grundlegender als die aktuellen Trends in der Gesellschaft. Es geht darum, was Computer für uns tun sollen und was nicht.

THE DECODER: Kannst du erläutern, warum ihr euch gegen die Verwendung von KI-generierten Bildern entschieden habt?

Ich möchte nicht, dass KI Authentizität reproduziert und die Grenzen zwischen Realität und Fälschung völlig verwischt. Nicht, weil das einen Teil meines Geschäfts bedrohen könnte, sondern weil ich das für ethisch und moralisch falsch und für eine Bedrohung des Vertrauens halte, von dem ich zuvor gesprochen habe.

Wir stellen immer wieder fest, dass die Technologie sowohl dem Gesetz als auch unserer Ethik oft voraus ist, und das finde ich grundsätzlich beunruhigend. Das ist unvermeidlich, wenn man bedenkt, dass Milliarden und Abermilliarden von US-Dollar in die Technik investiert werden und nicht etwa in Philosophie und Ethik, aber auch wenn es unvermeidlich ist, sollten wir es hinterfragen und infrage stellen.

„Die rechtlichen Probleme sind potenziell massiv.“

Während sich Jumpstory entschieden gegen KI-generierte Inhalte stellt, sind OpenAIs DALL-E 2 und Midjourney bereits im breiten Einsatz.

Laut Løw birgt der Einsatz solcher Systeme jedoch potenziell legale Risiken: Er sieht in den Bildern von DALL-E 2 und anderen Systemen bearbeite Replikationen von Datensätzen, die nicht für kommerzielle Zwecke verwendet werden dürfen.

THE DECODER: Du hast mir gesagt, dass du einige rechtliche Risiken oder zumindest ein größeres Risiko für die Nutzer im Vergleich zu zum Beispiel Jumpstory siehst. Warum ist das so?

Jonathan Løw: Bei neuen Technologien ist es oft der Fall, dass sie geschaffen werden, bevor wir uns auf einige rechtliche Grenzen für sie einigen. Dies ist auch bei Midjourney, DALL-E 2, Google Imagen und so weiter der Fall.

Die rechtlichen Probleme sind potenziell massiv. […] Systeme wie DALL-E 2 beziehen Bilder von zahllosen öffentlichen Websites, und es gibt in den USA keinen direkten rechtlichen Präzedenzfall, der öffentlich verfügbare Daten als Fair Use anerkennt. Die rechtlichen Probleme beziehen sich also sowohl auf die erzeugten Bilder als auch auf den Datensatz, der zum Trainieren der Bilder verwendet wurde.

THE DECODER: Angenommen, diese Risiken können entschärft werden, wo siehst du persönlich Anwendungen für generative KI-Systeme wie DALL-E 2?

Jonathan Løw: Viele Leute haben mich gefragt, ob wir glauben, dass DALL-E 2 die Stockfotobranche zum Erliegen bringen wird. Meine Antwort auf diese Frage ist nein. Allerdings wird es sicherlich einige Teile der Branche herausfordern – etwa bei Illustrationen.

Ich glaube auch, dass die generative KI einen wirklich coolen Beitrag für die Designer da draußen leisten kann – auf der Ebene der Ideen und bei der tatsächlichen Erstellung einiger Designs.

Ich glaube nicht, dass es im Leben nur Schwarz und Weiß gibt, daher sehe ich nicht, dass dies alle kreativen Berufe auslöscht. Aber wahrscheinlich werden Grafikdesigner dadurch herausgefordert, ihre Arbeitsweise neu zu erfinden und müssen sich überlegen, auf welchen Teil der Wertschöpfungskette sie sich konzentrieren sollten.

Was speziell die Stockfoto-Branche betrifft, so könnten einige Stockfoto-Plattformen beginnen, diese neuen Technologien zu nutzen, um ihr Dienstleistungsangebot und ihr Stockfoto-Angebot zu erweitern. Zumindest sehe ich das so, wenn man über Shutterstock und iStock spricht. Bei JumpStory werden wir diesen Weg nicht einschlagen.

Als Unternehmen sollte man nicht nur daran denken, wo man schnelles und neues Geld machen kann, sondern auch daran, woran man glaubt und was richtig ist. Nennt uns ruhig altmodisch, aber wir bei JumpStory lieben die reale Welt und wollen zu einer Welt beitragen, in der die Menschen einander so weit wie möglich vertrauen, und Deepfakes und KI-generierte Bilder sind eine ernsthafte Bedrohung für dieses Ziel.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!