New York erzwingt Warnhinweis für KI-basierte Preisgestaltung
Kurz & Knapp
- New York verlangt als erster US-Bundesstaat, dass Unternehmen offenlegen, wenn Preise per Algorithmus und auf Basis persönlicher Daten berechnet werden. Ein Gericht bestätigte das Gesetz.
- Das Gesetz gilt als Präzedenzfall für künftige KI-Regulierung. Unternehmen wie Uber kritisieren es, Verbraucherschützer berichten von Preisunterschieden für gleiche Leistungen.
- In Europa sind personalisierte Preise erlaubt, aber durch strengere Transparenz- und Datenschutzregeln begrenzt. Weitere Regulierungen sind geplant.
New York ist der erste US-Bundesstaat, der Unternehmen gesetzlich dazu verpflichtet, den Einsatz von Algorithmen und persönlichen Daten bei der Preisfindung offenzulegen. Ein Gericht wies Klagen der Industrie gegen die Maßnahme ab.
Der US-Bundesstaat New York geht juristisch gegen das sogenannte "Surveillance Pricing" vor. Laut einem Bericht der New York Times ist ein neues Gesetz in Kraft getreten, das Online-Händler dazu zwingt, Kunden zu informieren, wenn Preise auf Basis persönlicher Daten und künstlicher Intelligenz berechnet werden.
Ziel der Maßnahme ist es, Verbraucher vor undurchsichtigen Preiserhöhungen zu schützen, bei denen Algorithmen beispielsweise zahlungskräftigeren Kunden höhere Preise für dasselbe Produkt anzeigen. Nutzen Händler solche Methoden, müssen sie nun den Hinweis einblenden: "THIS PRICE WAS SET BY AN ALGORITHM USING YOUR PERSONAL DATA."
Die National Retail Federation hatte versucht, das Gesetz mit einer Klage vor einem Bundesgericht zu stoppen, und argumentierte, die Kennzeichnung sei irreführend und verletzte Rederechte. Richter Jed S. Rakoff wies den Antrag jedoch ab.
Der nächste große Regulierungsstreit
Experten sehen in dem Gesetz einen Präzedenzfall. Goli Mahdavi, Anwältin für KI und Datenschutz, bezeichnet algorithmische Preisgestaltung gegenüber der New York Times als das "wahrscheinlich nächste große Schlachtfeld der KI-Regulierung". Auch in Kalifornien und auf Bundesebene werden ähnliche Verbote oder Kennzeichnungspflichten diskutiert.
Lina Khan, ehemalige Vorsitzende der FTC, nannte die Maßnahme ein "absolut vitales" Werkzeug für Behörden, warnte jedoch, dass die Praxis bereits drohe, "vollständig in die Wirtschaft einzusickern" und es weitere Regulierung auf Staaten- und Bundesebene benötige.
Uber hat bereits begonnen, den Hinweis in New York anzuzeigen, kritisiert das Gesetz jedoch scharf. Ein Sprecher bezeichnete es als "schlecht formuliert und zweideutig" und bestritt, dass Uber individuelle Daten jenseits von Ort und Nachfrage für die Preisfindung nutze. Verbraucherschützer berichten hingegen von Fällen, in denen unterschiedlichen Nutzern zeitgleich verschiedene Preise für identische Strecken angezeigt wurden.
Personalisierte Preise in Deutschland und Europa
ChatGPT:
Auch in Europa ist personalisierte oder dynamische Preisgestaltung grundsätzlich erlaubt, wird aber mittlerweile deutlich strenger eingerahmt. Seit 2022 müssen Online-Händler in der EU – und damit auch in Deutschland – deutlich darauf hinweisen, wenn ein Preis individuell mithilfe automatisierter Systeme und persönlicher Daten zugeschnitten wurde. Dazu kommen strengere Regeln für Preisangaben und Rabatte sowie der Datenschutz (DSGVO), der vorgibt, wie Profile überhaupt gebildet und wofür sie genutzt werden dürfen.
In der Praxis schwanken die Online-Preise je nach Zeitpunkt oder Konkurrenzpreisen bereits. Auch Unterschiede je nach Wohnort oder Endgerät sind möglich. In einem Bericht aus dem Oktober dieses Jahres stellte die Verbraucherzentrale jedoch praktisch keine personalisierte Preisgestaltung fest. Rein rechtlich wäre diese aber möglich. Der Verbraucherschutz gibt einige Empfehlungen, wie mit solchen dynamischen Preisen besser umgegangen werden kann.
Der neue EU AI Act setzt dazu auf einer anderen Ebene an: Er verbietet bestimmte manipulative KI-Praktiken und stellt besonders riskante Einsatzbereiche – etwa im Finanz- oder Behördenkontext – unter scharfe Auflagen. Preisalgorithmen im Online-Handel fallen in der Regel nicht in diese Hochrisiko-Kategorie, können aber dann relevant werden, wenn sie etwa gezielt Schwächen ausnutzen oder Teil von Kredit- oder Versicherungsentscheidungen sind.
In der Praxis bleiben damit für "Surveillance Pricing" vor allem das bestehende Verbraucher- und Datenschutzrecht sowie künftige Vorhaben wie ein geplanter "Digital Fairness Act" entscheidend, der Dark Patterns und ausbeuterische Personalisierung im Online-Handel noch gezielter adressieren soll.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnieren