Themen Hub Künstliche Intelligenz

Versicherer am Lloyd’s-Markt in London bieten erstmals spezielle Policen an, die Schäden durch Fehler von KI-Chatbots abdecken. Entwickelt wurde das Produkt vom Start-up Armilla, das von Y Combinator unterstützt wird. Die Versicherung greift, wenn ein Unternehmen wegen fehlerhafter KI-Leistung verklagt wird – etwa durch Kunden, die durch falsche Auskünfte oder sogenannte „Halluzinationen“ der KI geschädigt wurden. Abgedeckt sind unter anderem Anwaltskosten und Schadenersatz. Ein Beispiel ist Air Canada: Ein Chatbot hatte einen nicht existierenden Rabatt versprochen, den die Airline später einlösen musste. Laut Armilla hätte die neue Police in einem solchen Fall gegriffen, wenn die Leistung des Bots deutlich unter den Erwartungen lag. Laut Karthik Ramakrishnan, CEO von Armilla, soll das Produkt Unternehmen den Einstieg in KI erleichtern. Bestehende Technologieversicherungen decken KI-Risiken oft nur zu geringen Teilen. Armilla versichert gezielt den Leistungsabfall von KI-Modellen.