Inhalt
summary Zusammenfassung

Microsoft hat ein neues "Bug Bounty"-Programm für KI gestartet, das Belohnungen zwischen 2.000 und 15.000 US-Dollar für Sicherheitsforscher vorsieht, die Schwachstellen in den KI-Produkten von Bing aufdecken.

Anzeige

Das erste teilnahmeberechtigte Produkt ist das KI-basierte Bing-Angebot. Bing Chat für Unternehmen, Bing Image Creator und die KI-Integrationen von Bing in die Microsoft Start-Anwendung und die Skype Mobile-Anwendung sind ebenfalls teilnahmeberechtigt.

Microsoft sucht unter anderem nach "Prompt Injection"-Angriffen, die auch OpenAIs GPT-4 betreffen, falschen oder beleidigenden Chat-Aussagen und mutmaßlichen Code- und System-Prompt-Leaks.

Schwachstellen können über das MSRC Researcher Portal gemeldet und Fragen an bounty(at)microsoft.com gerichtet werden. Die Belohnungen hängen von der Schwere und Qualität der gefundenen Schwachstellen ab. Weitere Informationen sind auf der Website des AI Bounty-Programms von Microsoft zu finden.

Anzeige
Anzeige

Bing Chat mit unrundem Start

Die Einführung des Programms folgt auf eine Reihe von Pannen, die bei Bing Chat seit seiner Einführung im Februar aufgetreten sind. Microsoft war sich dieser Schwächen offenbar schon vor dem Start bewusst, entschied sich aber dennoch für die Markteinführung.

Eine Studie von AlgorithmWatch zeigt, dass Bing Chat falsche Informationen im Zusammenhang mit Wahlen liefert. Trotz dieser Unzuverlässigkeiten bietet Microsoft den Chat weiterhin als Informationsquelle an. Microsoft missbrauchte Bing Chat auch für ungekennzeichnete Werbung für die eigenen Produkte.

Ab Mai 2023 wurde Bing Chat allgemein verfügbar. Microsoft erweitert den Bing Chat analog zu OpenAIs ChatGPT mit neuen Funktionen wie Bild- und Videoantworten, Chatverlauf und Plugins, um den Chat von einem Produkt zu einer Plattform weiterzuentwickeln.

Microsoft hat Bing Chat unter anderem in seinen Browser Edge und andere Browser integriert und bietet eine Business-Version an. Plugins wie OpenTable oder Wolfram Alpha sollen bei komplexeren Aufgaben wie Restaurantreservierungen und Mathematik helfen, ähnlich dem Plugin-Konzept von ChatGPT.

Microsoft will Bing Chat insbesondere als "Copilot fürs Web" positionieren, um Googles Marktdominanz in der Suche herauszufordern und möglicherweise ein neues Content-Ökosystem zu schaffen.

Empfehlung

Microsofts CTO Kevin Scott erklärte kürzlich gegenüber Nilay Patel von The Verge, dass man bisher nur "kleine Marktanteilsgewinne" erzielt habe, diese aber "in einer Art und Weise, wie wir es noch nie zuvor gesehen haben".

Weniger enthusiastisch äußerte sich Microsoft-CEO Satya Nadella, als er seine optimistischen Äußerungen zu Bing Chat Anfang des Jahres im Zuge des Kartellrechtsstreits gegen Google als "Überschwang" bezeichnete und von einer möglichen Steigerung des Marktanteils von drei auf 3,5 Prozent sprach.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Microsoft startet ein KI-Bug-Bounty-Programm, das Belohnungen zwischen 2.000 und 15.000 US-Dollar für die Entdeckung von Schwachstellen in Bing-KI-Produkten bietet.
  • Zu den teilnahmeberechtigten Produkten gehören das KI-basierte Bing-Angebot, Bing Chat für Unternehmen, Bing Image Creator und die KI-Integrationen von Bing in Microsoft Start und Skype Mobile.
  • Das Programm folgt auf eine Reihe von Problemen mit Bing Chat seit seiner Einführung im Februar, einschließlich falscher Wahlinformationen und nicht gekennzeichneter Werbung für Microsoft-Produkte.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!