Microsoft hat ein neues "Bug Bounty"-Programm für KI gestartet, das Belohnungen zwischen 2.000 und 15.000 US-Dollar für Sicherheitsforscher vorsieht, die Schwachstellen in den KI-Produkten von Bing aufdecken.
Das erste teilnahmeberechtigte Produkt ist das KI-basierte Bing-Angebot. Bing Chat für Unternehmen, Bing Image Creator und die KI-Integrationen von Bing in die Microsoft Start-Anwendung und die Skype Mobile-Anwendung sind ebenfalls teilnahmeberechtigt.
Microsoft sucht unter anderem nach "Prompt Injection"-Angriffen, die auch OpenAIs GPT-4 betreffen, falschen oder beleidigenden Chat-Aussagen und mutmaßlichen Code- und System-Prompt-Leaks.
Schwachstellen können über das MSRC Researcher Portal gemeldet und Fragen an bounty(at)microsoft.com gerichtet werden. Die Belohnungen hängen von der Schwere und Qualität der gefundenen Schwachstellen ab. Weitere Informationen sind auf der Website des AI Bounty-Programms von Microsoft zu finden.
Bing Chat mit unrundem Start
Die Einführung des Programms folgt auf eine Reihe von Pannen, die bei Bing Chat seit seiner Einführung im Februar aufgetreten sind. Microsoft war sich dieser Schwächen offenbar schon vor dem Start bewusst, entschied sich aber dennoch für die Markteinführung.
Eine Studie von AlgorithmWatch zeigt, dass Bing Chat falsche Informationen im Zusammenhang mit Wahlen liefert. Trotz dieser Unzuverlässigkeiten bietet Microsoft den Chat weiterhin als Informationsquelle an. Microsoft missbrauchte Bing Chat auch für ungekennzeichnete Werbung für die eigenen Produkte.
Ab Mai 2023 wurde Bing Chat allgemein verfügbar. Microsoft erweitert den Bing Chat analog zu OpenAIs ChatGPT mit neuen Funktionen wie Bild- und Videoantworten, Chatverlauf und Plugins, um den Chat von einem Produkt zu einer Plattform weiterzuentwickeln.
Microsoft hat Bing Chat unter anderem in seinen Browser Edge und andere Browser integriert und bietet eine Business-Version an. Plugins wie OpenTable oder Wolfram Alpha sollen bei komplexeren Aufgaben wie Restaurantreservierungen und Mathematik helfen, ähnlich dem Plugin-Konzept von ChatGPT.
Microsoft will Bing Chat insbesondere als "Copilot fürs Web" positionieren, um Googles Marktdominanz in der Suche herauszufordern und möglicherweise ein neues Content-Ökosystem zu schaffen.
Microsofts CTO Kevin Scott erklärte kürzlich gegenüber Nilay Patel von The Verge, dass man bisher nur "kleine Marktanteilsgewinne" erzielt habe, diese aber "in einer Art und Weise, wie wir es noch nie zuvor gesehen haben".
Weniger enthusiastisch äußerte sich Microsoft-CEO Satya Nadella, als er seine optimistischen Äußerungen zu Bing Chat Anfang des Jahres im Zuge des Kartellrechtsstreits gegen Google als "Überschwang" bezeichnete und von einer möglichen Steigerung des Marktanteils von drei auf 3,5 Prozent sprach.