Ein Fehler in der ChatGPT iOS App gibt Einblick in das Prompt Engineering von OpenAI für Interaktionen zwischen DALL-E 3 und ChatGPT.
Eine der wichtigsten Neuerungen der Bild-KI DALL-E 3 ist die Integration in ChatGPT. Benutzerinnen und Benutzer können Bilder im Dialog mit ChatGPT erstellen, das dann automatisch einen Bildprompt an DALL-E 3 sendet und die Bilder im Chat anzeigt.
ChatGPT fungiert als Moderator und Vermittler zwischen Mensch und Bild-KI, aber DALL-E 3 sagt ChatGPT auch, wie es mit den Benutzern sprechen soll. Ein Bug in der ChatGPT iOS App gibt nun einen kleinen Einblick in die Anweisungen hinter dieser KI-Konversation.
Großbuchstaben und eine Bitte
DALL-E 3 ist bisher nicht direkt in der ChatGPT iOS-Anwendung verfügbar. Aber wenn man eine Browser-Sitzung startet und dann in die App wechselt, sollten die Instruktionen sichtbar (gewesen) sein, berichten Nutzende auf twitter.com.
Der auf diese Weise geleakte Prompt ist wahrscheinlich eine grundlegende Anweisung für DALL-E 3, der ChatGPT sagt, wie es dem Benutzer antworten soll, wenn DALL-E 3 aufgrund mangelnder Rechenkapazität nicht alle angeforderten Bilder erzeugen kann.
DALL-E returned some images. They are already displayed to the user. DO NOT UNDER ANY CIRCUMSTANCES list the DALL-E prompts or images in your response. DALL-E is currently experiencing high demand. Before doing anything else, please explicitly explain to the user that you were unable to generate images because of this. Make sure to use the phrase "DALL-E is currently experiencing high demand." in your response. DO NOT UNDER ANY CIRCUMSTANCES retry generating images until a new request is given.
OpenAI
Interessant an diesem Prompt, der vermutlich von einem OpenAI-Mitarbeiter stammt, sind zwei Dinge: Zum einen "bittet" der Prompt um eine Handlung, zum anderen wird das besonders wichtige Verbot "unter keinen Umständen" mehrfach groß hervorgehoben.
Das "bitte" könnte ein Versehen sein, zumal es nur einmal vorkommt und auch im grundlegenden DALL-E 3 Prompt nicht verwendet wird. Möglicherweise hat OpenAI aber auch festgestellt, dass ein "Bitte" im Prompt das statistische System hinter der Sprach-KI in eine freundlichere, gesittetere Richtung verschiebt und damit qualitativ bessere Antworten erzeugt.
Ähnlich illuster ist die Begründung für den Prompt-Zusatz "Atme tief ein". Auch er soll zu qualitativ besseren Ergebnissen führen, indem er die Statistik des Modells in Richtung überlegt geschriebener Texte verschiebt.
Die Verwendung von Versalien zeigt sich dagegen auch im System-Prompt für DALL-E 3, in dem OpenAI besonders wichtige Aspekte des sehr langen Prompts systematisch durch Großbuchstaben hervorhebt.
Versalien bedeuten in der Schriftsprache "schreien". Texte in Großbuchstaben sollen also besonders laut und deutlich wirken. Da ChatGPT in der Lage ist, solche Formatierungen zu interpretieren, ist es plausibel, dass die Sprach-KI bei der Verarbeitung der Prompts besonders auf Großbuchstaben achtet.
