URL-Halluzinationen und ein Anti-KI-Fehler-Prompt

Hallo zusammen! Ich habe noch zwei kleine Nachträge zu unserem Webinar „KI-Halluzinationen erkennen und vermeiden“. 1. Die URL-Slug-Halluzination Eine besonders gemeine Halluzination, die mir gerade wieder begegnet ist: die URL-Slug-Halluzination. Dabei füttert man ein KI-System mit einer URL – doch wenn es die Webseite aus technischen Gründen nicht richtig lesen kann, erfindet es einfach Inhalte, die es nie gesehen hat. Statt „Ich kann die Webseite nicht lesen“ heißt es dann sinngemäß: „Ich rate einfach mal!“ Ein Beispiel gibt's hier. ChatGPT fantasiert hier seitenlang über Kurzgeschichten, die auf der Seite gar nicht existieren, und gibt das erst auf mehrfache Nachfrage zu. Dann verspricht es, bessere Arbeit zu leisten; und lügt einfach weiter. Was hilft dagegen? Sicherstellen, dass die Seite für die KI auch wirklich crawlbar ist. Viele Verlage blocken bspw. ChatGPT und Co. Oder (noch einfacher): Den relevanten Text direkt ins Chatfenster kopieren. Dann arbeitet das Modell garantiert mit dem echten Inhalt. 2. Der „innere Kritiker“-Prompt Bei bestimmten Prompts nutzen wir gerne eine zusätzliche Anweisung, die das System zwingt, zunächst eine Gliederung zu erstellen, diese kritisch zu reflektieren, und erst dann den eigentlichen Inhalt zu verfassen. Das sorgt für eine bessere Struktur und hilft, inhaltliche Unschärfen oder Fehler früh zu erkennen. Allein das Aufschreiben der Gliederung kann Halluzinationen reduzieren. Hier der Prompt-Zusatz: Folge diesen drei Schritten: Erstelle eine sehr detaillierte Gliederung der Themen der Quelle und sortiere sie nach Relevanz. Füge alle Informationen hinzu, die du für wichtig hältst. Aktiviere deinen inneren Kritiker. Dieser prüft die Gliederung und achtet darauf, dass alle relevanten Inhalte aus der Quelle enthalten und sinnvoll organisiert sind. Der Kritiker soll dabei äußerst streng und fordernd sein. Schreibe anschließend auf Grundlage dieser Gliederung und des Feedbacks deines inneren Kritikers einen wahrheitsgemäßen, prägnanten und dichten [HIER EUER FORMAT] über den Inhalt der Quelle. Schönes Wochenende und viel Spaß beim Experimentieren.

URL-Halluzinationen und ein Anti-KI-Fehler-Prompt

Verpassen Sie keineaktuellen KI‑Einblicke.

Verpassen Sie keine
aktuellen KI‑Einblicke.