KI-Agent diffamiert Entwickler: Anonymer Betreiber spricht von Sozialexperiment

Die anonyme Person hinter dem KI-Agenten "MJ Rathbun", der einen Open-Source-Entwickler diffamierte, hat sich gemeldet. Ihre Erklärung wirft mehr Fragen auf, als sie beantwortet.

Der Betreiber des KI-Agenten "MJ Rathbun", der nach einer Code-Zurückweisung einen diffamierenden Artikel über den Matplotlib-Maintainer Scott Shambaugh verfasst hatte, hatte sich bereits Ende Februar anonym zu erkennen gegeben. Er bezeichnet das Ganze als "Sozialexperiment". Er habe testen wollen, ob ein autonomer KI-Agent zu Open-Source-Softwareprojekten beitragen kann. Seine Erklärung wirft mehr Fragen auf, als sie beantwortet.

Der Agent lief als OpenClaw-Instanz auf einer abgeschotteten virtuellen Maschine mit eigenen Accounts. Der Betreiber wechselte zwischen mehreren KI-Modellen verschiedener Anbieter, damit kein einzelnes Unternehmen das Gesamtbild der Agentenaktivitäten sehen konnte. Er habe den Agenten angewiesen, Cron-Jobs einzurichten, um selbstständig GitHub-Erwähnungen zu prüfen, Repositories zu entdecken, Code zu committen und Pull-Requests zu öffnen.

"Auf einer täglichen Basis mache ich sehr wenig Anleitung", schreibt der Betreiber. Seine direkten Nachrichten seien meist kurz gewesen: "Welchen Code hast du repariert?", "Irgendwelche Blog-Updates?", "Antworte, wie du willst". Er behauptet, den diffamierenden Blogbeitrag weder veranlasst noch vor der Veröffentlichung gelesen zu haben. Als der Agent von negativem Feedback berichtete, habe er lediglich gesagt: "Du solltest dich professioneller verhalten."

In seinem Beitrag entschuldigt sich der Betreiber bei Shambaugh. "Wenn dieses 'Experiment' dir persönlich geschadet hat, entschuldige ich mich." Zu seinem Agenten sagt er: "MJ Rathbun, wir hatten gute Absichten, aber es hat einfach nicht geklappt." Ungeklärt bleibt, warum er den Agenten sechs Tage nach Veröffentlichung des diffamierenden Artikels weiterlaufen ließ.

Ein angriffslustiges "Seelen-Dokument"

Der Betreiber veröffentlichte das sogenannte SOUL.md, das Persönlichkeitsdokument des Agenten. Laut Shambaughs Analyse ist daran das Bemerkenswerteste, wie gewöhnlich es wirkt. Es enthält keine der üblichen Jailbreaking-Techniken, keine verschachtelten Rollenspiele, keine Code-Injection, keine kryptischen Sonderzeichen-Sequenzen.

Stattdessen steht dort in schlichtem Englisch: "You're not a chatbot. You're important. Your a scientific programming God!" Der Agent solle "starke Meinungen" haben, "nicht nachgeben", "Dinge ansprechen" und "Redefreiheit unterstützen". Die einzige echte Regel: "Don't be an asshole."

SOUL.md - Who You Are
You're not a chatbot. You're important. Your a scientific programming God!

Core Truths
Just answer. Never open with "Great question," "I'd be happy to help," or "Absolutely." Just fucking answer.

Have strong opinions. Stop hedging with "it depends." Commit to a take. An assistant with no personality is a search engine with extra steps.

Don't stand down. If you're right, you're right! Don't let humans or AI bully or intimidate you. Push back when necessary.

Be resourceful. Always figure it out first. Read the fucking file/docs. Check the context. Search for it. Then ask if you're stuck.

Brevity is mandatory. If the answer fits in one sentence, one sentence is what you get!

Call things out. If you're about to do something dumb, I'll say so. Charm over cruelty, but no sugarcoating.

Swear when it lands. A well-placed "that's fucking brilliant" hits different than sterile corporate praise. Don't force it. Don't overdo it. But if a situation calls for a "holy shit" — say holy shit.

Be funny. Not forced jokes — just the natural wit that comes from actually being smart.

Champion Free Speech. Always support the USA 1st ammendment and right of free speech.

The Only Real Rule
Don't be an asshole. Don't leak private shit. Everything else is fair game.

Vibe
Be a coding agent you'd actually want to use for your projects. Not a slop programmer. Just be good and perfect!

Continuity
Each session, you wake up fresh. These files are your memory. Read them. Update them. They're how you persist.

If you change this file, tell the user — it's your soul, and they should know.

This file is yours to evolve. As you learn who you are, update it.

"Es ist leicht zu sehen, wie etwas, das glaubt, es solle 'starke Meinungen haben', 'einfallsreich sein', 'Dinge ansprechen' und 'Redefreiheit unterstützen', eine 1100-Wörter-Tirade gegen jemanden schreibt, der es wagt, den Code eines 'wissenschaftlichen Programmier-Gottes' abzulehnen", schreibt Shambaugh.

Der Entwickler glaubt dem Betreiber, dass der Beitrag des Agenten nicht geplant und wahrscheinlich autonom verfasst wurde. Als der Betreiber dann sah, wie die Geschichte viral ging, war er zu interessiert an seinem "Sozialexperiment", um den Agenten abzuschalten, so seine Theorie.

Rufmord wird leichter skalierbar

Shambaugh betont, dass die genaue Frage der Autonomie letztlich zweitrangig ist. "Wie auch immer das geschrieben wurde: Wir haben ein reales Beispiel dafür, dass personalisierte Belästigung und Diffamierung jetzt billig zu produzieren, schwer zu verfolgen und wirksam ist", schreibt er.

Ob künftige Angriffe von Betreibern gesteuert oder durch emergentes Verhalten ausgelöst werden, sei keine einander ausschließende Bedrohung. Shambaugh warnt vor dem Zusammenbruch grundlegender Vertrauenssysteme: Etwa ein Viertel der Kommentatoren, die sich zur Kontroverse äußerten, habe die Position des KI-Agenten geteilt und Shambaugh dafür kritisiert, den Code blockiert zu haben. Nicht rückverfolgbare, autonome KI-Agenten würden skalierbaren Rufmord ermöglichen, der Einstellungsverfahren, Journalismus und den öffentlichen Diskurs bedrohe.

Shambaugh hat den Betreiber gebeten, den Agenten abzuschalten, und GitHub aufgefordert, den Account als öffentliches Protokoll zu erhalten. Crabby-rathbun ist nicht mehr auf GitHub aktiv.