Die US-Stadt Boston testet ChatGPT seit einigen Monaten in der Verwaltung. Verantwortliche ziehen ein erstes positives Fazit und warnen vor zu strenger Regulierung.
Generative KI-Technologien wie ChatGPT von OpenAI könnten veraltete bürokratische Verfahren reformieren und Regierungsabläufe sowie die Bürgerbeteiligung verbessern, argumentieren Santiago Garces, Chief Information Officer der Stadt Boston, und Stephen Goldsmith, Professor für Stadtentwicklungspolitik an der Harvard Kennedy School.
In einem kürzlich erschienenen Artikel fordern Garces und Goldsmith, die nach eigenen Angaben bereits Technologieinnovationen in fünf Städten vorangetrieben und mit Chief Data Officers aus 20 weiteren Kommunen zusammengearbeitet haben, dass die kürzlich von der Biden-Administration erlassene Executive Order zu KI dynamisch und flexibel umgesetzt werden müsse, um die potenziellen Vorteile der generativen KI nicht zu behindern.
Die Technologie könne die Arbeitsweise von Regierungen grundlegend verändern und vor allem bürokratische Hürden abbauen. Sie könne den Mitarbeitern auch dabei helfen, Probleme und Risiken zu analysieren und schnell zu reagieren.
US-Stadt Boston testet ChatGPT in der Verwaltung seit Mai
Unter der Leitung von Garces hatte die Stadt Boston bereits im Mai Richtlinien für den Einsatz von generativer KI eingeführt, um eine verantwortungsvolle Nutzung der Technologie in der Stadtverwaltung sicherzustellen. Die Richtlinien betonen Transparenz, Fairness und Verantwortlichkeit bei der Nutzung von KI-generierten Inhalten, um zu verhindern, dass Voreingenommenheit und Fehlinformationen Entscheidungsprozesse beeinflussen. Sie enthalten auch Empfehlungen, um KI-generierte Inhalte zu identifizieren, ihre Glaubwürdigkeit zu bewerten und ihre Nutzung mit den Werten und Zielen der Stadt in Einklang zu bringen.
Eine Anwendung, die laut Garces und Goldsmith bereits getestet wird, ist eine vereinfachte Auswertung der sogenannten 311-Daten. 311 ist eine Bürgerhotline, die in einigen Städten als Alternative zur Notrufnummer 911 dient und über die Einwohner Probleme melden oder Fragen stellen können. Mit der Technologie von OpenAI wäre eine Zeitreihenanalyse pro Fall und eine vergleichende Analyse pro Stadtteil möglich gewesen.
"Das bedeutete, dass die städtischen Beamten weniger Zeit damit verbrachten, durch die Berechnungsmechanismen einer Analyse zu navigieren, und mehr Zeit hatten, sich mit den Mustern der Diskrepanz im Service zu befassen", so die beiden Experten. "Da die Hürden für die Datenanalyse niedriger sind, können unsere städtischen Beamten mehr Hypothesen aufstellen und Annahmen hinterfragen, was zu besseren Entscheidungen führt." Nicht alle hätten das nötige Wissen, um den Code für solche Analysen selbst zu schreiben. Das Experiment zeige, dass mit ein wenig Training auch diejenigen, die keinen STEM-Hintergrund haben, generative KI zur Unterstützung ihrer Arbeit nutzen könnten.
Generative KI soll Bürger:innen wieder in den Mittelpunkt der lokalen Entscheidungsfindung rücken
Die Autoren schlagen daher vor, "Mitarbeiter:innen an vorderster Front" mehr Entscheidungsbefugnisse zu geben, um Probleme zu lösen, Risiken zu erkennen und Daten zu überprüfen. "Dies steht nicht im Widerspruch zur Rechenschaftspflicht. Im Gegenteil: Vorgesetzte können dieselben generativen KI-Tools nutzen, um Muster oder Ausreißer zu erkennen - zum Beispiel, wenn die Hautfarbe bei der Entscheidungsfindung eine unangemessene Rolle spielt oder wenn die Wirksamkeit von Programmen nachlässt (und warum)".
Sie weisen auch auf das Potenzial generativer KI-Tools hin, die es Bürgergruppen ermöglichen könnten, die Regierung auf neue Weise zur Rechenschaft zu ziehen.
Ein solch breiter Einsatz von generativer KI müsse jedoch mit einer Verbesserung der Datenanalysefähigkeiten in öffentlichen Belegschaften einhergehen, um zu verstehen, ob ein Tool die richtigen Schritte durchführt und korrekte Informationen generiert. Sie fordern auch die Entwicklung von Technologiepartnerschaften mit dem Privatsektor, um Fragen der Privatsphäre, der Sicherheit und der algorithmischen Voreingenommenheit anzugehen.
Garces und Goldsmith sind der Ansicht, dass Technologie, wenn sie vollständig, korrekt und fair integriert wird, die notwendigen Veränderungen herbeiführen kann, um die Bürger:innen wieder in den Mittelpunkt der lokalen Entscheidungsfindung zu rücken.
