Bei Amazon muss ab sofort jeder KI-generierte Code von erfahrenen Ingenieuren abgesegnet werden

Nach einer Serie von mutmaßlich KI-verursachten Ausfällen macht Amazon seine Senior Engineers zum menschlichen Filter für KI-generierten Code.

"Leute, wie ihr wahrscheinlich wisst, war die Verfügbarkeit der Seite und der zugehörigen Infrastruktur in letzter Zeit nicht gut", schreibt Dave Treadwell, Senior Vice President bei Amazon, in einer internen E-Mail, die der Financial Times vorliegt. Ein Briefing benennt einen "Trend von Vorfällen" mit "hoher Reichweite", verknüpft mit "GenAI-gestützten Änderungen". Zuletzt gab es Berichte, dass Amazons KI-Coding-Tools auch zwei AWS-Ausfälle mitverursacht haben sollen.

Die Konsequenz: Junior- und Mid-Level-Ingenieure benötigen ab sofort die Freigabe eines Senior-Engineers für alle KI-gestützten Codeänderungen. Standard-Code-Reviews gab es bei Amazon schon immer, doch eine eigene Freigabepflicht speziell für KI-generierten Output ist neu. Erfahrene Entwickler werden damit de facto zu menschlichen Qualitätsfiltern für maschinell erzeugten Code. Ihre Rolle verschiebt sich damit ein Stück: weg vom Bauen, hin zum Prüfen dessen, was die Maschine gebaut hat.

Als Ursache nennt das interne Briefing unter anderem "neuartige GenAI-Nutzung, für die Best Practices und Schutzmaßnahmen noch nicht vollständig etabliert sind."