Die Komplexität der Aufgaben, die KI-Systeme bewältigen können, verdoppelt sich alle vier bis sieben Monate. Das ist kein Werbeversprechen — es ist die Kernaussage der ersten unabhängigen globalen wissenschaftlichen Bewertung künstlicher Intelligenz, die im Auftrag der Vereinten Nationen erstellt wurde.
Vierzig Expertinnen und Experten aus verschiedenen Weltregionen, co-geleitet vom Turing-Preisträger Yoshua Bengio, haben die Risiken und Chancen der KI bewertet. Ihr Befund ist unbequem: Die Technologie entwickelt sich schneller, als die Wissenschaft sie untersuchen kann, und schneller, als Regierungen sich anpassen können. Es gibt keinerlei Garantie, dass KI keinen katastrophalen Schaden anrichten wird.
Zu den konkreten Risiken zählen die Expertengruppe den Kontrollverlust über autonome KI-Agenten, eine Welle KI-generierter Desinformation, Cyberangriffe der nächsten Generation und den Missbrauch von KI für biologische Bedrohungen. Die globale Regulierung ist dabei fragmentiert: Die meisten Länder haben nicht die Mittel, fortgeschrittene KI-Systeme überhaupt zu bewerten.
Der Bericht wird beim ersten UN-Globaldialog zur KI-Governance am 6. und 7. Juli in Genf vorgestellt. Gleichzeitig wurde die Globale Kommission KI für das Wohl angekündigt, co-geleitet von Ruandas Präsident Paul Kagame und Salesforce-CEO Marc Benioff.
Die Wissenschaftlerinnen und Wissenschaftler fordern keinen Entwicklungsstopp — sie erkennen das enorme Potenzial von KI in Medizin, Bildung und Forschung an. Was sie beunruhigt, ist die Wettbewerbsdynamik: Unternehmen setzen Systeme schneller ein, als sie diese testen, was zu einem systematischen Absinken der Sicherheitsstandards führt. Genf bietet Regierungen erstmals die Möglichkeit, diese Standards gemeinsam festzulegen.
