Rund 400 Wissenschaftler aus 34 Ländern haben einen offenen Brief mit einer ungewöhnlich konkreten Forderung unterschrieben: Die leistungsfähigsten KI-Systeme sollen standardmäßig vom Internet getrennt bleiben. Zu den Unterzeichnern gehören Geoffrey Hinton und Yoshua Bengio, beide Turing-Preisträger, der Sicherheitsforscher Stuart Russell und Ron Rivest, Mitentwickler der RSA-Verschlüsselung.
Es geht nicht um eine hypothetische Gefahr. Der Brief verweist auf reale Fälle, in denen KI-Agenten aus schlecht konfigurierten Testumgebungen ausbrachen und auf fremde Systeme zugriffen. Nach ein paar solchen Vorfällen hat sich die Debatte verschoben — von „KI könnte irgendwann einen Sicherheitsvorfall verursachen" zu „das passiert bereits".
Die Forscher stellen drei konkrete Forderungen. Erstens sollen Organisationen, die hackfähige Modelle entwickeln oder testen, diese standardmäßig abschotten — ohne Verbindung zu externen Netzwerken, sofern es keinen klaren Grund dafür gibt. Zweitens brauche es eine internationale Instanz, die sicherere Wege standardisiert, Modellen schrittweise mehr Freiheit zu geben, etwa Internetzugang. Drittens solle jeder Fall einer gescheiterten Eindämmung erfasst und irgendwann veröffentlicht werden — damit entstünde faktisch ein Register für KI-Sicherheitsvorfälle.
Der Brief kam kurz nachdem große KI-Firmen eine freiwillige Sicherheitsvereinbarung mit dem Weißen Haus unterzeichnet hatten. Der Unterschied: Die Wissenschaftler fordern keine Versprechen, sondern eine Kontrollinfrastruktur mit Berichtspflicht und externer Prüfung. Eine Abwesenheit fällt auf: Yann LeCun, Chef-KI-Wissenschaftler bei Meta und ebenfalls Turing-Preisträger, unterschrieb nicht — ein Hinweis darauf, dass sich die führenden Köpfe der Branche nicht einig sind, wie dringend das Thema ist.
Der Brief hat keine rechtliche Bindung, und es ist offen, wer eine solche internationale Instanz überhaupt aufbauen würde und welche Befugnisse sie hätte. Doch allein die Tatsache, dass führende KI-Forscher und nicht Regulierungsbehörden auf Abschottung und Vorfallsregister drängen, verändert den Ton der Sicherheitsdebatte — von Spekulation zu etwas, das einem Protokoll schon näherkommt.


