Dumfries House im ländlichen Ayrshire empfängt sonst Wohltätigkeitsdinner und Architekturliebhaber. Am 17. September sieht die Gästeliste anders aus: Die Chefs der mächtigsten KI-Labore der Welt geben sich die Klinke in die Hand.
Das von der Ditchley Foundation organisierte Treffen bringt Nvidia-Chef Jensen Huang, Google-DeepMind-Chef Demis Hassabis, Vertreter von OpenAI und Anthropic, den vatikanischen KI-Ethikberater Pater Paolo Benanti sowie Großbritanniens KI-Minister Kanishka Narayan zusammen. Charles III. versteht sich als neutraler Gastgeber und stellt eine einzige Frage in den Raum: Wie sollte KI zum Wohl der Menschheit entwickelt werden — statt nur um ihrer Fähigkeiten willen?
Der Zeitpunkt ist kein Zufall. Am 12. September veröffentlichte Anthropic-Chef Dario Amodei einen Essay mit der Forderung, das Entwicklungstempo zu drosseln, und warnte, die rekursive Selbstverbesserung von KI-Systemen habe sich seit dem Sommer drastisch beschleunigt — innerhalb weniger Monate könnte ein Modell große Teile des Internets übernehmen. Binnen eines Tages stimmten ihm Sam Altman von OpenAI und Elon Musk öffentlich zu — ein seltener Moment der Einigkeit unter Konkurrenten, die sonst um jede Schlagzeile rivalisieren.
In Washington ist nicht jeder von der Aufrichtigkeit dieser Vorsicht überzeugt. Präsident Trump betont den Vorsprung der USA vor China und seinen Willen, ihn zu halten; Repräsentantenhaus-Sprecher Mike Johnson lehnt jedes Moratorium ab, und Berater David Sacks deutete an, die neue Zurückhaltung der Unternehmen habe mehr mit Erwartungsmanagement als mit Risikomanagement zu tun.
Verbindliche Regeln wird Dumfries House nicht hervorbringen — es ist nicht Genf. Doch dass Unternehmen, die sich ein Jahr lang gegenseitig überholt haben, sich auf Einladung eines Monarchen an einen Tisch setzen, sagt schon etwas über die Nervosität in der Branche.
