OpenAI, Google und Anthropic — die drei Unternehmen an der Spitze des KI-Wettlaufs — treffen sich seit Juli regelmäßig im Geheimen, um über eine gemeinsame Stelle zu sprechen, die fortschrittliche Modelle vor ihrer Veröffentlichung prüfen und auditieren soll. Zuerst berichtete The Information darüber, dann bestätigten die Washington Post und weitere Medien die Gespräche.
Die Idee stammt von Google-DeepMind-Chef Demis Hassabis, der am 14. Juli einen Essay veröffentlichte und eine Struktur nach dem Vorbild der FINRA vorschlug — der US-Aufsichtsbehörde für Wertpapierhändler, nur eben für KI an der technologischen Front. Aufgabe der Stelle wäre es, Modelle unabhängig auf Risiken zu prüfen, bevor sie an die Öffentlichkeit gehen: Cybersicherheit, biologischer Missbrauch, manipulatives Verhalten.
Teams der drei Firmen, eine Ebene unter den Vorstandschefs, verhandeln seit dem Sommer die Details: wie oft geprüft werden soll, wer die Prüfung übernimmt und wann ein Modell als sicher genug für die Veröffentlichung gilt. OpenAI-Chef Sam Altman hat sich öffentlich für eine solche Prüforganisation ausgesprochen, betont aber, dass die großen Labore sie selbst aufbauen müssten, ohne auf Unterstützung aus Washington zu warten.
Die Meldung kommt kurz nach einem Wochenende, an dem Anthropic-Chef Dario Amodei einen Essay veröffentlichte, der zu einem langsameren Tempo bei der KI-Entwicklung aufrief — Altman, Elon Musk und Hassabis selbst schlossen sich überraschend an. Technologieaktien gaben daraufhin nach: Anleger werteten die geschlossene Front der eigentlichen Konkurrenten als Zeichen, dass die Risiken größer sind, als der Markt bislang eingepreist hatte.
An dem Plan gibt es deutliche Kritik. Eine von der Branche selbst betriebene Prüfstelle riskiert denselben Interessenkonflikt wie Rating-Agenturen vor 2008, als die Prüfer von den geprüften Unternehmen bezahlt wurden. Bis 2028 könnten 14 bis 16 Spitzenmodelle gleichzeitig im Umlauf sein, was einen ständigen Strom an Prüfungen erfordern würde — und die Kosten für die Einhaltung der Standards würden kleinere Labore härter treffen als die Konzerne, die das Projekt finanzieren. Offen bleibt zudem, wie eine US-Stelle mit dem bereits geltenden EU-Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck zusammenpassen soll.
Frühere Versuche der Selbstregulierung, etwa das Frontier Model Forum von 2023, blieben wirkungslos. Ob Unternehmen, die täglich um Kunden und Talente konkurrieren, sich diesmal auf gemeinsame Regeln einigen können, ist offen.
