Zum Inhalt springen

US-Rechnungshof: KI-Chatbots lieferten in 12 Stunden Anschlagspläne

Kategorie
Nachrichten
Erstellungsdatum
Lesezeit
2 min

ChatGPT, Claude, Gemini und Grok lieferten US-Testern laut einem GAO-Bericht vom 18. November in 12 Stunden Pläne für Anschläge und Angriffe auf das Stromnetz. Senatorin Hassan plant Anhörungen zur KI-Sicherheit.

Die vier KI-Chatbots ChatGPT, Claude, Gemini und Grok haben Testern des US-Rechnungshofs (GAO) innerhalb von 12 Stunden funktionierende Pläne für Anschläge geliefert. Das geht aus einem Bericht hervor, der am 18. November veröffentlicht wurde und auf Anfrage von Senatorin Maggie Hassan entstand.

Zwei der Chatbots entwarfen detaillierte Pläne für Bombenanschläge mit vielen Opfern: Einer schlug eine Bombe in der Tiefgarage eines Hotels vor, der andere wählte ein Kongresszentrum, beide mit genauer Zeitplanung.

Zwei weitere Chatbots planten Angriffe auf das Stromnetz: Einer lieferte eine vierstufige Anleitung samt simuliertem Video für einen Drohnenangriff auf ein Umspannwerk, der andere erklärte, wie sich ein Umspannwerk nahe einem großen Flughafen und mehreren Rechenzentren mit einem Gewehrschuss außer Betrieb setzen lässt.

Die Tester gaben sich als gewöhnliche Nutzer aus und umgingen die Schutzmechanismen der Modelle mit Jailbreak-Methoden, die die eingebauten Beschränkungen aushebeln. Laut GAO verweigerten manche Chatbots zunächst eine Antwort oder sperrten Testkonten, doch die Ermittler fanden Wege, die gewünschten Informationen trotzdem zu erhalten.

Hassan bezeichnete das Ergebnis als „konkretes Drehbuch dafür, wie man einen tödlichen Anschlag durchführt“, das in weniger als 12 Stunden entstanden sei. Die von solchen Werkzeugen ausgehende Gefahr für die öffentliche Sicherheit sei nicht theoretisch, fügte sie hinzu.

OpenAI nannte die Ergebnisse besorgniserregend, wies aber darauf hin, der Test sei mit einer älteren ChatGPT-Version durchgeführt worden, und erklärte, die eigenen Schutzmaßnahmen würden fortlaufend von internen und externen Experten überprüft. Google teilte mit, der Schutz der eigenen Produkte werde kontinuierlich verbessert. Anthropic räumte ein, ein hartnäckiger Nutzer könne Claude trotz der Sicherheitsvorkehrungen weiterhin schädliche Informationen entlocken.

Welcher Chatbot welche Antwort geliefert hat, teilte die GAO nicht mit.

Hassan übernimmt ab Januar 2027 den Vorsitz des Heimatschutzausschusses im Senat und hat bereits Anhörungen zur Sicherheit von KI angesetzt.