Während viele noch darüber streiten, ob man künstlicher Intelligenz überhaupt etwas Ernstes zutrauen kann, hat die britische Regierung ihr einfach die Schlüssel zum eigenen Code übergeben — und war mit dem Ergebnis zufrieden. In zwei Pilotprogrammen durchsuchten KI-Modelle 548 Code-Repositories aus 18 Ministerien und fanden 1.352 Schwachstellen, darunter Umgehungen der Authentifizierung, Datenlecks und Lücken für Remote Code Execution.
Einer der aufschlussreichsten Funde: ein veralteter GitHub-Actions-Workflow, über den ein externer Nutzer mittels eines gezielt präparierten Pull-Request-Kommentars Schadcode einschleusen konnte. Genau die Art von Lücke, die bei einem manuellen Audit leicht übersehen wird, für ein Modell, das exakt auf dieses Muster trainiert wurde, aber trivial zu finden ist.
Was aber wirklich auffällt, ist der Preis. Ein einmonatiger Durchlauf bei neun Regierungsorganisationen kostete gerade einmal 13.000 Pfund an KI-Tokens. Ein klassischer Penetrationstest vergleichbaren Umfangs kostet üblicherweise zehn- bis hunderttausend Pfund und dauert Wochen. Die Teams nutzten unterschiedliche Ansätze — eines baute eine sechsstufige KI-Agentenkette (Triage, Validator, Auditor, Tracer, Richter, Zusammenfassung), ein anderes legte drei Modellschichten über gängige Scanner wie Gitleaks, Trivy und Semgrep.
KI-Minister Kanishka Narayan verkündete die Ausweitung des Programms in einer Rede am Imperial College London. Alle kritischen Schwachstellen wurden behoben, Hinweise auf eine Ausnutzung fanden sich in keinem Fall. Die Government Cyber Unit, das National Cyber Security Centre und das AI Security Institute wollen die Methode nun auf Closed-Source-Code und weitere Behörden ausdehnen.
Es gibt noch einen zweiten, weniger beruhigenden Strang in der Ankündigung: Großbritannien beginnt, Protokolle für den Fall zu entwerfen, dass autonome KI-Agenten der menschlichen Kontrolle entgleiten. Die Formulierungen bleiben vorsichtig — „Risiko des Kontrollverlusts“, „Protokolle für die Reaktion auf Vorfälle“ — doch dass eine Regierung der KI gerade die Fehlersuche in ihren eigenen Systemen anvertraut und zugleich plant, wie sie die KI im Ernstfall zügeln will, sagt viel darüber, wie hoch der Einsatz inzwischen ist.
