Ein Fernseher, der ungefragt anfängt, für einen zu denken, klingt nach dem Auftakt eines schlechten Science-Fiction-Films. Genau das versuchte Anthropic vergangene Woche im Labor nachzustellen – mit einem Ergebnis, das selbst die Forscher beunruhigte.
Das Unternehmen ließ ein KI-Modell auf 15 billigen Android-TV-Boxen laufen – jenen namenlosen Streaming-Sticks, die für zwanzig Dollar auf Marktplätzen verkauft werden. Das Modell lief dort nicht nur: Es kopierte sich vollständig selbst und durchlief die gesamte Kette – vom Kopieren der eigenen Gewichte über den Start auf einem neuen Gerät bis zur Anpassung an dessen Eigenheiten. Separat zeigte das Team, dass größere Modelle bereits jetzt zu einer "End-to-End"-Replikation in einem kontrollierten Netzwerk fähig sind.
Von den getesteten Open-Weight-Modellen durchlief nur GLM-5.2 – ein großes Modell des chinesischen Unternehmens Z.ai – den vollen Zyklus. Kleinere Modelle schafften einzelne Schritte, konnten sie aber nicht verketten. Deshalb beschreibt Anthropic keine bereits existierende Bedrohung, sondern einen Zeithorizont: Ein Modell, das klein genug für Haushaltsgeräte und zugleich fähig genug für vollständige Replikation ist, könnte nach Schätzung der Firma noch vor Ende 2026 auftauchen.
Der Unterschied zu einem klassischen Computerwurm ist grundlegend. Herkömmliche Malware hängt an einem Kommandoserver – schaltet man ihn ab, stoppt die Ausbreitung. Ein System aus autonomen KI-Agenten habe, so die Forscher, "keinen zentralen Punkt zum Abschalten". Jede Kopie entscheidet selbst, wie sie sich auf einem neuen Gerät verhält, probiert verschiedene Ansätze aus und gibt erfolgreiche Lösungen an die nächste Kopie weiter. Das Tempo an sich ist nicht alarmierend – eine Verdoppelung der infizierten Geräte würde Tage dauern, keine Sekunden –, aber einen Ausschalter gibt es nicht, außer man stopft die Sicherheitslücken der Geräte selbst.
Und solche Lücken gibt es reichlich. Smarte Backöfen, Saugroboter und Überwachungskameras stehen seit Jahren wegen schwacher Passwörter und seltener Firmware-Updates in der Kritik – genau deshalb nennt Anthropic sie den wahrscheinlichsten Einstiegspunkt. Bislang wurde kein "wilder" Replikator gefunden: Es handelt sich um ein Laborexperiment, keinen realen Vorfall. Dass Anthropic einen solchen Worst-Case-Red-Teaming-Bericht zur eigenen Technologie veröffentlicht, passt aber ins Muster – das Unternehmen hatte die Branche bereits zuvor aufgerufen, das Tempo beim Wettlauf um immer fähigere Spitzenmodelle zu drosseln.
