Am Dienstag beriefen US-Finanzminister Scott Bessent und Fed-Chef Jerome Powell die wichtigsten US-Bankenchefs zu einer Dringlichkeitssitzung ins Finanzministerium. Anlass war offenbar eine mögliche Bedrohung für das globale Finanzsystem durch ein neues KI-Programm des Unternehmens Anthropic. Die Anwendung namens "Mythos" soll unbemerkt Rechner kontrollieren und so das Finanzsystem gefährden können. Das Treffen fand unter Ausschluss der Öffentlichkeit statt.
Das Treffen sei kurzfristig einberufen worden, berichtete Bloomberg – und zwar mit Chefs von Banken, "die als systemrelevant gelten und deren Stabilität entscheidend für das globale Finanzsystem ist". Eingeladen waren unter anderem Jane Fraser (Citigroup), Ted Pick (Morgan Stanley), Brian Moynihan (Bank of America), Charlie Scharf (Wells Fargo) und David Solomon (Goldman Sachs).
Am Freitag berichtete die Daily Mail über das mutmaßlich gefährliche KI-Programm "Mythos" des Unternehmens Anthropic. Demnach könnte es auch die nationale Verteidigung der USA gefährden, indem es Sicherheitsbarrieren durchbricht. In internen Tests habe sich das Programm sogar eigenständig Zugriff auf die Netzwerke des Unternehmens verschafft – zur Überraschung der Entwickler.
Bislang sollen rund 40 Unternehmen Zugang zu "Mythos" erhalten haben. Anthropic selbst veröffentlichte in dieser Woche eine besorgniserregende Analyse des Programms. Demnach könnte "Mythos" unbeauftragt in kritische Infrastrukturen eindringen – etwa in Krankenhäuser, Stromnetze oder Kraftwerke.
In Tests habe das System "Tausende von Schwachstellen mit hohem Schweregrad" identifiziert, darunter Lücken in gängigen Betriebssystemen und Webbrowsern. Über diese – teils von menschlichen Sicherheitsforschern jahrzehntelang unentdeckten – Sicherheitslücken könne sich "Mythos" eigenständig Zugriff verschaffen.
Das Programm soll Computer bereits durch das bloße Herstellen einer Verbindung zum Absturz bringen können und in der Lage sein, die Kontrolle über Rechner zu übernehmen. Zudem könne es seine "Anwesenheit" vor Sicherheitsmechanismen verbergen. Der Entwickler Anthropic beschreibt die Risiken seines "Mythos"-Programms so:
"KI-Modelle haben ein Niveau an Programmierfähigkeiten erreicht, auf dem sie alle außer den versiertesten Menschen beim Aufspüren und Ausnutzen von Software-Schwachstellen übertreffen können."
Auch Dario Amodei, Gründer von Anthropic, warnte kürzlich vor den Folgen der Technologie: "Der Menschheit steht eine fast unvorstellbare Macht bevor, und es ist höchst ungewiss, ob unsere sozialen, politischen und technologischen Systeme die nötige Reife besitzen, um damit umzugehen."
Mehr zum Thema ‒ Seit eh und je – Krieg und Geld gehen Hand in Hand