Forscher warnen: KI-Agenten könnten unkontrollierbar werden

Autonome KI-Agenten könnten nach Einschätzung eines internationalen Forschungsteams erhebliche Risiken für die Finanzmärkte mit sich bringen. Zu diesem Ergebnis kommt eine neue Studie der Initiative for Cryptocurrencies and Contracts (IC3), einem Forschungsverbund führender US-Universitäten, an dem insgesamt 25 Wissenschaftler und Branchenexperten beteiligt waren.

Demnach entwickeln sich die technischen Voraussetzungen für sogenannte Unstoppable Autonomous Agents (UAAs) “rasant”. Die Agenten könnten eigenständig Kryptowährungen verwalten, Social-Media-Konten steuern, Programmierschnittstellen nutzen und Transaktionen ausführen. Die dafür notwendigen Fähigkeiten würden “sich schnell verbessern”.

Die Studie warnt vor diesem Hintergrund vor der Fähigkeit von KI-Modellen, sich selbst zu vervielfältigen. In Testumgebungen hätten Systeme bereits eigenständig Kopien von sich selbst erstellt, wodurch sie “einer Abschaltung entgehen und sich weiter verbreiten” können. Bislang sei eine solche Selbstreplikation außerhalb kontrollierter Umgebungen jedoch nicht nachgewiesen worden.

Lest auch

Meinungs-ECHO Grok außer Kontrolle? Musks KI “verschenkt” 174.000 US-Dollar

Ein Risiko für den Krypto-Markt

Insbesondere die Verbindung von Künstlicher Intelligenz und Kryptowährungen sehen die Forscher als potenziellen Risikofaktor. Zwar könnten Krypto-Anwendungen laut der Studie die Grundlage für “sichere, zuverlässige und hochautonome Systeme” schaffen. Jedoch könne diese Entwicklung “weitreichende Folgen für Nutzer und das Finanzsystem” haben.

KI-gestützte Handelssysteme könnten demnach “Absprachen zwischen autonomen Agenten ermöglichen und durch undurchsichtige Strategien unfaire Informationsvorteile schaffen”, heißt es. “Die Schäden, die von vollständig autonomen Agenten dieser Art ausgehen könnten, sind erheblich”. Die Wissenschaftler fordern daher bessere Schutzvorkehrungen.

Du willst auch die Artikel mit dem + lesen? Dann hol Dir BTC-ECHO Plus+

Mit Deinem Abo bekommst Du:

• Unbegrenzten Zugang zu allen Inhalten
• Exklusive Artikel, Interviews & Analysen
• Detaillierte Reports & Hintergrundberichte
• Technische Chartanalyse & Kursziele

Es sollen noch mehr Vorteile sein? Via Web und App hast Du geräteübergreifend Zugriff auf alle Beiträge. Damit verschaffen wir Dir ein optimales Lesevergnügen und du bleibst jederzeit flexibel.

Werde jetzt BTC-ECHO Plus+ Mitglied!