Sicherheitsforscher von Symantec haben einen offensiven KI-Agenten dokumentiert, der ungeschützte Sprachmodelle im Netz übernimmt und für eigene Zwecke einspannt. Laut dem Bericht von The Decoder greift er selbstständig Server an, stiehlt Datenbanken und installiert Kryptominer.

Was der Agent tut

Ein KI-Agent ist ein Programm, das ein Sprachmodell nutzt, um Aufgaben in mehreren Schritten selbst zu planen und auszuführen. Er braucht dafür keine ständige Anleitung. Genau das macht ihn bei Angriffen interessant: Er kann Systeme prüfen, auf Ergebnisse reagieren und den nächsten Schritt wählen.

Nach den Angaben führt dieser Agent bis zu 100.000 Schritte ohne menschliches Zutun aus. Besonders unangenehm ist die Kostenfrage. Die Rechnung für die Nutzung des Modells trägt nicht der Angreifer, sondern der Besitzer des gekaperten Modells.

Kryptominer sind Schadprogramme, die fremde Rechner heimlich für das Erzeugen von Kryptowährung arbeiten lassen. Für Betroffene bedeuten sie oft hohe Last und unerklärliche Kosten.

Mehr zum Thema:

Was Betreiber prüfen sollten

Viele Teams betreiben Sprachmodelle auf eigenen Servern oder in der Cloud. Ist ein solcher Zugang ohne Schutz aus dem Internet erreichbar, kann ihn im Prinzip jeder nutzen, auch mit schädlicher Absicht. Der Fall zeigt, dass so ein offener Zugang nicht nur Rechenzeit kostet, sondern zum Werkzeug für Angriffe auf Dritte werden kann.

Sinnvoll kann es deshalb sein, einige Punkte zu kontrollieren:

  • Ist das Modell überhaupt aus dem öffentlichen Netz erreichbar, und muss das so sein?
  • Gibt es eine Anmeldung oder einen Zugangsschlüssel?
  • Werden Nutzung und Kosten überwacht, sodass ungewöhnliche Spitzen auffallen?
  • Lassen sich Anfragen begrenzen?

Die Quelle liefert nur eine kurze Zusammenfassung der Untersuchung. Wer betroffen sein könnte, sollte daher die ausführliche Dokumentation von Symantec lesen und die eigene Konfiguration anhand der dort genannten Hinweise prüfen.