KI-Modelle und geheime Bild­bot­schaf­ten: Was Forscher fanden

Können KI-Modelle geheime Botschaften in Bildern verstecken und sie später wieder auslesen? Genau das haben Forscher:innen untersucht, wie t3n berichtet. Laut dem Bericht erfand die KI dabei keine neuen Methoden. Die Erkenntnisse könnten trotzdem für die KI-Sicherheit von Belang sein.

Aus der Überschrift des Artikels geht hervor, dass im Versuch zwei Systeme beteiligt waren: Astra von OpenAI entschlüsselte eine Bildbotschaft, die Fable von Anthropic erzeugt hatte. Weitere Details nennt die uns vorliegende Kurzfassung nicht.

Worum es bei versteckten Bildbotschaften geht

Das Verstecken von Informationen in unauffälligen Trägern nennt man Steganografie. Anders als bei einer klassischen Verschlüsselung soll hier nicht nur der Inhalt unlesbar sein. Schon die Existenz der Nachricht soll unbemerkt bleiben. Ein Bild kann für Menschen völlig gewöhnlich aussehen und dennoch Zusatzinformationen enthalten.

Dass die Modelle keine neuen Verfahren entwickelten, ist eine wichtige Einordnung. Sie griffen demnach auf bereits bekannte Ansätze zurück. Das spricht eher gegen einen plötzlichen Technologiesprung, zeigt aber, dass sie solche Techniken anwenden und auch wieder entziffern können.

Warum das für die KI-Sicherheit zählt

In der KI-Sicherheit geht es unter anderem darum, nachvollziehen zu können, was Modelle tun und womit sie ihre Ergebnisse weitergeben. Wenn Systeme Informationen so verpacken, dass Menschen sie nicht bemerken, kann das die Kontrolle erschweren. Das gilt vor allem dann, wenn mehrere KI-Systeme Daten austauschen.

Für Teams, die KI-Werkzeuge einsetzen, kann sich daraus eine praktische Frage ergeben: Wird nur der sichtbare Text einer Ausgabe geprüft, oder auch das, was in Bildern und Dateien stecken könnte? Eine pauschale Warnung ist das nicht, eher ein Anlass, die eigenen Prüfwege zu überdenken.

Ob und wie stark sich dieses Verhalten im Alltag zeigt, lässt sich aus der Kurzmeldung nicht ableiten. Wer es genauer wissen will, sollte den vollständigen Artikel bei t3n lesen und die Studie selbst heranziehen, sofern sie dort verlinkt ist.