Ki-malware täuscht: cyberforscher enthüllen neue tarnstrategie

Ein neuartiges Malware, genannt ‘Gaslight’, erschüttert die Sicherheitswelt. Die Technik dahinter ist skurril: Es versucht, künstliche Intelligenz-gestützte Analysewerkzeuge zu täuschen. Diese Erkenntnis wirft ein düsteres Licht auf die zunehmende Abhängigkeit von KI im Kampf gegen Cyberbedrohungen.

Der trick der täuschung

Die Forscher haben herausgefunden, dass die Bedrohung – entwickelt in der Programmiersprache Rust – nicht nur herkömmliche Antivirenprogramme umgeht, sondern gezielt die Funktionsweise von KI-Systemen manipuliert. Ein versteckter Codeblock von rund 3,5 Kilobyte enthält Dutzende von gefälschten Systemmeldungen. Diese simulieren reale Softwarefehler wie Speicherfehler, Netzwerkprobleme oder Datenbankfehler – alles in einer überzeugenden Markdown-Formatierung.

Es sind falsche Speicherfehler, Token-Zugriffsfehler, Prozessabbrüche und sogar mögliche SQL-Injection-Schwachstellen, die als ‚Logs‘ präsentiert werden. Die Absicht ist klar: Die KI-Analyse soll in die Irre geführt werden, indem sie auf diese vermeintlichen Fehler verweist.

Ki-sicherheit im visier

‘Gaslight’ zielt nicht primär darauf ab, die Ausführung des Schadprogramms in einer Testumgebung zu verhindern. Vielmehr geht es darum, die Interpretationen von KI-Modellen zu stören. Indem der Code mit diesem 'Rauschen' gefüllt wird, versucht der Angreifer, die KI dazu zu bringen, zu zweifeln, sich zu verwirren oder sogar die Analyse ganz zu unterbrechen. Es handelt sich um eine Form von Prompt Injection in der Cyber-Sicherheit, bei der der Angriff nicht das System selbst, sondern die Art und Weise, wie die KI Informationen interpretiert, ins Visier nimmt.

Ob dieser Ansatz tatsächlich in der Lage ist, KI-basierte Sicherheitsplattformen zu überlisten, ist noch unklar. Doch die Entwicklung deutet auf eine wachsende Tendenz hin: Angreifer beginnen, Malware aktiv unter Berücksichtigung der Analysemethoden von künstlicher Intelligenz zu entwerfen. Das ist alarmierend.

Die Entwicklung zeigt, dass die Sicherheit nicht nur im Code, sondern auch im Verständnis der KI-Analyse liegt. Es ist ein Wettlauf, den wir gewinnen müssen.