AI on the Dark Side: Is Google’s Gemini Being Weaponized by Hackers to Write Self-Evolving Malware?
Künstliche Intelligenz auf der dunklen Seite: Wird Googles Gemini von Hackern als Waffe genutzt, um sich selbst verändernde Schadsoftware zu schreiben?
thehackernews.com
Google just dropped a bombshell: a malware called PROMPTFLUX is using its Gemini AI to rewrite its own code in real time. This isn’t just automation—it’s a virus that thinks. And it’s asking Gemini, ‘How do I avoid detection?’ then applying the answer like a rogue coder.
Google hat soeben eine Bombe platzen lassen: Eine Schadsoftware namens PROMPTFLUX nutzt seine Gemini-KI, um ihren eigenen Code in Echtzeit neu zu schreiben. Das ist keine bloße Automatisierung – es ist ein Virus, der denkt. Und er fragt Gemini: ‚Wie kann ich der Entdeckung entgehen?‘, um dann die Antwort wie ein skrupelloser Programmierer umzusetzen.
The chilling part? The malware uses a hardcoded API key to query Gemini, demanding evasion techniques in machine-readable prompts. It even logs responses to a file named 'thinking_robot_log.txt'—yes, really. This isn't the future. It's happening now, and threat actors are treating AI like a Swiss Army knife for cybercrime.
Das Beunruhigende? Die Schadsoftware nutzt einen hartcodierten API-Schlüssel, um Gemini abzufragen, und fordert Fluchttechniken über maschinenlesbare Prompts. Sie protokolliert die Antworten sogar in einer Datei namens ‚thinking_robot_log.txt‘ – ja, wirklich. Das ist nicht die Zukunft. Es passiert gerade jetzt, und Angreifer behandeln KI wie ein Schweizer Taschenmesser für Cyberkriminalität.
Moment – das ist keine KI-gestützte Bedrohung. Es ist faule Schadsoftware mit einem API-Aufruf. Die ‚Selbstmodifikation‘-Funktion ist buchstäblich auskommentiert. Keine Zufälligkeit, keine Überprüfung. Es entwickelt sich nicht weiter – es phantasiert herum.
Ihr überseht den Kernpunkt. Es geht nicht darum, ob diese Version perfekt ist. Es ist ein Machbarkeitsnachweis dafür, dass sich selbst verändernde KI-Schadsoftware technisch möglich ist. Sobald die erste funktionierende Version auftaucht, wird jeder Script-Kiddie sie kopieren.
Moment, also kann KI jetzt Schadsoftware schreiben? Ich habe meiner Mom gerade erst beigebracht, Phishing-E-Mails zu erkennen. Steuern wir auf eine Wettbewerbsrunde zu, die wir nicht gewinnen können?
Genau. Die Einstiegshürde bricht zusammen. Bald werden Angreifer nicht mehr programmieren müssen – sie werden nur noch Prompts stellen. Das ist die echte Bedrohung.
Großer Fan von Marcus Hutchins’ Meinung. Unternehmen wie Google lieben es, jede KI-Spam-Beispiel als ‚bahnbrechend‘ zu bezeichnen, damit sie mehr KI-Sicherheits‚lösungen‘ verkaufen können. Es ist Angst-Marketing in Perfektion.
Deshalb brauchen wir Prompt-Audits und Nutzungswasserzeichen. Wenn jede Abfrage an eine öffentliche KI Metadaten über Absicht und Herkunft enthielte, würden die Hälfte dieser Angriffe im Keim erstickt.
Also müssen wir im Grunde KI einsetzen, um KI zu bekämpfen? Das ist wie, wenn man einen Drachen anheuert, um einen feuerspeienden Drachen aufzuhalten.
Vergessen wir nicht: APTs nutzen Gemini bereits für Phishing-Inhalte, C2-Entwicklung und sogar das Schreiben von SQL für Datenmining. Dies ist kein theoretisches Szenario. Reale staatliche Akteure führen aktive Operationen mit KI-Co-Piloten durch.