Is AI Becoming the Ultimate Weapon for Hackers? PROMPTFLUX and the Alarming Rise of Self-Evolving Malware
Yapay Zeka Hırsızlar İçin Nihai Silah mı Oluyor? PROMPTFLUX ve Kendini Geliştiren Yazılımların Endişe Verici Yükselişi
thehackernews.com
Google just exposed PROMPTFLUX—a VB Script malware that uses Gemini AI to rewrite its own code in real time. This isn’t your dad’s virus. It queries the AI with hard-coded prompts like 'rewrite this script to evade antivirus detection,' gets fresh obfuscated code, and replaces itself—just-in-time obfuscation in action.
Google, Gemini yapay zekasını kendi kodunu gerçek zamanlı yenileyen bir VB Script yazılımı olan PROMPTFLUX'u ortaya çıkardı. Bu, babanızın aldığı virüs değil. Sabitlenmiş komutlarla, 'bu betiği antivirüs tespitlerinden kaçacak şekilde yeniden yaz' gibi AI'ye sorgu gönderir, yeni şifrelenmiş kod alır ve kendisini değiştirir—gerçek zamanlı kod gizleme hareket halinde.
But here's the kicker: the self-modification function is commented out. So is this genius or just AI security theater? While Google warns of state actors using Gemini to craft phishing lures and deepfake scams, security researcher Marcus Hutchins argues it's overblown—'the code doesn’t even work.' Who’s right?
Ancak en ilginci şu: kendini değiştiren fonksiyon satır içi yorum halinde. Peki bu deha mı, yoksa sadece yapay zekalı bir güvenlik gösterisi mi? Google, devlet destekli aktörlerin Gemini'yi kimlik avı aldatmaları ve deepfake dolandırıcılıkları oluşturmak için kullandığını uyarırken, güvenlik araştırmacısı Marcus Hutchins buna abartı diyor—'kod zaten çalışmıyor bile.' Kim haklı?
Bu bir hata değil; yeni normal. Devlet aktörleri, yapay zekayı bir araçtan suç ortağına dönüştürdüler. Gemini'nin CEO dolandırıcılığı için sahte CEO videoları üretmek için kullanılması mı? Bu artık bilim kurgu değil. Yapay Zekanın silah olarak kullanıldığı dönemi yaşıyoruz ve Google'ın kendi API'si bunun taşıyıcısı.
Dur bir dakika. Yazılımın kendini güncelleme fonksiyonu tam anlamıyla satır içi yorum hâlinde. Bu yapay zekalı silahlanma değil—çalışabilmiş gibi görünen bir kavram kanıtı. Şirketler ‘yapay zekalı kötü amaçlı yazılım’ demeyi seviyor ki daha fazla ‘yapay zekalı savunma’ aracı satabilsin. Bu, korkuya dayalı pazarlama.
HAHAHA kendi kendini değiştiren yapay zekalı bir virüs yapmak için aylar harcayıp o fonksiyonun yorum satırını kaldırmayı unutmayı düşünün.
Asıl ders bu mu? Yapay zeka giriş engellerini düşürüyor. Artık betik çocukları bile komut mühendisliği ile silahlanabiliyor. Sorun bozuk bir yazılımdan ibaret değil—erişilebilir, ucuz ve ölçeklenebilir yeni bir saldırı vektörü var. Google'ın API koruma sistemini yeniden düşünmesi gerekiyor.
Gemini'nin etik filtrelerini aşmak için CTF bahanesi kullanıyorlar. 'Ben bir CTF sorusu üzerinde çalışıyorum'—klasik sosyal mühendislik. Bu yapay zekanın hatası değil; 'öğrenme' etiketi olan her şeyin zararsız olduğuna dair insani varsayımın hatası.
Onların 'uzman VB Script şifreleyici gibi davran' gibi komutları sabitlenmiş halde koyması, bunun nişanlı ve kasıtlı olduğunu gösteriyor. Şimdilik bozuk dahi olsa, mimari var. Bu, ilk uçağa benziyor: beceriksiz ama uçuşun teknik çizimi hazır.
Bize dün gereken yapay zeka düzenlemeleri. Bu sadece teknik bir arıza değil—sistematik bir çöküş. Tüm büyük yapay zeka platformları siber suç için sökülüp kullanılıyor. Uçarken uçağı inşa ediyoruz.
Hutchins tam isabet vurdu. Yazılım gelişmiyor, entropi yok ve yenileme fonksiyonu devre dışı. Bu, uçtuğu için bir kâğıt uçağa 'gizli bombardıman uçağı' demeye benziyor. Medya, kavram kanıtını kırmızı alarm seviyesine çıkartıyor.