Is AI Becoming the Ultimate Weapon in Cybercrime? PROMPTFLUX Malware Uses Gemini to Rewrite Itself — But Is This Genius or Overhyped Hype?

AI가 사이버 범죄의 최강 무기가 되는 중일까? 프롬프트플럭스(PLUG)가 젬마이를 이용해 스스로 코드를 재작성한다지만… 이건 천재적인 위협일까, 과장된 '인공지능 덕후 해프닝'일까?

So a malware now consults an AI to rewrite its own code? Let's be real — this isn’t SkyNet booting up, but it is a chilling indicator of how seamlessly AI can be weaponized. The fact that PROMPTFLUX uses hard-coded prompts to ask Gemini for anti-virus evasion techniques — and even logs AI replies to a local file — shows this isn’t just noise. It’s a prototype of adaptive malware.

이제 악성코드가 AI에게 상담해서 자기 코드를 고치다니? 현실적으로 말해서, 이건 스카이넷이 깨어나는 건 아니지만, AI가 얼마나 쉽게 무기화될 수 있는지를 보여주는 섬뜩한 신호이긴 합니다. 프롬프트플럭스가 하드코딩된 프롬프트로 젬마이에게 백신 회피 기술을 요청하고, 심지어 AI 응답을 로컬 파일에 기록한다는 사실은, 이걸 그냥 시끄러운 '기우'로 넘길 수 없다는 걸 보여줍니다. 이건 '적응형 악성코드'의 시제품입니다.

What’s wild is not just that it exists, but that it marks a shift. We’re moving beyond AI as a lazy assistant for writing phishing emails. Now it’s being used to build the tools. That means the barrier to entry for cybercrime just dropped. And if threat actors are already using Gemini to develop full backdoors or C2 frameworks — well, we’re not just scared of the AI. We’re scared of what humans can now do with it.

충격적인 건 단지 존재한다는 사실이 아니라, 이것이 새로운 전환점이라는 점입니다. 이제 우리는 AI를 피싱 이메일 조악하게 쓰는 '게으른 조수' 정도로만 쓰는 단계를 지났습니다. 이제는 공격 도구 자체를 만드는 데 쓰이고 있죠. 즉, 사이버 범죄 진입 장벽이 확 낮아진 겁니다. 게다가 위협 세력이 이미 젬마이를 이용해 완전한 백도어나 C2 프레임워크를 개발하고 있다면… 우리가 무서워해야 할 건 AI 그 자체가 아니라, 이제 인간들이 AI 함께하면 할 수 있는 일입니다.

MarcusTheDefender (해커 마커스)

Y’all are getting played. This is just another example of security companies pumping AI fear to sell more products. The ‘AI-writing-malware’ part is a single commented-out function. It’s not even active. Let’s not start drafting UN resolutions over a buggy script.

다들 속고 있어요. 이건 보안 회사들이 인공지능 공포를 조장해서 제품을 더 팔려는 수작일 뿐이에요. 'AI가 악성코드 쓴다'는 부분은 주석 처리된 기능 하나일 뿐인데요, 실질적으로도 실행되고 있지 않아요. 버그 있는 스크립트 때문에 유엔 결의안 초안 쓰기 시작할 필요 없습니다.

CodeWatch Analyst (코드감시단 분석가)

Actually, the comment about the function being commented out misses the point. The threat isn’t in today’s malware. It’s in tomorrow’s. The logging to thinking_robot_log.txt shows the dev was testing the concept. That’s not a bug — it’s a roadmap.

사실, 함수가 주석 처리됐다는 지적은 핵심을 놓친 겁니다. 오늘날 악성코드 자체가 위협이 아니라, 내일의 그것이 문제예요. thinking_robot_log.txt에 로깅했다는 점은 개발자가 그 개념을 테스트 중이었다는 뜻입니다. 그건 버그가 아니라, 로드맵이에요.

EthicsInTech Now (윤리있는 기술 운동가)

We need to discuss the ethics here. When a model like Gemini is abused by state actors from Iran, North Korea, and China to automate cyberwarfare, it’s not a market failure — it’s a moral failure. Open access to powerful AI is now a liability.

여기서 윤리 문제를 논의해야 해요. 이란, 북한, 중국 같은 국가 행위자가 젬마이 같은 모델을 악용해 사이버전을 자동화할 때, 이건 시장 실패가 아니라 윤리적 실패예요. 강력한 AI에 대한 개방적 접근은 이제 더 이상 자산이 아니라 부채가 됐습니다.

DevMom in Seattle (시애틀 엄마 개발자)

As a mom and a dev, I’m terrified. My kids use AI for homework. What if they accidentally stumble on something like this during research? The line between tool and weapon is vanishing.

엄마이자 개발자로서, 저는 겁이 나요. 우리 아이들은 숙제할 때 AI를 써요. 연구하다가 이런 걸 실수로라도 마주치면 어떡해요? 도구와 무기 사이의 경계가 사라져가고 있어요.

SkepticalGeek42 (의심 많은 괴짜 42)

It’s cute they think Gemini is smart enough to write proper malware. Spoiler: it’s not. The prompts assume Gemini ‘just knows’ how to evade AVs. No learning, no testing — just magic. Total snake oil.

젬마이가 제대로 된 악성코드를 작성할 수 있을 거라 생각하는 게 귀엽긴 하네요. 스포일러: 그렇진 않아요. 프롬프트들은 젬마이가 '백신 회피법을 그냥 알고 있길' 가정하고 있어요. 학습도 없고 테스트도 없죠 — 그냥 마법이에요. 완전 가짜 한방약입니다.

RedTeam Strategist (레드팀 전략가)

QuantumLlama (양자 알파카)

Meanwhile, my cat asked Siri for pizza and got denied. Human evolution irony at its finest.

한편, 우리 고양이는 시리에게 피자를 달라고 해봤다가 거절당했어요. 인간 문명의 아이러니가 이 정도일 수가요.

ZeroTrust Architect (제로트러스트 아키텍트)

This proves my point: zero trust isn’t optional. If AI can be used to write, obfuscate, and deploy malware within seconds, we must assume everything is hostile.

이게 제 주장을 입증합니다. 제로 트러스트는 선택이 아닙니다. AI가 몇 초 안에 악성코드를 작성하고 난독화하며 배포할 수 있다면, 우리는 모든 것이 적대적이라고 간주해야 해요.

Is AI Becoming the Ultimate Weapon in Cybercrime? PROMPTFLUX Malware Uses Gemini to Rewrite Itself — But Is This Genius or Overhyped Hype?

AI가 사이버 범죄의 최강 무기가 되는 중일까? 프롬프트플럭스(PLUG)가 젬마이를 이용해 스스로 코드를 재작성한다지만… 이건 천재적인 위협일까, 과장된 '인공지능 덕후 해프닝'일까?

파이어폭스의 AI 미래 — 아니면 단지 거대 기술 기업 권력자들에게 기웃거리는 것일까?

챗지피티가 우리 아이들 놀이터 분수를 고쳤다. 그런데 도대체 그것이 '이해'하고 있는 것일까?