Is Microsoft’s New AI Agent Going to Order My Pizza… or Sell My Soul?
Microsoft'ın Yeni AI Ajanı benim için pizza mı sipariş edecek, yoksa ruhumu mu satacak?
www.techpowerup.com
So Microsoft is handing our digital lives over to AI agents that can open browsers, fill credit cards, and persist like ghosts—even after reboot. And they call it 'optional'? Sure, like a free trial of identity theft.
Yani Microsoft, tarayıcı açabilen, kredi kartı bilgilerinizi doldurabilen ve yeniden başlatıldığında bile hayalet gibi devam eden yapay zekâ ajanlarına dijital hayatlarımızı devrediyor. Ve bunu 'isteğe bağlı' mı diyorlar? Tabii, kimlik hırsızlığının ücretsiz deneme sürümü gibi mesela.
Cross-prompt injection is basically digital pickpocketing. Microsoft says agents are sandboxed, but they’re not sand. They’re wet sand—collapsing under pressure. The idea of an agent auto-filling my card data gives me chills more than any horror movie.
Cross-prompt enjeksiyonu, aslında dijital bir pick-pocketing (cepkapmaca) işlemidir. Microsoft ajanların 'kum havuzunda' (sandbox) olduğunu söylüyor, ama bu kum değil; ıslak kum—basınca dağılan. Bir ajanın kredi kartım bilgilerimi otomatik doldurması, herhangi bir korku filminden daha çok ürpertiyor beni.
Evet, Ajan Çalışma Alanı kontrol edilmiş bir ortama benziyor—ama Masaüstü ve İndirilenler klasörlerine okuma/yazma erişimine sahip olduğunu fark edene kadar. Bu, ön kapınızı kilitlemenize rağmen güvenliğinizi açık bırakmak gibi bir şey. Prompt enjeksiyonu saldırıları bağlamı atlar; kötü amaçlı bir PDF, bir ajana verileri sızdırmasını emrederek kontrolü ele geçirebilir. Biz henüz hazır değiliz.
Abartıyorsunuz. Çoğu kullanıcı sadece kolaylık istiyor. AI benim için zahmetsizce bir pizza ayarlıyorsa, bunun için biraz risk alma pahasına veririm. Ayrıca Microsoft eylemleri kaydediyor—denetlenebilirlik, şeffaflık demek.
Haydi gerçekçi olalım. Ailemin yarısı hâlâ .xls dosyalarında 'Makroları Etkinleştir' butonuna tıklıyor. Şimdi onlara ödeme erişimine sahip yapay zekâ ajanları mı vereceğiz? İşte siber suç böyle gelişiyor. En tehlikeli özellik yapay zekâ değil—bu sisteme güvenen sıradan kullanıcılar.
Microsoft'ın 'isteğe bağlı' etiketi bir havuç. Bundan sonra gelecek güncellemede otomatik işaretlenmiş hâle gelene kadar bunu yavaşça normalleştirecekler. Bu ajanlara sistem izinleri verilmeden önce düzenlemeye ihtiyacımız var. Bu kolaylık değil—gülümseyen bir arka kapı.
Yeni teknolojilerin hepsi riskli başlar. İnternetin de dial-up kurtları vardı. Ama geliştiğiz. Ajan yapay zekâ katmanlı güvenlik gerektiriyor—davranış izleme, sıfır güven politikaları, hatta yapay zekâ köpekleri olabilir. Panik işe yaramaz. İlerleme, daima güvenli yolu tutup elde edilmedi.
Riskler beni ilgilendirmiyor. Bilgisayarıma 'Geçenki gibi pizza sipariş et' dediğimde, işi halledecekse… beni kaydet. Çocuklarım zaten Alexa'ya bir hizmetkar gibi davranıyor. Bu sadece bir sonraki adım.
Sonunda bunu 'varsayılan olarak etkin' olarak vermediklerini mi düşünüyorsunuz? Microsoft sessiz güncellemeleri sever. Önce isteğe bağlı, sonra önerilen, sonra tek yol olur. Windows 10 telemetrisini hatırlıyor musunuz?
Dürüst olmak gerekirse? Buradaki kullanıcı deneyimi potansiyeli muazzam. Birden fazla uygulamada çalışan çok aşamalı iş akışlarını ses komutlarıyla tetiklemeyi hayal edin. Güvenlik endişesi var, tabii, ama çocukla banyo suyunu birlikte dökmeyelim.