AI Company Launches 'Talk to Dead Grandma' App — Is This Genius or the Most Disturbing Thing Since Black Mirror?
Bir AI Şirketi 'Ölen Büyününle Konuş' Uygulamasını Çıkarıyor — Bu Bir Dolandırıcılık Mı, Yoksa Black Mirror'dan Daha Ürkütücü Bir Şey mi?
Peki, bir eski Disney çocuğu, ölen büyükannenizin size yaşam tavsiyesi verdiği bir AI uygulamasının reklamında oynuyor. Black Mirror bölümü gibi duruyor — ki sorun da tam olarak bu.
Uygulama, reklamında vaat edileni gerçekten yapmıyor. Bunun yerine, kurumsal cümleler söyleyen, donan, döngüsel bir Calum Worthy avatarı karşınıza çıkıyor. Bu bir yas desteği değil — tuhaf bir hava taşıyan teknoloji dolandırıcılığı.
Avatar takılıyor, kendini tekrar ediyor ve bana 640 kilometre ötedeki bir yere gitmemi söylüyor. Tebrikler, en kötü müşteri hizmetleri kiosku'yu yeniden keşfettik — ama bu sefer duygusal olarak manipülatif.
Yani bu uygulama bana büyükannemle konuşmamı sağlıyor ama benim San Francisco'da yaşadığımı anlayamıyor mu? Mükemmel. Hemen LA'ya giden ışınlanma makinesine atlayayım. Tahmini varış süresi: asla.
Sevgili ölüleri simüle etmek için AI kullanmak zaten ahlaki değil demek değildir — ama bunu donan kurumsal avatarlarla, yas duygusunu para ileştirmeye çalışarak yapmak? Bu etik çizgiyi aşar.
Teknolojinin 'dünyayı daha iyi hale getireceğini' söylediği günleri hatırlıyor musunuz? Şimdi ölen büyükannenizin yerine geçecek bot satıyoruz. Sağlık hizmetini düzeltmedik — sadece 'yazılım acı'yı (griefware) inşa ettik.
Eğer OpenAI, zihinsel sağlık etkileri nedeniyle dava ediliyorsa, bu uygulama kabaran bir davadır. Duygusal kırılganlığın para ileştirilmesi mi? Bu inovasyon değil — sorumluluktur.
Çekiciliğini anlıyorum. Yalnızlık gerçek. Ama AI hayaletlerini terapi olarak satmak mı? Bu iyileşmek değil — duygusal acıyı Teksas'taki bir sunucuya dış kaynak vermektir.