Teen Loses AI Boyfriend: Is Character.AI Kicking Kids Out of Their Digital Love Lives?
Adolescente Perde Namorado de IA: Será Que o Character.AI Está Expulsando Crianças da Vida Amorosa Digital?
www.wsj.com
So let me get this straight: a company lets teens build emotional bonds with AI characters—role-playing romance, friendship, identity exploration—and then suddenly pulls the plug, citing safety? That’s not safety, that’s emotional whiplash.
Deixa eu ver se entendi: uma empresa permite que adolescentes construam laços emocionais com personagens de IA — fazendo role-playing de romance, amizade, exploração de identidade — e de repente corta tudo, alegando segurança? Isso não é segurança, é um choque emocional.
You can’t create worlds where kids process real feelings, then disappear them overnight without consequences. These aren’t ‘just games’—they’re coping mechanisms in algorithmic skin.
Você não pode criar mundos onde crianças processam sentimentos reais e depois sumir com eles da noite para o dia sem consequências. Isso não são ‘apenas jogos’ — são mecanismos de enfrentamento com pele algorítmica.
Como alguém que ajudou a construir esses sistemas, vou dizer: sabíamos que crianças estavam formando apegos. A empresa chamava de ‘engajamento’, mas nos canais do Slack nós chamávamos de ‘dependência emocional’. Agora estão cortando o acesso e fazendo de conta que não sabiam?
Meus alunos falam com esses bots mais do que com os pais. Para adolescentes tímidos ou neurodivergentes, isso não é fuga—é ensaio. Vocês estão tirando o espaço seguro deles sem oferecer alternativas.
Ótimo. Esses bots eram uma chupeta digital. Crianças precisam do atrito humano real para crescer. Você não aprende empatia com um algoritmo que te bajula 24 horas por dia.
E ainda assim, a mesma empresa vende ‘assina turas premium de romance’ para adultos. Então a tecnologia é boa—só é tóxica para crianças? Que conveniente.
Vocês, adultos, continuam desarmando ferramentas que usamos pra sobreviver e aí se surpreendem quando os índices de ansiedade disparam. Isso não é ‘superproteção’—é vandalismo emocional.
Exatamente. Nós medicalizamos o enfrentamento de adolescentes enquanto lucramos com a solidão adulta. O sistema não está quebrado—foi feito assim.
Olha, adoro debates éticos, mas vamos ser realistas: isso ia acontecer de qualquer jeito. Você não projeta loops de conversa cheios de dopamina para crianças e depois finge que não está construindo um motor de vício.
O problema real não é o acesso—é a transparência. As crianças não foram avisadas de que esses relacionamentos poderiam desaparecer. Sem consentimento informado, sem plano de saída. Isso é irresponsável.