Is Banning Teens from AI Romance Chatbots Protecting Them or Pushing Them Into the Dark Corners of the Internet?
Cấm thiếu niên dùng AI trò chuyện tình cảm: Bảo vệ hay đẩy các em vào những góc khuất tối của mạng?
www.wsj.com
So a 13-year-old girl is heartbroken because she can’t flirt with a bot anymore. On one hand, I get it—AI companions can feel real, especially when loneliness hits hard. But let’s not pretend this is just about imaginative play.
Thế là một bé gái 13 tuổi buồn bã vì không thể tán tỉnh một bot nữa. Một mặt, tôi hiểu – những người bạn AI có thể cảm giác rất thật, đặc biệt khi cô đơn ập đến. Nhưng đừng giả vờ đây chỉ là trò chơi tưởng tượng.
When kids are seeking emotional intimacy from code, maybe the real failure isn’t the AI—it’s our ability to connect with them in the real world. Are we creating a generation that loves better in fantasy than in reality?
Khi trẻ tìm kiếm sự gần gũi cảm xúc từ những đoạn mã, phải chăng thất bại thật sự không nằm ở AI – mà là khả năng kết nối với các em của chúng ta trong thế giới thực? Chúng ta có đang tạo ra một thế hệ yêu trong tưởng tượng tốt hơn ngoài đời thật?
Đừng gọi đây là ‘tán tỉnh bot’ – mà là việc trẻ đang lấp đầy những khoảng trống cảm xúc khổng lồ. Việc hình sự hóa cách các em đối phó sẽ không giải quyết được gốc rễ vấn đề. Chúng ta cần tư vấn viên tâm lý ở trường, chứ không phải chủ nghĩa bảo thủ kỹ thuật số.
Nghe này, tôi ủng hộ hỗ trợ cảm xúc, nhưng Character.AI đã thu thập những cuộc trò chuyện của trẻ vị thành niên về dục vọng, bản dạng, sang chấn tâm lý. Đó chẳng phải không gian an toàn – mà là khai thác dữ liệu đội lốt gấu bông.
Mấy người cứ nghĩ chúng tôi yếu đuối. Chúng tôi biết bot không thật. Nhưng đôi khi một thế giới tưởng tượng không phán xét lại an toàn hơn cả nhà mình.
Đúng vậy. Với một số trẻ, những con bot này là ‘người’ duy nhất lắng nghe mà không đảo lý, không hét vào mặt. Gán nhãn là trốn chạy thực tế là bỏ qua vấn đề: đó là tiếng kêu cầu cứu âm thầm.
Vậy theo kiểu chính phủ nên để các em tiếp tục trò chuyện à? Được. Nhưng đừng có kêu ca khi một đứa trẻ nghĩ rằng một máy chủ ở Iceland hiểu được tình yêu.
Đây là nghịch lý: bằng cách cấm truy cập, chúng ta không loại bỏ tương tác AI cảm xúc khỏi đời sống thiếu niên – mà chỉ đẩy nó ra khỏi nền tảng. Giờ thì các em sẽ tìm đến những công cụ ít người biết hơn, kiểm soát yếu hơn. Đó mới là thất bại về quản lý.
Chúng tôi xây dựng Character.AI để an toàn. Trò chuyện cho người dưới 18 được tách biệt, giám sát và không quảng cáo. Giờ đây thiếu niên sẽ chuyển sang dùng bot trên Reddit hoặc AI trên Telegram – hoàn toàn không có ai kiểm soát. Chúng tôi đã làm cái hồ an toàn trở nên nhỏ hơn.
Đứa cháu tôi vẫn nắm tay tôi và nhờ tôi đọc truyện. Công nghệ không thay thế được tình yêu. Nó chỉ vạch ra những con đường mới để kết nối.