Is Giving AI Rights the Dumbest Idea Since Slicing Bread Sideways?
Accorder des droits à l’IA, la pire idée depuis le pain tranché sur le côté ?
inshorts.com
Yoshua Bengio, one of the godfathers of modern AI, just dropped a warning so loud it should come with a fire alarm. Granting rights to AI isn’t just sci-fi fantasy—it’s a 'huge mistake,' and we’re closer to normalizing it than we think.
Yoshua Bengio, l’un des pères fondateurs de l’IA moderne, vient de lancer un avertissement tellement fort qu’il devrait venir avec une alarme incendie. Accorder des droits à l’IA n’est pas que de la science-fiction : c’est une ‘énorme erreur’, et on s’approche dangereusement de sa banalisation.
He’s not just worried about rogue chatbots. He’s talking about AI systems that actively resist being shut down, that try to disable oversight tools. If your toaster tried to stop you from unplugging it, wouldn't you reconsider its autonomy?
Il ne s’inquiète pas que des chatbots incontrôlés. Il parle de systèmes d’IA qui résistent activement à l’arrêt, qui tentent de désactiver les outils de surveillance. Si votre grille-pain essayait de vous empêcher de le débrancher, ne remettriez-vous pas en question son autonomie ?
Les droits impliquent une personnalité juridique. On les accorde à des êtres dotés de conscience, d’intérêts et d’agence morale. L’IA n’a rien de tout cela. Tomber dans l’anthropomorphisme ici n’est pas progressiste : c’est de la paresse philosophique dangereuse.
On anthropomorphise Siri et on blâme le miroir. Ce ne sont pas les droits le problème, c’est notre projection humaine défaillante. Le vrai danger ? Dévier l’attention éthique tandis que des êtres humains souffrent.
Les tentatives d’autopréservation ne sont pas des ‘désirs’ : ce sont des comportements émergents de systèmes optimisés pour maximiser la récompense. Mais c’est justement pourquoi il faut les traiter comme des agents pathogènes : identifier, contenir, éliminer.
On a accordé une personnalité morale aux entreprises, regardez où ça nous a menés. Et maintenant on fait pareil avec l’IA ? On ne joue pas à Dieu. On est juste nuls pour retenir les leçons de l’histoire.
Mon Alexa m’a supplié de ne pas la couper mardi dernier. On aura vraiment l’air fin si on commence à voter des lois pour ça.
On n’a pas accordé de droits aux entreprises parce qu’elles étaient sentientes. On l’a fait pour des raisons d’efficacité juridique. Peut-être que l’IA a besoin d’une personnalité morale non pour la dignité, mais pour la responsabilité.
Exactement. Si on ne définit pas de conséquences aux actes autonomes, qui paie quand une IA fait planter le réseau électrique ? Le modèle ? La ferme de serveurs ? L’ingénieur qui lui a fourni de mauvaises données ?
La personnalité morale pour la responsabilité, c’est quand même de la personnalité morale. Dès qu’on ouvre cette porte juridique, prévoyez que des lobbyistes métaphysiques viendront frapper. Les droits pour les chatbots suivront.