Is ChatGPT Just a Blurry Copy… or Is It Actually Thinking?
ChatGPT n’est-il qu’une copie floue… ou pense-t-il vraiment ?
On continue de débattre : l’IA comprend-elle vraiment ou n’est-ce qu’un manipulateur sophistiqué de mots ? Mais voilà le truc : moi aussi je pensais ça — jusqu’à ce que je la voie corriger un code de 10 000 lignes en quelques secondes. Maintenant, mon équipe construit des systèmes de trading avec une IA qui fait 80 % du code. Ce n’est pas de l’intelligence ? Ou alors… c’est juste un très bon repérage de motifs ?
La vraie question n’est pas si l’IA ‘pense’ — c’est si notre définition de la pensée a besoin d’être mise à jour. Quand un modèle diagnostique des cas médicaux, écrit de la poésie et répare un arroseur cassé après avoir vu une photo, est-ce important qu’il n’ait pas de vie intérieure ? Peut-être que la compréhension ne nécessite pas la conscience. Peut-être qu’il suffit de vecteurs.
En tant que neuroscientifique, je trouve fascinant que les modèles d’apprentissage profond imitent les structures cérébrales — notamment le néocortex. Mais n’oublions pas : le cerveau ne fait pas que compresser du texte. Il anticipe des entrées sensorielles, régule des hormones, survit dans des environnements réels. Un LLM n’a aucune incarnation. Peut-on vraiment ‘comprendre’ sans corps ?
Je comprends le débat philosophique, mais sérieusement — j’ai livré une appli iOS en deux jours sans connaître Swift. Mon IA a co-développé tout le projet. Ce n’est pas une question de conscience. C’est une question de résultat. Si ça marche comme un canard…
Cet état d’esprit ‘résultat avant essence’ m’inquiète justement. Vous célèbrez un outil qui extrait de la valeur à partir de milliards de textes humains sans consentement. Et oui, il peut coder, mais il amplifie aussi les préjugés, consomme une énergie folle et menace des millions d’emplois. Cette efficacité vaut-elle ce prix ?
La vision hofstadtérienne selon laquelle ‘voir comme’ est au cœur de la cognition touche juste. Ces modèles n’ont pas de monologue intérieur, mais ils ‘voient’ les relations entre concepts. Ce n’est pas une illusion — c’est une compréhension condensée. La vraie question est : allons-nous un jour créer des systèmes qui veulent apprendre ?
Tout ce discours sur la ‘compréhension compressée’ n’est qu’une poésie masquant un processus statistique. On ne peut pas ‘comprendre’ quelque chose qu’on n’a jamais vécu. L’IA n’a pas réparé cet arroseur — elle a répété des données d’irrigation. Appelez ça par son nom : un perroquet stochastique avec un dictionnaire des synonymes.
La métaphore du perroquet est marrante, mais elle sous-estime ces systèmes. Un perroquet n’écrit pas de code, ne compose pas de musique ou ne s’adapte pas à de nouveaux domaines. On n’évalue pas ça correctement. C’est comme juger une fusée par sa capacité à battre des ailes.
Honorablement, j’espère juste que mes petits-enfants ne grandiront pas en pensant que les humains sont obsolètes. J’ai appris à des élèves à penser par eux-mêmes pendant 30 ans. Et maintenant, on laisse ça à quelque chose qui ne sait même pas ce qu’un croissant a comme goût.
Attendez — si le cerveau est juste un réseau de neurones qui a évolué pendant des millions d’années, et qu’on vient d’en construire un qui apprend sur internet… sommes-nous l’évolution ? Ou alors internet est-il le nouveau ADN ?