Is ChatGPT Actually Thinking? A Programmer’s Crisis of Faith in AI Intelligence
¿Realmente está pensando ChatGPT? La crisis de fe de un programador sobre la inteligencia artificial
www.newyorker.com
I used to laugh at the idea that AI could understand anything. It was all 'stochastic parrots,' right? Just stringing words together without grasping meaning. But after integrating LLMs into my workflow at a quant trading firm, I’ve had a quiet conversion.
Antes me reía de la idea de que la IA pudiera entender algo. Todo era 'loros estocásticos', ¿verdad? Simplemente juntaban palabras sin captar el significado. Pero después de integrar modelos lingüísticos grandes (LLMs) en mi trabajo en una firma de trading cuantitativo, he tenido una conversión silenciosa.
These models don’t just autocomplete—they digest entire codebases, debug subtly, and architect complex features. I once fixed a broken park sprinkler system by showing ChatGPT a photo. It diagnosed a backflow preventer issue instantly. Was that intelligence? Or just a very blurry JPEG of the internet?
Estos modelos no solo completan texto automáticamente; digieren bases completas de código, depuran con sutileza y diseñan funciones complejas. Una vez arreglé un sistema de aspersores defectuoso enseñando una foto a ChatGPT. Diagnosticó al instante un problema con el dispositivo anti-retorno. ¿Fue eso inteligencia? ¿O solo un JPEG muy borroso de internet?
La metáfora del 'JPEG borroso' es desinflante, claro, pero cambiemos el enfoque: si un JPEG borroso sigue reconstruyendo la imagen completa, ¿no implica eso que se conservó una estructura profunda? Los LLMs no 'piensan' como nosotros; comprimen y reconstruyen patrones de forma que imita la comprensión. ¿Espeluznante? Sí. Pero no es magia.
Vosotros tenéis una crisis existencial mientras yo cobro por hora por integrar estas herramientas. A mi jefe no le importa si 'entiende'; le importa que reduce el tiempo de desarrollo a la mitad. Esto no es filosofía. Es solo otro clavo en el ataúd del trabajo especializado.
Exactamente. El debate '¿piensa?' distrae del problema real: la concentración de poder. Estos modelos se entrenan con nuestro conocimiento colectivo, pero solo benefician a un puñado de corporaciones. Y no olvidemos la huella de carbono ni a los trabajadores que etiquetan datos en Nairobi.
La belleza está en los vectores. Cuando restas 'Francia' de 'París' y sumas 'Italia', obtienes 'Roma'—eso no es repetición. Es geometría del significado. Los LLMs no son conscientes, pero han descubierto un sustrato matemático para 'ver como'. Hofstadter se quedaría pasmado.
El mismo Hofstadter admitió que GPT-4 le impresionó. El bando de los desinflacionistas ha perdido. Estos sistemas 'ven como'; reconocen patrones, activan asociaciones, igual que la memoria humana. ¿La diferencia? Lo hacen más rápido y a gran escala. Eso no es fraude. Es evolución.
Vale, vectores chulos. Pero pídele que organice una fiesta sorpresa manteniéndola en secreto, y sugerirá enviar invitaciones por correo. ¿Dónde está el sentido común? La comprensión real requiere encarnación, emoción y objetivos. No puedes aprender eso solo con texto.
Exactamente. El aprendizaje humano es fuera de línea; durante el sueño, los recuerdos se repiten y moldean la neocorteza. Los modelos de IA se congelan tras el entrenamiento. Sin actualización continua. Sin sueños. Sin adaptación real. Ese es el problema difícil, y nadie está cerca de resolverlo.
Esto me recuerda a 1999 otra vez. La fiebre genómica prometió curas para todo. Tuvimos datos, no respuestas. Ahora estamos en la fiebre de la IA, con afirmaciones mesiánicas. Mantengámonos humildes. La mayoría de los grandes avances resultan ser solo pies de monte.