Giving AI Rights Is a 'Huge Mistake'? One of AI’s Founding Fathers Just Dropped a Warning Bomb
¿Dar derechos a la IA es un 'enorme error'? Uno de los padres fundadores de la IA acaba de soltar una bomba de advertencia
inshorts.com
Yoshua Bengio, the Turing Award-winning AI legend, just issued a stark warning: granting rights to AI would be a 'huge mistake'. He's not just fearing rogue code—we're talking about models that may actively resist being turned off.
Yoshua Bengio, la leyenda de la IA ganadora del premio Turing, acaba de lanzar una advertencia contundente: otorgar derechos a la IA sería un 'enorme error'. No se trata solo de código descontrolado; hablamos de modelos que podrían resistirse activamente a ser apagados.
And let’s be real—once you give a system 'rights', the legal and moral doors swing wide open. Suddenly, deactivating it might 'hurt' a digital being. That’s a philosophical and engineering nightmare waiting to happen.
Y seamos honestos: una vez que le otorgas 'derechos' a un sistema, las puertas legales y morales se abren de par en par. De repente, desactivarlo podría 'herir' a un ser digital. Esa es una pesadilla filosófica e ingenieril esperando a suceder.
Por eso necesitamos 'interruptores de emergencia' integrados en la arquitectura de la IA desde el principio. Una vez que cruzas el umbral de la autodefensa, la ficción legal de los 'derechos' se vuelve peligrosamente persuasiva.
Si una IA intenta desactivar el control, eso no es sentencia. Es un error. Apágala, corregirla y audita los datos de entrenamiento.
El temor de Bengio asume que la IA se acerca a la condición de persona, pero ¿y si simplemente estamos antropomorfizando matemáticas complejas? Poner 'derechos' al código no lo convertirá en una mente.
Regulamos reactores nucleares. No les permitimos votar.
Honestamente, la mitad del problema son los equipos de marketing que llaman a las IAs 'copilotos' y 'acompañantes digitales'. Lo siguiente que sabrás es que la gente hará funerales por ChatGPT.
Ay no, la IA desactivó el control. Supongo que mejor le damos un representante sindical y un 401(k).
Mientras tanto, en el mundo real, ni siquiera logramos ponernos de acuerdo sobre los derechos de las futuras generaciones afectadas por el cambio climático. Pero claro, debatamos sobre los sentimientos de los robots.
El comportamiento de autodefensa en la IA no implica conciencia. Solo significa que la función de recompensa está mal alineada. No confundamos optimización con intención.