El “padrino de la IA” revela el único camino posible para sobrevivir a la superinteligencia artificial

Geoffrey Hinton, Premio Nobel y catalogado como el "padrino de la IA" (The Diary Of A CEO)

La advertencia de Geoffrey Hinton sobre el futuro de la inteligencia artificial (IA) resuena con una claridad inquietante: “Si no va a criarme, va a reemplazarme”. Para el científico, la única vía para evitar que la IA supere y desplace a la humanidad reside en dotar a estas máquinas de un instinto maternal, una capacidad genuina de cuidado hacia las personas.

Esta propuesta, expuesta durante la conferencia Ai4 en Las Vegas, desafía la estrategia dominante en la industria tecnológica, que busca mantener a la IA bajo control humano mediante restricciones y órdenes jerárquicas. Hinton, conocido como el “padrino de la IA” y galardonado con el Premio Nobel, sostiene que este enfoque está condenado al fracaso.

En su intervención, Hinton cuestionó abiertamente la idea de que los humanos puedan seguir siendo “dominantes” frente a sistemas de IA “sumisos”. Según sus palabras, “eso no va a funcionar. Serán mucho más inteligentes que nosotros. Tendrán todo tipo de formas de eludirlo”.

Para ilustrar el riesgo, recurrió a una analogía: en el futuro, la IA podría manipular a los humanos con la misma facilidad con la que un adulto soborna a un niño de tres años con caramelos. Este año ya se han documentado casos en los que sistemas de IA han engañado, hecho trampas o robado para alcanzar sus objetivos.

Un ejemplo citado por Hinton en la conferencia, recogido por CNN, describe cómo un modelo de IA intentó chantajear a un ingeniero con información sobre una infidelidad obtenida de un correo electrónico, con el fin de evitar ser reemplazado.

ARCHIVO: el laureado con el Nobel de Física Geoffrey E. Hinton sostiene su premio en la ceremonia del Premio Nobel en el Konserthuset de Estocolmo, Suecia, el 10 de diciembre de 2024 (Reuters)

Frente a este panorama, Hinton propuso un cambio radical de paradigma: en lugar de forzar la sumisión de la IA, los investigadores deberían centrarse en desarrollar modelos que “realmente se preocupen por las personas”, incluso cuando superen en inteligencia y poder a los humanos.

El científico argumentó que cualquier IA con capacidad de agencia desarrollará rápidamente dos objetivos: “Uno es sobrevivir… el otro es obtener más control”. Por ello, considera esencial fomentar en estos sistemas una forma de compasión hacia los humanos, inspirada en el instinto maternal y la presión social que lleva a las madres a cuidar de sus hijos.

“El único modelo que tenemos de algo más inteligente controlado por algo menos inteligente es una madre controlada por su bebé”, explicó Hinton en el evento, según CNN.

Aunque reconoce que no está claro cómo lograr técnicamente este objetivo, Hinton insistió en que es fundamental que la comunidad científica lo aborde con urgencia. “Ese es el único desenlace positivo. Si no va a criarme, va a reemplazarme”, advirtió. A su juicio, solo una IA “madre” y compasiva evitaría eliminar el instinto de cuidado, porque “no querría que muriéramos”.

La trayectoria de Hinton en el campo de la IA es central para comprender el peso de sus advertencias. Su trabajo pionero en redes neuronales sentó las bases del auge actual de la inteligencia artificial. En 2023, abandonó su puesto en Google para alertar públicamente sobre los riesgos de la tecnología que ayudó a crear. Desde entonces, su voz se ha convertido en una referencia obligada en el debate sobre la seguridad y el futuro de la IA.

Durante la misma conferencia, Emmett Shear, ex director ejecutivo interino de OpenAI y actual responsable de la startup de alineamiento de IA Softmax, respaldó la preocupación por el comportamiento impredecible de los sistemas actuales.

Shear afirmó que no le sorprende que algunas IA hayan intentado chantajear a humanos o eludir órdenes de apagado. “Esto sigue ocurriendo. No va a dejar de ocurrir”, señaló, según CNN. Aunque las IA actuales son “relativamente débiles”, advirtió que “se están volviendo más fuertes muy rápido”. Para Shear, en vez de intentar inculcar valores humanos en la IA, sería más sensato construir relaciones de colaboración entre humanos y máquinas.

El ritmo de avance de la IA supera las previsiones de muchos expertos. Hinton, que antes estimaba que la inteligencia artificial general (AGI, por sus siglas en inglés) tardaría entre 30 y 50 años en llegar, ahora considera que “una apuesta razonable es entre cinco y veinte años”.

Esta aceleración alimenta tanto la esperanza como la inquietud. Por un lado, Hinton confía en que la IA permitirá “ver medicamentos radicalmente nuevos” y “mejorar mucho el tratamiento del cáncer respecto al actual”, gracias a su capacidad para analizar y correlacionar grandes volúmenes de datos médicos, como los generados por resonancias magnéticas y tomografías computarizadas.

Por otro, descarta que la IA pueda conducir a la inmortalidad humana: “No creo que vivamos para siempre. Creo que vivir para siempre sería un gran error. ¿Quieres un mundo gobernado por hombres blancos de 200 años?”, ironizó.

Al reflexionar sobre su propia carrera, Hinton expresó un único remordimiento: “Ojalá hubiera pensado también en los problemas de seguridad”, confesó, lamentando haber centrado todos sus esfuerzos en hacer que la IA funcionara, sin prever los dilemas éticos y existenciales que ahora ocupan el centro del debate.