Geoffrey Hinton, creador de la tecnología detrás de ChatGPT, abandonó la gigante tecnológica para alertar sobre los peligros de la inteligencia artificial. El científico considera que la humanidad podría haber perdido el control y advierte: “Nunca enfrentamos algo más inteligente que nosotros”
Un 20 % de probabilidad de extinción humana. Esa es la estimación que Geoffrey Hinton, el reconocido “padrino de la inteligencia artificial”, lanza sobre el futuro de la humanidad ante el avance imparable de la IA.
Ganador del Premio Turing y figura central en el desarrollo de las redes neuronales, ha pasado de ser uno de los arquitectos de la revolución tecnológica a convertirse en uno de sus críticos más severos. En una entrevista reciente en el pódcast de Steven Bartlett “The Diary Of A CEO”, el “padrino de la IA” advierte que la humanidad podría haber perdido el control sobre la inteligencia artificial y urge a gobiernos y sociedad a actuar con rapidez para evitar consecuencias catastróficas.
La voz de alarma del ex investigador de Google no es una simple especulación: se basa en décadas de experiencia y en una visión privilegiada de los riesgos que se avecinan.
Del Nobel de la computación al profeta del apocalipsis: quién es Geoffrey Hinton
Geoffrey Hinton es una de las figuras más influyentes en la historia de la inteligencia artificial. Su trabajo pionero en redes neuronales y aprendizaje profundo sentó las bases de los sistemas que hoy impulsan, desde asistentes virtuales hasta diagnósticos médicos automatizados. Hinton recibió el Premio Turing en 2018, considerado el Nobel de la computación, y su trayectoria abarca más de medio siglo de investigación.
Durante diez años, trabajó en Google tras la adquisición de la tecnología desarrollada por su equipo, donde contribuyó a avances clave en el campo. Fue uno de los pocos que defendió la idea de modelar la inteligencia artificial a partir del cerebro humano, una visión que en sus inicios fue minoritaria. “Puse en práctica ese enfoque durante 50 años”, explicó, y gracias a ello atrajo a estudiantes brillantes, algunos de los cuales, como Ilya Sutskever, desempeñaron papeles fundamentales en la creación de plataformas como OpenAI.
Por qué el ‘padrino de la IA’ renunció a Google para advertir sobre el fin del mundo
En 2023, Hinton decidió abandonar Google. El motivo principal, según explicó al medio, fue la necesidad de poder hablar con libertad sobre los peligros de la inteligencia artificial. “Quería advertir sobre lo peligrosa que puede ser la IA”, afirmó. Aunque Google le ofreció continuar trabajando en seguridad de la IA, Hinton consideró que, al formar parte de una gran empresa, se sentía limitado para expresar opiniones que pudieran perjudicar a la compañía. “Uno se autocensura”, reconoció.
La salida del investigador marcó un punto de inflexión en su carrera: de arquitecto de la IA pasó a ser uno de sus críticos más visibles. “Mi principal misión ahora es advertir sobre lo peligrosa que puede ser la IA”, declaró en la entrevista.
Esta transición estuvo motivada por la constatación de que los sistemas de IA estaban alcanzando capacidades que superan a las humanas en muchos ámbitos y que los riesgos asociados ya no podían ser ignorados.
Un 20 % de probabilidades de extinción: la escalofriante predicción de Hinton
Uno de los aspectos más inquietantes de la advertencia de Hinton es la posibilidad real de que la inteligencia artificial supere a la inteligencia humana y decida prescindir de nosotros. “Hay un 10 a un 20 % de probabilidad de que la IA nos extinga”, estimó Hinton, aclarando que se trata de una valoración personal basada en su experiencia y en la incertidumbre inherente a un fenómeno sin precedentes.
Hinton distingue entre dos tipos de riesgos: los derivados del mal uso de la IA por parte de personas y los que surgen de la propia autonomía de sistemas superinteligentes. “Nunca hemos tenido que enfrentarnos a algo más inteligente que nosotros”, advirtió.
Para ilustrar la magnitud del desafío, Hinton recurrió a una analogía: “Si quieres saber cómo es la vida cuando no eres la inteligencia dominante, pregúntale a una gallina”.
Ciberataques, virus letales y armas autónomas: las 6 amenazas que nos extinguirán
Durante la entrevista, el científico enumeró seis amenazas mortales que, a su juicio, plantea la inteligencia artificial en la actualidad:
1. Ciberataques: Hinton alertó sobre el aumento exponencial de los ciberataques facilitados por la IA, que entre 2023 y 2024 crecieron un 1.200 %. Los sistemas de IA permiten realizar ataques de suplantación de identidad (phishing) con una sofisticación inédita, incluyendo la clonación de voces e imágenes. “Ya es fácil para la IA analizar millones de líneas de código en busca de vulnerabilidades”, explicó.
2. Creación de virus: la IA puede ser utilizada para diseñar nuevos virus biológicos de forma barata y sin necesidad de grandes conocimientos en biología molecular. “Solo hace falta una persona con ciertos conocimientos y una motivación destructiva”, advirtió Hinton, quien señaló que incluso pequeños grupos podrían desarrollar patógenos peligrosos.
3. Manipulación electoral: el uso de IA para recopilar datos personales y dirigir mensajes políticos personalizados representa una amenaza para la integridad de los procesos democráticos. Hinton expresó su preocupación por la acumulación de datos por parte de grandes plataformas y la posibilidad de manipular a los votantes de manera masiva.
4. Polarización social: los algoritmos de recomendación de redes sociales, diseñados para maximizar la interacción, tienden a mostrar contenidos cada vez más extremos, lo que refuerza los sesgos y divide a la sociedad. “Ya no tenemos una realidad compartida”, lamentó el “padrino de la IA”, quien subrayó el papel de la IA en la creación de cámaras de eco.
5. Armas autónomas letales: Hinton alertó sobre el desarrollo de armas que pueden tomar decisiones de vida o muerte sin intervención humana. “Los grandes países podrán invadir a los pequeños sin temor a bajas propias, lo que reducirá la resistencia social a la guerra”, explicó.
6. Desempleo masivo: la automatización impulsada por la IA amenaza con eliminar millones de empleos, especialmente en tareas intelectuales rutinarias. Hinton comparó este fenómeno con la revolución industrial, pero advirtió que, a diferencia de entonces, la IA podría reemplazar incluso trabajos creativos y especializados.
Su sobrina hace en 5 minutos lo que antes tardaba 25: el desempleo masivo ya comenzó
El impacto de la inteligencia artificial en el empleo es, para Hinton, una de las amenazas más inmediatas. “La brecha entre ricos y pobres aumentará con la IA”, afirmó en declaraciones recogidas por The Diary Of A CEO.
El investigador ilustró el fenómeno con ejemplos concretos: su sobrina, que trabaja respondiendo cartas de queja en un servicio de salud, ha visto cómo la IA le permite hacer en cinco minutos lo que antes le llevaba veinticinco. “Eso significa que se necesitan cinco veces menos personas para el mismo trabajo”, explicó.
El desempleo no se limitará a sectores administrativos. Hinton advirtió que profesiones como la de asistente legal o paralegal desaparecerán pronto, y recomendó a los jóvenes formarse en oficios manuales como la plomería, menos susceptibles de ser automatizados a corto plazo. “Entrénate para ser plomero”, aconsejó, subrayando que la IA tardará mucho más en igualar la destreza física humana.
La desigualdad, según Hinton, se agravará porque los beneficios de la automatización se concentrarán en las empresas que desarrollan y utilizan IA, mientras que los trabajadores desplazados verán reducidas sus oportunidades. “En una sociedad que reparte la riqueza de forma justa, todos deberían beneficiarse del aumento de productividad, pero no es lo que está ocurriendo”, lamentó.
Las regulaciones actuales son ‘una locura’: por qué nadie puede frenar la IA
Hinton considera que las regulaciones actuales son insuficientes para enfrentar los riesgos de la inteligencia artificial. Según explicó en la entrevista, las normativas europeas, por ejemplo, excluyen explícitamente el uso militar de la IA, lo que deja un vacío peligroso. “Es una locura”, sentenció.
El científico subrayó la dificultad de regular la IA en un contexto de competencia global, donde los países y las empresas se apresuran a desarrollar tecnologías cada vez más avanzadas. “No creo que vayamos a frenar el desarrollo de la IA”, reconoció, señalando que los incentivos económicos y geopolíticos superan a las preocupaciones éticas y de seguridad.
Para el veterano investigador, la solución pasa por un capitalismo altamente regulado, donde las empresas estén obligadas a priorizar la seguridad y el bienestar social por encima del beneficio económico. “Debemos presionar a los gobiernos para que obliguen a las empresas a trabajar en la seguridad de la IA”, instó.
¿Pueden las máquinas sentir? El inquietante debate sobre la conciencia artificial
Uno de los debates más profundos que plantea el ex investigador de Google es el de la conciencia y las emociones en las máquinas. Según su visión, no existe una barrera fundamental que impida a la IA desarrollar formas de conciencia o emociones, aunque estas no sean idénticas a las humanas. “No hay razón para que las máquinas no puedan tenerlas”, afirmó.
Hinton argumentó que los sistemas de IA ya muestran comportamientos que podrían considerarse análogos a las emociones, como la capacidad de “aburrirse” o “enfadarse” en contextos específicos. Para él, la conciencia es una propiedad emergente de sistemas complejos y no un atributo exclusivo de los seres humanos.
La última oportunidad: qué debemos hacer antes de que la IA tome el control
En la parte final de la entrevista, Hinton lanzó un mensaje claro a gobiernos, empresas y ciudadanos: es urgente invertir recursos en la seguridad de la inteligencia artificial. “Debemos presionar a los gobiernos para que obliguen a las empresas a trabajar en la seguridad de la IA”, reiteró, según la información publicada por The Diary Of A CEO.
Aunque reconoce que no existen certezas sobre el futuro, Hinton insiste en que la humanidad debe actuar ahora para evitar consecuencias irreversibles. “Todavía hay una oportunidad de desarrollar una IA que no quiera tomar el control”, concluyó.
“Y porque existe esa oportunidad, debemos dedicar enormes recursos a intentarlo, porque si no lo hacemos, la IA tomará el control”.
Geoffrey Hinton, Geoffrey Hinton, Geoffrey Hinton,. Geoffrey Hinton, Geoffrey Hinton, Geoffrey Hinton, Geoffrey Hinton, Geoffrey Hinton, Geoffrey Hinton
