Hinton, el padre del deep learning, le puso número al apocalipsis: hasta dos chances sobre diez de que la IA nos extinga

¿Puede un tipo que inventó la base de todo esto venir a decirnos que nos va a matar? Sí, puede. Y lo dice con números: entre el 10 % y el 20 % de probabilidades de que una inteligencia artificial superinteligente barra del mapa a la humanidad en los próximos treinta años. ¿Quién lo dice? Geoffrey Hinton, el británico de 78 años que pasó medio siglo entrenando redes neuronales en la Universidad de Toronto y después en Google, hasta que en 2023 mandó todo al diablo y se fue para poder hablar sin que el abogado de la compañía le cortara cada frase.

Traducido al idioma del barrio: la IA ya no imita, entiende

Lo más jugoso del planteo de Hinton no es la cifra escalofriante. Es el cambio cualitativo que detecta en los modelos de lenguaje grandes, esos que se usan para chatbots, traductores y redactores automáticos. Para él, estas máquinas dejaron de ser loros statistical: ya no se limitan a encadenar palabras según la frecuencia con que aparecen juntas, como cuando en WhatsApp el teclado te sugiere "jajaja" después de cualquier mensaje. Hinton sostiene que comprenden de verdad los conceptos abstractos que procesan. La diferencia no es un detalle técnico: es la diferencia entre un loro muy copetón y alguien que entiende lo que dice.

Por qué la regulación no puede esperar a que el mercado se autorregule

Hinton lo grafica con una imagen bien de manual de conducir: la innovación tecnológica es el acelerador de un auto, y la regulación estatal es el volante. Sin volante, cuanto más pisás el acelerador, más rápido terminás en la banquina. O contra un árbol. En criollo: dejar que las empresas se controlen solas en una tecnología que avanza más rápido que cualquier ley es como dejar que cada uno maneje por la mano que quiere en la Ruta 168 un domingo a las tres de la tarde. No termina bien.

Las claves del argumento de Hinton

• Probabilidad de extinción: entre el 10 % y el 20 % en un horizonte de treinta años, según su propia estimación.
• Renuncia a Google en 2023: dejó el cargo para poder hablar libremente, sin el filtro corporativo que le imponía su ex empleador.
• Capacidad real de los modelos: ya no solo detectan patrones estadísticos; comprenden conceptos semánticos y abstractos, según su análisis.
• Regulación: pide leyes globales y controles estatales firmes; descarta que el mercado pueda autorregularse ante una amenaza de esta escala.
• Ventana de acción: advierte que todavía estamos a tiempo de fijar la orientación ética de los sistemas, pero que ese margen se achica mes a mes.

“La humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y ese punto ciego es el mayor peligro del momento.”Geoffrey Hinton

Hinton deja en claro que la velocidad del desarrollo superó sus propias proyecciones de hace una década. Él, que más que nadie vio desde adentro cómo se cocinaba esto, reconoce que la cosa se le fue de las manos antes de lo previsto. Es como el inventor de la pólvora que un buen día se da cuenta de que la munición ya viaja sola y nadie tiene el manual para frenarla. Frente al argumento de que regular frena la competencia geopolítica, el británico responde que la carrera entre potencias no puede ser excusa para no poner límites. Competir por ver quién llega primero al precipicio no es una estrategia: es un suicidio colectivo con público.

¿Qué tipo de regulación concreta te parece realista para una tecnología que no respeta fronteras? ¿Un tratado global al estilo del cambio climático, una agencia tipo OIEA digital, o cada país con su propio y que se arreglen como puedan? Hinton dice que todavía hay tiempo, pero también dice que el reloj corre. Veremos.