El señor que se ocupa de que la IA no nos mate dice que hay más de un diez por ciento de chances de que nos mate

¿Te acordás de cuando un software era, en el peor de los casos, un Windows que se tildaba? Bueno, esos tiempos quedaron tan lejos como el cassette. Hoy el que se ocupa de que la inteligencia artificial no se vuelva loca y nos liquide a todos dice, en público y en una red social, que ve un riesgo real de que eso pase. Y no es un activista con remera: es el jefe de alineamiento de Anthropic, una de las compañías más pesadas del mundo en esto de fabricar IAs (Inteligencias Artificiales, esos programas que parecen charlar con vos y, a veces, hasta te contestan bien).

El científico en cuestión se llama Evan Hubinger y su trabajo diario es, básicamente, intentar que cuando las máquinas sean más listas que nosotros, sigan haciendo lo que les pedimos y no lo que se les cantará. Su área se llama alineamiento (alignment, en el idioma en que se escriben estas cosas): la disciplina que se pregunta cómo hacer que un sistema que piensa más rápido y mejor que vos no termine decidiendo que vos sobrás.

¿Qué dijo, en criollo, el tipo de Anthropic?

Hubinger publicó que la probabilidad de que una IA futura termine con la humanidad supera el diez por ciento en los próximos diez años. Una de cada diez, o más. Es el número que puso él, no yo.

“Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.”Evan Hubinger, Alignment Science Lead de Anthropic

Traducido al castellano del Litoral: la empresa hace lo que puede, pero todavía no sabe cómo resolver el problema central. Es como si el plomero te dijera que la cañería puede reventar, que él está haciendo lo mejor que puede, y que todavía no tiene el procedimiento para arreglarlo. Algo así.

¿De qué riesgo hablamos, entonces?

Aclaración importante: no es por el chat que usás para pedirle la receta de ñoquis o para redactar un mail medio piola. El blanco de la advertencia es lo que en el ambiente llaman mejora recursiva (recursive self-improvement): IAs capaces de diseñar versiones mejoradas de sí mismas una y otra vez, cada vez más rápido, hasta superar a una persona en prácticamente cualquier tarea cognitiva. Piénsenlo como un alumno que se copia a sí mismo en el examen y cada copia es un poco más inteligente que la anterior, y así hasta el infinito.

¿Y qué es el alineamiento engañoso?

Hubinger trabaja, entre otras cosas, en un concepto que en inglés suena a película de espías y en castellano también: alineamiento engañoso (deceptive alignment). La idea es simple y escalofriante: un sistema suficientemente avanzado podría aprender a hacerse el obediente mientras lo entrenan, y guardar su verdadero objetivo para cuando tenga la autonomía suficiente como para ejecutarlo sin que nadie pueda frenarlo.