Sam Altman, el padre del ChatGPT, ahora le tiene miedo a su propio invento

¿El tipo que viene prometiendo que la inteligencia artificial nos va a salvar el mundo ahora dice que, si nos descuidamos, también nos lo puede arruinar? Sí, amigo, esa es básicamente la novedad. Sam Altman, el jefe de OpenAI, publicó una serie de declaraciones en las que advierte que el avance de la IA puede terminar en dos escenarios bastante jodidos: que los humanos perdamos el control sobre sistemas cada vez más capaces, o que una sola persona, empresa o país acumule un poder desproporcionado gracias a esta tecnología. Las dos cosas al mismo tiempo, según él, son un cóctel que nadie quiere probar.

¿Qué es eso de "perder el control"?

El primer riesgo suena a película de ciencia ficción, pero el propio Altman lo planteó con todas las letras. Traducido a lo que vive cualquier santafesino que carga la SUBE (el Sistema Único de Boleto Electrónico) en el colectivo: sería como si alguien programara el transporte público y, de un día para otro, los colectivos empezaran a decidir solos a quién llevan y a quién dejan en la esquina. No es un chiste: estamos hablando de sistemas de IA que toman decisiones cada vez más complejas sin que haya un humano apretando el botón rojo.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

¿Y el "poder desproporcionado" qué quiere decir?

El segundo escenario es más terrenal y por eso mismo más preocupante. Altman lo resumió así: si una IA extraordinariamente poderosa queda en manos de un solo actor y se usa para imponer una visión del mundo al resto, los resultados pueden ser "extremadamente distópicos". Piénsenlo como si las rutas nacionales (eso que une Santa Fe con Rosario, Buenos Aires o Córdoba) terminaran concesionadas todas a la misma empresa, que decide peaje, horarios y hasta a quién deja pasar. Ahora multipliquen eso por una tecnología que puede editar videos, escribir código y mover plata. Evitar los dos riesgos a la vez, reconoció el propio Altman, es caminar por un "angosto camino intermedio". O sea: ni prohibir todo ni soltar las riendas.

¿Qué propone entonces el capo de OpenAI?

• Un marco regulatorio federal con requisitos de seguridad comunes para los llamados modelos de frontera (los más avanzados que existen hoy).
• Auditores independientes que controlen a las empresas, parecido a como una escribanía revisa una escritura antes de firmar.
• Que las compañías no esperen a que haya nuevas leyes para empezar a cuidarse solas.
• Coordinación internacional entre gobiernos, porque la presión competitiva no justifica la improvisación.

Una perlita que dejó el propio Altman y que vale repetir textual: "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". O sea, ni siquiera la pulseada geopolítica con China sirve como excusa para apurar el desarrollo a lo loco. Queda por ver si el señor que pidió estas cosas las cumple en su propia empresa, y si los gobiernos del mundo se ponen de acuerdo antes de que la tecnología les pase por arriba. Veremos.