Meta quiere que su asistente te recuerde todo, incluso a tu suegra: qué hace y por qué hay que prestarle atención

¿A quién se le ocurre pedirle permiso a la suegra antes de anotar su cumpleaños en un sistema de inteligencia artificial? A Meta, claro, que acaba de presentar Muse, su nuevo chatbot con memoria permanente y fichas automáticas sobre cada persona del entorno del usuario. La idea suena práctica: que el asistente reconozca que la factura del plomero es del mismo de siempre o que se acuerde de las flores favoritas de tu pareja. La letra chica, como siempre, es otra cosa.

Qué datos junta y cada cuánto

El investigador independiente Karan Joshi, que se dedica a temas de seguridad informática y de inteligencia artificial, logró sacarle a Muse los archivos con sus instrucciones internas. Lo hizo con una conversación común y silvestre, sin hackear nada raro. Lo que apareció es inquietante: hay una rutina que se ejecuta cada sesenta minutos y que arma perfiles de familiares, parejas, amigos, compañeros de trabajo y hasta de las cuentas que el usuario sigue en redes, como una cuenta de Instagram de un club de fútbol santafesino o de un diario local.

• Cumpleaños y aniversarios
• Cambios de domicilio
• Objetivos de ahorro en común, por ejemplo juntar para un viaje
• Desacuerdos anteriores entre el usuario y esa persona
• Asuntos pendientes y datos sobre el vínculo
• Intereses compartidos, como el asado del domingo o la serie de turno

La condición, al menos sobre el papel, es que esos datos tengan respaldo en conversaciones o conexiones del propio usuario. Las instrucciones del sistema, siempre según la documentación a la que accedió Joshi, piden trabajar con evidencia y no inventar nada. La palabra clave acá es «inventar», porque la posibilidad de que se cuele información errónea o de contexto sigue latente.

Quién puede ver y borrar qué

Daniel Roberts, portavoz de Meta, salió a poner paños fríos. Explicó que la información de esas fichas sale de contenidos públicos y de lo que el propio usuario comparte, y que el sistema pide confirmación antes de mandar un mail o hacer una compra. También dijo que cada persona tiene su propia máquina virtual, o sea un entorno aislado, y que nadie más puede meter la nariz ahí.

El problema es que esos controles están en una sola mano: la de quien instaló Muse. Las otras personas mencionadas en las fichas, o sea tu hermana, tu ex o el contador que te hace la declaración de Ganancias, no tienen forma de saber que existen ni de pedir que se eliminen. En criollo: vos decidís por todos. Antecedentes, intereses y hasta quilombos viejos quedan archivados sin que el resto haya firmado nada.

“La información procede de contenidos públicos y de aquello que el usuario comparte. Cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.”Daniel Roberts, portavoz de Meta

Qué mirar antes de seguir probando

Antes de empezar a chusmear con el asistente conviene revisar el registro de auditoría, que es el historial de actividad, borrar lo que no quieras que quede guardado y cortar las conexiones con servicios externos. La recomendación, como con cualquier aplicación que pide permisos, es no apurar el «aceptar» sin leer. La promesa de que el sistema trabaja solo con evidencia y no fabula suena razonable, pero se sostiene en la buena voluntad de una empresa que ya ha tenido más de un papelón con datos personales. Veremos si esta vez la memoria no termina siendo un dolor de cabeza para más de uno.