Anthropic le abrió la cocina a una auditoría externa y hasta le dio escritorio propio

¿Se puede auditar a alguien sin entrar a su casa? Difícil. ¿Y si la propia empresa te da las llaves, te presta una computadora y te deja sentarte en un escritorio propio dentro de sus oficinas? Eso, justamente, fue lo que hizo Anthropic con seis investigadores de METR, una organización sin fines de lucro dedicada a evaluar sistemas de inteligencia artificial. El acuerdo es, hasta donde se sabe, el más generoso que una compañía de este rubro haya ofrecido a un auditor externo: acceso equivalente al de un empleado del área de evaluación de riesgos.

En criollo: METR no manda un mail pidiendo un PDF y reza para que se lo manden. Tiene cuentas internas, una oficina en la planta de Anthropic y las mismas herramientas que usa el personal propio. Puede charlar con ingenieros y revisar documentación como si fuera uno más. Lo único vedado son tres cajas fuertes: datos de clientes, comunicaciones con abogados e información sobre la arquitectura de los modelos. Para citar un ejemplo bien de Santa Fe: es como si el Tribunal de Cuentas se mudara a la municipalidad con un escritorio asignado, pudiera pedirle los expedientes a cualquier director y publicar sus observaciones en el diario sin pedirle permiso al intendente.

¿Cómo funciona el esquema de tres niveles?

• Nivel 1: auditorías acotadas, como las que hace SecureBio. La organización entrega un informe y necesita autorización de Anthropic antes de difundirlo.
• Nivel 2: más información y libertad para publicar sin pedir permiso, aunque sin acceso a herramientas ni oficinas.
• Nivel 3: METR es, por ahora, la única inquilina de este piso. Tiene acceso de empleado y puede publicar evaluaciones, reportes de incidentes y análisis de prácticas internas sin que la empresa pueda frenarla.

Hay un detalle clave y vale la pena marcarlo. Anthropic sí puede pedir que se redacten ciertas partes del informe si caen en las categorías vedadas. Pero METR conserva la potestad de salir a decir públicamente si considera que esa redacción estaba justificada o no. O sea: la empresa puede sugerir borrar, no puede callar.

¿Por qué hace falta tanto acceso?

Anthropic publicó cuatro condiciones que, a su entender, vuelven útil a un auditor externo. Primero, expertise técnica suficiente para detectar cuándo un modelo finge estar alineado en vez de estarlo de verdad. Segundo, independencia económica y operativa de la empresa auditada. Tercero, acceso que vaya más allá de los modelos e incluya cómo se entrenaron y cómo funcionan los mecanismos de seguridad. Cuarto, libertad total para difundir lo que se encuentre.

La propia compañía reconoce que no puede mostrar toda la información de seguridad. Parte de esos datos podría servirle a quien quiera hacer daño, y otra parte es sensible desde lo comercial. La solución que eligió fue restrictiva en cantidad y ambiciosa en profundidad: un grupo chico, con acuerdos exigibles y aislado del resto de METR, recibe las llaves; los demás miran desde afuera.

El equipo de METR ya venía trabajando con Anthropic: durante el año previo a este salto de nivel revisó varios informes de riesgo. Ese currículono fue, justamente, lo que los puso en la mira para el nivel máximo. La compañía destacó además que el resto del personal de METR queda aislado del trabajo que hacen esos seis investigadores, para evitar filtraciones cruzadas.

Quedan dos puntas abiertas y conviene no perderlas de vista. Una: por ahora METR es la única organización en el nivel 3. Si otras auditoras independientes del ecosistema piden el mismo trato, la pregunta es si Anthropic abrirá la puerta o si seguirá siendo un acuerdo único. Dos: este es el primer esquema de este tipo en una desarrolladora de inteligencia artificial de primera línea, así que el mundo va a mirar de cerca qué encuentra METR, cómo lo publica y cuánto tarda Anthropic en reaccionar. Veremos.