El MI5 mira a la IA y se le prende la lamparita: bioterrorismo al alcance de cualquiera con teclado y paciencia

¿De verdad hacía falta ser bioquímico para armar un desastre biológico? Bueno, aparentemente cada vez menos. Eso, traducido al castellano que hablamos los que tenemos que ir a la farmacia cada dos meses, significa que antes necesitabas un laboratorio, un doctorado y, sobre todo, muchas ganas de terminar preso. Ahora, según el MI5 —el servicio de inteligencia británico, equivalente local a nuestra vieja y querida ex-SIDE—, con una buena conexión a internet y una IA amigable de la vida ya podés acercarte bastante a ese oscuro objetivo.

Lo dijo Ken McCallum, director general del MI5, al presentar su informe anual de amenazas. La frase que sobrevuela todo el asunto es esta: la IA ya está intensificando la pelea entre los que atacan y los que defienden en el mundo digital. Para un santafesino de toda la vida, imaginátelo así: la IA es el nuevo contestador automático de la inseguridad, pero con la diferencia de que a quien le contestás puede terminar sintetizando algo que no querés ni en broma toparte en la cocina de tu abuela.

¿Qué es concretamente lo que preocupa?

• Que la IA le sirva a terroristas y delincuentes para acceder a conocimiento científico complejo sin necesidad de formación específica.
• Que estas herramientas ayuden a aprender a liberar agentes patógenos usando información disponible en fuentes abiertas.
• Que la accesibilidad creciente de la IA baje la barrera de entrada a quienes quieren desarrollar armas biológicas.
• Que la velocidad con que aparecen nuevas aplicaciones supere la capacidad de los organismos de control para anticiparse.

El trasfondo técnico importa y mucho. McCallum fue claro: la misma tecnología que acelera una investigación legítima en un laboratorio universitario puede terminar assisting a quien quiere usar ese conocimiento con fines bastante menos académicos. Es como tener una calculadora potentísima: sirve para resolver una integral o para calcular cuánto te queda de aguinaldo después de los descuentos, pero también puede terminar resolviéndote cosas que preferís no resolver.

¿Y qué piensa hacer el MI5 al respecto?

La respuesta fue anunciar un Centro de Evaluación de Amenazas de IA que funcionará dentro del propio organismo. Su misión: estudiar los riesgos que presentan estas herramientas y, al mismo tiempo, las oportunidades que pueden surgir. Es decir, quieren posicionarse en la frontera del tema antes de que la frontera los cruce por encima. McCallum reconoció que dedica una parte significativa de su tiempo a tratar de anticiparse a los cambios tecnológicos y a buscar ese equilibrio siempre incómodo entre los beneficios de la IA y los daños de su uso malicioso.

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5

El dato que cierra la película: las herramientas de IA se vuelven accesibles cada vez más rápido para usuarios sin formación técnica especializada. La combinación de accesibilidad más información científica sensible disponible en línea es, justamente, el núcleo de la preocupación que expresó McCallum. Por eso los organismos de inteligencia de varios países están mirando el tema con binoculares: la tecnología corre más rápido que las regulaciones y, cuando querés acordar el reglamento, el reglamento ya quedó viejo. Veremos.