El especialista que le tira abajo el marketing a la IA en las escuelas

¿La inteligencia artificial va a salvar la educación? Bueno, mejor agarrate fuerte, porque la respuesta no es la que quiere escuchar el mercado tecnológico. Wayne Holmes, profesor e investigador del UCL Knowledge Lab, en la University College London, viene hace rato estudiando el impacto de la IA en la enseñanza. Y lo que dice es, como mínimo, incómodo para los vendedores de soluciones mágicas.

La trampa de compararla con la calculadora

Una de las frases que más se repite en estos tiempos es la siguiente: la IA generativa es a la escritura lo que la calculadora fue a la matemática. La idea suena linda y hasta tiene su lógica marketinera. Holmes, sin embargo, la destrozó con un argumento tan simple como demoledor. "Con una calculadora, si apretás los botones correctos en el orden correcto, obtenés la respuesta correcta siempre", explicó. Con la IA generativa no: el resultado puede ser correcto o no, y el usuario muchas veces no tiene cómo distinguirlo. Traducido al barrio de cualquier santafesino: es como si tu vieja te pasara la receta del guiso pero a veces le faltara el pimentón y otras veces directamente no fuera guiso.

¿Más igualdad o más desigualdad?

Sobre la desigualdad, Holmes identificó una paradoja bastante jugosa. Las escuelas privadas de las que todos hablan no se promocionan por tener más computadoras ni por usar IA. Se promocionan por la calidad de sus docentes. En paralelo, en las zonas donde faltan maestros o sobra la pobreza, la tecnología aparece como reemplazo del maestro, no como apoyo. "Si esa brecha aumenta, debilitamos la democracia para todos", dijo Holmes. Y ojo, que acá no estamos hablando de un slogan: para el investigador, la educación es la base de la participación ciudadana. Desfinanciarla en nombre de la eficiencia tecnológica tiene consecuencias que van mucho más allá del aula.

• Las herramientas actuales no garantizan respuestas correctas: pueden inventar datos o dar información falsa sin que el usuario lo detecte.
• Tienen un sesgo hacia las posturas mayoritarias: tienden a reproducir los puntos de vista más extendidos en sus datos de entrenamiento y dejan afuera los enfoques críticos o minoritarios.
• En contextos de bajos recursos se usan para sustituir a los docentes en lugar de complementarlos, lo que amplía la brecha con las escuelas que sí tienen buenos maestros.

“Con una calculadora, si apretás los botones correctos en el orden correcto, obtenés la respuesta correcta siempre.”Wayne Holmes, investigador del UCL Knowledge Lab

La estandarización del pensamiento

Hay otro punto que Holmes desarrolló y que da bastante escalofríos. La IA generativa produce texto eligiendo las palabras más probables según con qué fue entrenada. Eso implica que los enfoques minoritarios o críticos quedan directamente subrepresentados. El investigador lo probó él mismo: les preguntó a distintas herramientas sobre los problemas del "aprendizaje personalizado". Todas respondieron que el único inconveniente era la dificultad de implementarlo. Ninguna cuestionó si el enfoque funciona o no. ¿Por qué? Porque la postura dominante en los textos de entrenamiento es que se trata de algo positivo y nadie le lleva el apunte. El resultado, si esto se masifica, es preocupante: en lugar de pensamiento crítico, terminamos fabricando estudiantes que repiten como loros lo que la máquina considera "lo normal".

La frase final de la entrevista, que quedó cortada pero igual es elocuente, lo define: ante la pregunta de cómo usaría la IA si tuviera que armar una escuela hoy, Holmes fue directo. No incorporaría ninguna de las herramientas actuales. Una postura fuerte viniendo de alguien que vive investigando el tema. Claro, después la realidad siempre manda: muchos ministerios de Educación,sobre todo en países con problemas serios de cobertura docente, miran estas herramientas como una salida barata. Veremos qué pasa cuando terminen de comprobar, en las aulas, lo que este investigador ya viene diciendo hace rato.