Un pequeño grupo de estudiantes en Dayton, Ohio utilizó un chatbot de aprendizaje socioemocional llamado Jordan en sus portátiles durante varias semanas del año escolar pasado. La Escuela Alternativa en Jackson Center, parte de Dayton Public Schools, atiende a estudiantes que de otra manera serían suspendidos o expulsados y a menudo tienen dificultades con desafíos conductuales y académicos. La escuela pagó a la empresa de tecnología educativa SchoolAI $72,600 el año académico pasado por múltiples herramientas de IA, incluyendo Jordan, que los administradores diseñaron en colaboración con la compañía y un consultor externo.
Se notificó a las familias y a los estudiantes que los registros de chat podrían ser vistos por empleados de la escuela, un evaluador externo y personal de SchoolAI. Jordan pide a los estudiantes consejos en lugar de preguntar directamente cómo se sienten, calificando las respuestas por compromiso y autenticidad. K, un estudiante de segundo año en la escuela, dijo que Jordan a veces era frustrante pero relatable, ayudándolo a resolver problemas personales al ponerse en la perspectiva de Jordan.
El Proyecto Piloto de Jordan
Las escuelas de Dayton están ejecutando Jordan como un proyecto piloto, no como un despliegue completo. Esa distinción es importante. Un proyecto piloto prueba si una herramienta funciona. Un despliegue asume que lo hace. La escuela está tratando a Jordan como este último, lo que sugiere un grado de cautela. Pero el proyecto piloto también está siendo evaluado por un consultor externo contratado por Dayton, lo que agrega una capa de supervisión que no todos los distritos tienen.
Mike Kentz, el consultor externo contratado por Dayton para diseñar y evaluar el proyecto piloto, dijo que el experimento produjo suficiente evidencia positiva a partir de los registros de chat y la retroalimentación de estudiantes/personal para continuar las pruebas. Ese es el tipo de resultado que espera un proyecto piloto. Pero Kentz cree que Jordan no está listo para el despliegue en todo el distrito porque es difícil medir el éxito de manera concreta, diciendo que solo puede medir la percepción.
«Cada prueba, cada experimento que trato de medir de alguna manera concreta, solo puedo llegar hasta la percepción», dice, refiriéndose a cómo sienten los estudiantes y el personal al respecto.
Lo que Dice la Investigación
No existe un consenso sobre cómo las escuelas deberían medir lo que funciona y lo que no con la IA. Una revisión reciente de la Universidad de Stanford de más de 800 artículos académicos encontró una investigación extremadamente limitada sobre la IA en las escuelas, con algunos estudios que sugieren que las herramientas diseñadas cuidadosamente muestran más potencial que los chatbots de uso general. Esa revisión señala una brecha en la ciencia.
Robin Lake, director del Centro para la Reinventar la Educación Pública, describió la situación como «muy tipo ‘Lejano Oeste’ en términos de aleatoriedad». Eso capta el momento. Los distritos están comprando herramientas, llevando a cabo pruebas piloto y recopilando comentarios, mientras que los investigadores aún están tratando de averiguar qué preguntas hacer.
El Problema de las Métricas
Katelyn Schoenhofer, especialista en IA para las Escuelas Públicas de Wichita, dijo que su distrito lucha por definir el éxito y las métricas para evaluar el uso de la IA, sin haber llegado a una respuesta todavía. Las escuelas de Wichita han introducido lentamente la IA de maneras controladas, con los primeros grados aprendiendo sobre robots como reconocimiento de patrones sin acceso a chatbots, y los estudiantes de la escuela intermedia teniendo acceso limitado a herramientas como Canva AI para la generación de imágenes.
La falta de métricas es el problema fundamental. Sin estándares acordados, cada distrito está midiendo el éxito a su propia manera, lo que significa que las comparaciones entre distritos son casi imposibles.
La Pregunta de la Supervisión
La notificación de que los registros de chat podrían ser vistos por empleados de la escuela, un evaluador externo y el personal de SchoolAI plantea una pregunta sobre la transparencia. ¿Quién puede ver los registros? ¿Bajo qué circunstancias? ¿Durante cuánto tiempo? Estas son las preguntas que deben responderse antes de que una herramienta se implemente en más aulas.
El acuerdo de evaluación con Kentz involucra a SchoolAI, lo que agrega una capa de complejidad. Los distritos deberían preguntar si el acuerdo crea un conflicto de interés y si hay una forma de separar la evaluación de la venta.
Los Estudiantes Vulnerables
Los estudiantes de Jackson Center no son alumnos típicos de K-12. Son estudiantes que de otra manera estarían suspendidos o expulsados, y a menudo luchan con desafíos conductuales y académicos. Eso eleva las apuestas. Una herramienta mal diseñada podría causar daño. Una herramienta bien diseñada podría ayudar. De cualquier manera, la decisión afecta a jóvenes cuyas historias ya son frágiles.
El enfoque de Jordan —pedirle a los estudiantes consejos en lugar de preguntar directamente cómo se sienten— es una opción de diseño. Evita la trampa de una máquina que pretende entender las emociones. Pero también limita lo que la herramienta puede medir. El compromiso y la autenticidad son cosas reales, pero no son lo mismo que el progreso académico o el crecimiento socioemocional.
El Futuro de la IA en las Escuelas
La metáfora del Lejano Oeste es apropiada. Los distritos están experimentando, evaluando y ajustándose sobre la marcha. Algunos encontrarán herramientas que funcionan. Algunos encontrarán herramientas que no funcionan. El campo carece de un lenguaje común para describir los resultados, y carece de un método común para medirlos. Ambos necesitan llegar más pronto que tarde.
El hallazgo de la revisión de Stanford de que las herramientas cuidadosamente diseñadas muestran más potencial que los chatbots de propósito general apunta a un camino a seguir. Los distritos deben buscar herramientas diseñadas con objetivos educativos específicos en mente, en lugar de herramientas de propósito general que se comercializan como balas de plata. Y deben exigir evidencia respaldada por la investigación antes de comprometerse con una compra.
Lo que Dayton Debería Hacer a Continuación
Dayton tiene un programa piloto en funcionamiento y un consultor que cree que debería continuar. Esa es una postura razonable. Pero la opinión de Kentz de que Jordan no está listo para su implementación en todo el distrito es una preocupación que vale la pena señalar. Ampliar la escala antes de resolver el problema de medición sería prematuro.
El distrito debe tratar la evidencia positiva de Kentz como una luz verde para más pruebas, no como un mandato para la implementación. También debe trabajar con investigadores para desarrollar métricas más claras sobre cómo se ve el éxito.
La Conclusión
La inteligencia artificial está llegando a las escuelas. La pregunta no es si llegará, sino cómo lo hará. Dayton está realizando el trabajo duro de probar antes de implementar. Eso es mejor que avanzar apresuradamente. Pero el panorama general es preocupante. El hallazgo del estudio de Stanford sobre la investigación extremadamente limitada sobre la IA en las escuelas es una llamada de atención para todo el sector.
Las escuelas deben proceder con cautela. Deben exigir transparencia a los proveedores. Deben medir lo que están haciendo. La era del Lejano Oeste no durará para siempre. Pero durará mientras las escuelas sigan comprando herramientas sin saber lo que están comprando.
La opinión es la siguiente: SchoolAI debería estar sujeto al más alto nivel de transparencia, y los distritos deberían medir lo que están haciendo antes de decidir si comprar.
La postura del periódico
El periódico respalda reglas estrictas contra el daño directo, como exigir a las empresas que revelen fallas de seguridad que ocultaron, y se opone a reglas amplias que entregan el mercado a los incumbentes. El periódico también apoya un enfoque ligero en la IA y la tecnología para que las empresas emergentes no queden excluidas. En el caso de Dayton, el diseño piloto —un consultor externo que evalúa un piloto que los administradores diseñaron en colaboración con SchoolAI— muestra el tipo de cautela que el periódico prefiere a una implementación apresurada.
El piloto es una prueba, no una asunción de éxito. La opinión mesurada de Kentz de que Jordan no está listo para una implementación a todo el distrito es el tipo de cautela que el periódico desea. La posición del periódico en contra de la licencia federal de la IA y las reglas amplias que favorecen a los incumbentes se alinea con el enfoque de Dayton de evaluar antes de escalar. La oposición del periódico a permitir que las grandes empresas oculten sus fallas se refleja en la divulgación de que los registros de chat pueden ser vistos por los empleados de la escuela, un evaluador externo y el personal de SchoolAI.
La falta de métricas en todo el campo es el problema fundamental, y el piloto de Dayton todavía está trabajando en ello. El periódico quiere que los distritos midan lo que están haciendo y exijan transparencia a los proveedores antes de comprometerse a realizar compras. Los lectores deben estar atentos a si Dayton desarrolla métricas más claras para lo que se considera éxito, y si el acuerdo de evaluación con Kentz se mantiene libre de conflictos de interés.
“Bienvenido al ‘Lejano Oeste’ de la IA en las escuelas: la investigación es escasa, pero los experimentos abundan”, NPR.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.