Cuando la tecnología se vuelve contra el que quería proteger

La Universidad Nacional Autónoma de México (UNAM) enfrenta esta semana una crisis de credibilidad que pocas instituciones académicas latinoamericanas han experimentado. Y la ironía es dolorosa: en su afán por combatir el fraude académico mediante sistemas de vigilancia basados en inteligencia artificial, terminó creando un mecanismo que penalizó injustamente a miles de estudiantes legítimos que simplemente estaban intentando ingresar a una de las universidades más competidas del continente.

El contexto importa aquí. La UNAM es el equivalente mexicano a universidades como la Universidad de Buenos Aires o la UNAM en términos de prestigio institucional. Recibe más de 300,000 solicitudes de admisión anualmente para apenas 15,000 lugares disponibles. Es decir: competencia feroz, expectativas altísimas, y presión social enorme. Cuando la institución decidió trasladar completamente su examen de admisión a formato online durante este año, enfrentó una pregunta legítima: ¿cómo evitar que estudiantes hagan trampa en un examen virtual sin supervisión física directa?

El algoritmo como vigilante: una solución que creó nuevos problemas

La solución parecía técnicamente sofisticada. La UNAM contrató herramientas de IA diseñadas para detectar comportamientos sospechosos durante exámenes remotos. Estos sistemas típicamente monitorean movimientos oculares, presencia en el marco de la cámara, velocidad de respuestas, patrones de escritura, e incluso intentos de cambiar de ventanas del navegador. En teoría, suena como vigilancia inteligente. En práctica, resultó ser un desastre de falsos positivos.

Lo que sucedió luego es un caso de manual sobre cómo los algoritmos pueden escalar problemas sociales en lugar de resolverlos. Cientos de estudiantes fueron marcados como sospechosos de fraude por comportamientos completamente normales. Un adolescente que se rascó la cara fue interpretado como un acto sospechoso. Otro que parpadeó demasiado fue flagueado por el sistema. Estudiantes con discapacidades visuales o motoras que requieren acomodaciones especiales fueron penalizados por no poder cumplir con los parámetros biométricos que la máquina esperaba.

El problema más profundo: confianza sin transparencia

Pero el verdadero escándalo no es solo técnico; es institucional. La UNAM nunca fue transparente sobre exactamente cómo funcionaba el sistema de detección. Los estudiantes que fueron marcados como fraudulentos no recibieron explicaciones claras sobre qué comportamiento específico activó la alarma. No tuvieron acceso a los datos que el algoritmo analizaba. Y lo más grave: no tuvieron manera efectiva de apelar.

Esto revela una verdad incómoda sobre cómo muchas instituciones latinoamericanas están adoptando IA: como una caja negra. Se compra la tecnología, se implementa, y se espera que funcione. Hay poca reflexión sobre sesgos algorítmicos, poca consideración por casos especiales, y casi nula documentación pública sobre criterios de decisión.

¿Por qué esto importa más allá de la UNAM?

Este fiasco tiene implicaciones que se extienden mucho más allá de una sola universidad. Representa una tendencia peligrosa: instituciones públicas cruciales delegando decisiones importantes a sistemas de IA sin las salvaguardas adecuadas. Si la UNAM—una institución con recursos, prestigio y supuestamente expertise técnico—falla así, ¿qué sucede en universidades más pequeñas o sistemas de educación que simplemente compran soluciones baratas sin auditoría?

Además, hay una cuestión de equidad. Los estudiantes que pueden permitirse contratar tutores, prepararse en ambientes controlados, o simplemente tienen mejor iluminación en sus casas, tenían menos probabilidades de ser flagueados. Los que estudian en cafés públicos, en casas abarrotadas, o con conexiones inestables de internet, eran blancos más fáciles para los falsos positivos del algoritmo.

La lección que la IA aún no aprende

Lo que la UNAM pasó por alto—y muchas organizaciones siguen pasando por alto—es que la tecnología no elimina dilemas éticos, simplemente los disfraza. La vigilancia masiva mediante IA no resuelve la desconfianza; la amplifica. Y cuando esa vigilancia es opaca, injusta, y sin apelación, socava la legitimidad de toda la institución.

La solución no era más vigilancia. Era mejor diseño: sistemas que reconozcan contextos especiales, algoritmos auditados y explicables, procesos de apelación claros, y sobre todo, la capacidad de los estudiantes de entender por qué fueron cuestionados.

La UNAM tendrá que aprender esta lección costosa. Y el resto de América Latina debería estar observando atentamente cómo responde.

Información basada en reportes de: Xataka.com