IA, accesibilidad y el riesgo de respuestas sencillas: por qué la supervisión humana sigue siendo importante

  • Categoría: Noticias
  • Fecha:

Al analizar soluciones de accesibilidad, las automatizaciones de IA tientan a las instituciones con el santo grial de "rápido, bueno y barato"; Pero en el paradigma empresarial, no puedes tener las tres cosas, y la accesibilidad no es una excepción.

La promesa de flujos de trabajo más rápidos y menos barreras es emocionante, pero la eficiencia no puede sustituir la responsabilidad. Y la ironía de excluir a los humanos del trabajo de accesibilidad no se pierde. Ante cambios normativos y de cumplimiento, menos recursos y mayor rendición de cuentas, recortar gastos con la IA automatizada puede parecer práctico en el momento, pero puede exponer a las instituciones a riesgos y dejar a algunos estudiantes fuera del proverbial frío.

La tentación de lo "fácil" y por qué no cumple

En Anthology, hemos adoptado la IA de formas que pueden apoyar algunas tareas en la enseñanza y el aprendizaje, pero que siguen subrayando una verdad sencilla: el trabajo de la enseñanza puede ser apoyado por la IA, pero no puede ser entregado a ella. Lo mismo ocurre con la accesibilidad.

De nuevo, la idea de la accesibilidad con un solo clic impulsada por IA es sin duda atractiva: pulsa un botón, marca la casilla de cumplimiento y sigue adelante. Pero esa mentalidad corre el riesgo de cambiar el verdadero contenido de los cursos inclusivos por una conveniencia superficial y trata la accesibilidad como una tarea administrativa en lugar de una parte fundamental de la excelencia docente. Creemos que la accesibilidad debe formar parte del proceso de diseño, y si los materiales digitales no son realmente accesibles, el trabajo no está realmente terminado.

Cuando las instituciones se apoyan demasiado en la automatización, surgen tres problemas comunes: mayores barreras para los estudiantes, una dependencia excesiva de la tecnología y una falsa sensación de cumplimiento, cada uno de los cuales detallaremos a continuación.

1. Mayores barreras para los estudiantes

En un artículo reciente publicado por la UNESCO, Alice Bennett, de la Unidad de Accesibilidad Digital de la Universidad de York, señaló que excluir a las personas del proceso de accesibilidad a menudo puede suponer barreras para los estudiantes, mientras que aparentemente "cumple con la casilla" en lo que respecta al cumplimiento. Utilizando texto alternativo generado por IA, la capa descriptiva esencial en la que dependen los usuarios ciegos y con baja visión para que el contenido visual tenga sentido, por ejemplo, escribió:

"Incluso cuando la IA puede identificar correctamente al sujeto de una imagen, no puede identificar el mensaje que querías transmitir—una desventaja, por ejemplo, para personas ciegas o con visión limitada. El texto auto-generado puede proporcionar un punto de partida, una descripción que puedes editar según lo necesites. Pero hacer default sin comprobar o editar una descripción generada no cumple necesariamente el objetivo de la descripción de la imagen. Las descripciones de imágenes poco útiles, incompletas o inexactas no proporcionan acceso equivalente e incluso podrían generar confusión o desinformación para que cualquiera que dependa de esto para interactuar plenamente con el contenido. La mera presencia de un texto alternativo puede hacer que tu contenido parezca accesible, pero a menos que sea significativo, es simplemente una ilusión de inclusión."

Además de lo que Bennet describe antes, el texto alternativo generado por IA suele incluir mucho más detalle del necesario o relevante. Sin supervisión y revisión humana, el texto alternativo automatizado puede ser innecesariamente complejo y gravoso para los estudiantes que dependen de él para transmitir significado y contexto.

Para fines ilustrativos, a continuación se muestra una imagen de un gráfico de ventas utilizado en un módulo de aprendizaje sobre cómo la estacionalidad puede afectar a las ventas, seguida de dos versiones de texto alternativo: una escrita íntegramente por IA sin corrección humana, y otra escrita por una persona:


Texto alternativo generado por IA: Un gráfico de barras titulado "Sales Trend (2024)" que muestra las ventas mensuales de enero a diciembre. Cada trimestre se representa con un color diferente: azul para Q1, naranja para Q2, verde para Q3 y rojo para Q4. Las ventas comienzan relativamente bajas en enero, alrededor de 100, y aumentan gradualmente durante la primavera. Un salto notable se produce en junio, julio y agosto, que son los puntos más altos del gráfico, alcanzando su punto máximo a mediados del verano. Las ventas luego caen en septiembre y se mantienen moderadamente estables durante los meses de otoño.

Texto alternativo escrito por humanos: Un gráfico de barras que muestra las ventas en 2024, con picos de ventas en los meses de verano de junio, julio y agosto.

Además de este ejemplo potente (y algo agotador), las correcciones de IA también pueden introducir errores adicionales como el orden incorrecto de lectura de los documentos, realizar cambios de contraste de color que afectan al significado o propósito de un gráfico o ayuda visual, y añadir subtítulos generados automáticamente para vídeos que pueden pasar por alto señales contextuales importantes para los estudiantes. Y, lamentablemente, son los estudiantes que más dependen de características de accesibilidad precisas y reflexivas quienes se ven más afectados por estas herramientas impulsadas por IA los que se supone que deberían ayudarles.

2. Dependencia excesiva de la tecnología

Cuando se anima al profesorado a "simplemente pulsar el botón", el efecto a largo plazo es más que una remediación incompleta: es dependencia. Las herramientas que prometen soluciones automáticas a posteriori no ayudan a los instructores a entender por qué existía el problema ni cómo evitar recrearlo en el futuro. Y sin ese conocimiento fundamental, el diseño inaccesible se convierte en un patrón repetitivo, y la institución depende de la tecnología para solucionar continuamente los mismos problemas una y otra vez.

Esto no es solo una cuestión de flujo de trabajo; afecta a la práctica docente. Cuando los profesores no desarrollan fluidez en habilidades esenciales de accesibilidad, como escribir textos alternativos significativos, estructurar documentos con encabezados y comprobar el contraste de color antes de construir los materiales, pierden la capacidad de diseñar contenido que refleje las necesidades de todos los estudiantes. Con el tiempo, la tecnología se convierte en el factor de toma de decisiones por defecto, y el profesorado está menos preparado para reconocer cuando la automatización comete un error.

El resultado es un ciclo en el que la tecnología aborda los problemas de ayer mientras crea sin querer los del mañana. Las herramientas automatizadas se convierten en parches perpetuos en lugar de un camino hacia una creación de contenido sostenible y accesible.

3. Una falsa sensación de cumplimiento

De nuevo, sabemos que el atractivo del cumplimiento "marcar la casilla" es innegable. En un entorno donde las instituciones se enfrentan a presupuestos cada vez más ajustados, crecientes expectativas de rendición de cuentas y nuevos requisitos legales bajo el Título II, las herramientas que prometen automatizar soluciones de accesibilidad pueden dar a los líderes la impresión de que el riesgo ha sido neutralizado; que si la plataforma dice que el contenido es "accesible", la institución debe estar a salvo. Pero esto no es cierto.

El cumplimiento impulsado por IA a menudo oculta problemas más profundos. Como se señaló antes, el texto alternativo generado por IA puede producir metadatos técnicamente válidos mientras representa erróneamente la imagen. Los PDFs etiquetados automáticamente pueden pasar una verificación automática, pero aún así confunden a los estudiantes ciegos que dependen de los lectores de pantalla. Los subtítulos automáticos de vídeo pueden cumplir con un mínimo mínimo de cumplimiento omitiendo el contexto esencial porque el instructor nunca los leyó realmente.

Desde un punto de vista de cumplimiento, esto crea una desconexión peligrosa. Las instituciones pueden sentirse protegidas porque su herramienta de accesibilidad marca una marca verde, pero los estudiantes con discapacidad experimentan algo muy diferente. Y cuando surge una queja o demanda, es la experiencia vivida del estudiante, no la marca verde, la que será examinada.

Los líderes pueden creer que adoptar herramientas de IA demuestra un esfuerzo de buena fe para cumplir con las normativas de accesibilidad, pero confiar únicamente en soluciones automáticas puede interpretarse como una falta de atención a prácticas de accesibilidad significativas. La IA puede apoyar el cumplimiento; No puede representarlo (ni debería ser el objetivo de cumplir, pero ese es tema para otro blog). Sin revisión humana y diseño intencionado, las instituciones corren el riesgo de descubrir demasiado tarde que lo que en el papel parecía "suficientemente bueno" no se sostiene en la práctica cuando afecta directamente a sus estudiantes.

El objetivo no es "fácil". Es sostenibilidad.

La verdadera conversación sobre la IA, la automatización y la accesibilidad no debería depender de lo que sea más sencillo: debería centrarse en cómo la IA puede apoyar la eficiencia, la sostenibilidad y el desarrollo de la capacidad institucional.

La encuesta de Anthology 2025 al profesorado y el posterior documento técnico destacan dónde el profesorado sigue teniendo dificultades con la accesibilidad:

  • El 29% del profesorado dice carecer de conocimiento sobre las mejores prácticas de accesibilidad
  • El 27% dice no haber recibido una formación adecuada

Pero cuando la accesibilidad pasa a formar parte de los flujos de trabajo diarios, respaldada por formación, expectativas claras y las herramientas adecuadas que guían frente a automatizar, las instituciones ven resultados mejores y más sostenibles. La IA puede agilizar las tareas, pero las personas deben seguir guiando las decisiones y ser los autores definitivos del contenido del curso que apoyen a cada estudiante.

Con ese fin, Anthology® Ally utiliza IA y automatización para aliviar la carga administrativa; pero, en línea con el marco Trustworthy AI de Anthology, nunca elimina a los educadores del circuito. Nuestro enfoque se centra en:

  • Adopción de IA con propósito cuando tiene sentido
  • Combinar IA con supervisión humana, revisando y aprobando cada uso de IA antes de convertirse en una relación directa con estudiantes
  • Medición del progreso a lo largo del tiempo

Este modelo centrado en las personas garantiza que la IA fortalezca la experiencia y apoye las mejores prácticas de diseño inclusivo en lugar de diluirlas o, peor aún, reemplazarlas por completo. Por ejemplo, Ally puede proporcionar texto alternativo generado por IA como punto de partida para los profesores mientras construyen los cursos, pero están obligados a revisar y aprobar el texto, junto con cualquier edición necesaria, antes de que se convierta en una visión directa al alumno.

Mirando hacia el futuro: cultura, colaboración y mejora continua (incluso después de la fecha límite del Título II)

La accesibilidad nunca es un proyecto puntual. Es un compromiso cultural. Y aunque la IA puede reducir la carga de trabajo y ampliar la capacidad, no puede reemplazar el juicio humano y la creatividad que hacen que los entornos de aprendizaje sean verdaderamente inclusivos. Si las instituciones intentan cumplir con el plazo de abril de 2026 para cumplir con el Título II confiando únicamente en la IA, muchas no lograrán cumplir el objetivo final de hacer que el contenido del curso sea inclusivo para todos los estudiantes de todas las capacidades. Sin embargo, si lo ven como el impulso para crear un programa de accesibilidad reflexivo e implementar herramientas que eduquen en lugar de automatizar, afrontarán el momento y se prepararán para lo que viene después del plazo.


 

V

Escrito por

Virtud Cloud

Plataforma de Gestión Educativa Integral

PRUEBA GRATUITA

¿Listo para transformar tu institución educativa?

Gestión escolar y aprendizaje en una sola plataforma. Sin contratos, sin complicaciones.

Probar Gratis Hablar con ventas
Sin tarjeta de crédito Configuración en minutos Soporte incluido
Da el siguiente paso

¿Listo para transformar tu institución?

Agenda una demo personalizada y descubre cómo Virtud puede adaptarse a tus procesos. Sin compromisos.

[email protected]