IA generativa en la educación: ¿cómo lo hacemos?

Hace 30 años, escribir una redacción de 2.000 palabras sobre, pongamos por caso, las causas, desarrollo y consecuencias de la II Guerra Mundial, el movimiento sufragista o el Renacimiento y su influencia,  implicaba, como poco, unas horas de investigación y otras tantas de escritura. Hoy, en apenas 40 segundos, una aplicación genera un texto sobre cualquiera de esos temas. Y lo hace, además, usando un lenguaje natural.

¿Podemos luchar contra ello? La respuesta es no. Tampoco debemos. Según una encuesta del Observatorio del Impactos de la Tecnología en las Profesiones, elaborado por la Universidad Alfonso X el Sabio, en la que han participado más de 2.000 estudiantes y casi 400 profesores, tres de cada cuatro estudiantes universitarios menores de 25 años utilizan la IA generativa para buscar información, resolver dudas y generar contenidos. Así que, quizás, la pregunta adecuada es ¿cómo incorporar esta herramienta en la educación de la forma más efectiva y segura?

La inteligencia artificial generativa ha irrumpido con fuerza en las aulas y en la investigación. Desde la aparición de herramientas como ChatGPT a finales de 2022, las posibilidades que se le han abierto a la educación son infinitas. Sin embargo, aunque estas nuevas tecnologías prometen automatizar tareas, personalizar el aprendizaje y generar contenido, también traen consigo desafíos éticos y preocupaciones sobre su impacto a largo plazo. En este artículo, exploramos los beneficios y riesgos de la IA generativa con la ayuda de la UNESCO y su Guía para el uso de IA generativa en educación e investigación. ¿Qué es? ¿Cómo podemos usarla para mejorar la educación minimizando sus riesgos? Lo vemos a continuación.

¿Qué es la IA generativa?

La inteligencia artificial generativa se refiere a una tecnología que, en lugar de limitarse a replicar información existente, tiene la capacidad de crear contenido nuevo. A través del uso de modelos avanzados de lenguaje como los GPT (Transformadores Generativos Preentrenados, por sus siglas en inglés), esta tecnología puede generar textos, imágenes, música, videos y más, a partir de instrucciones simples (también llamadas prompts) proporcionadas por el usuario.

Por ejemplo, cuando se utiliza una herramienta como ChatGPT, solo necesitas escribir un comando o una pregunta, y la IA genera una respuesta, que puede ser un texto completo o incluso una solución creativa a un problema. Estas herramientas tienen aplicaciones increíbles en educación, permitiendo generar materiales de estudio, redactar informes, o incluso actuar como tutores personalizados para los estudiantes.

Las herramientas de IA generativa se basan en modelos avanzados de redes neuronales artificiales, que emulan cómo el cerebro humano procesa y genera información. Estas redes son entrenadas con grandes volúmenes de datos tomados de internet, libros y otras fuentes. A través de este entrenamiento, la IA aprende patrones y estructuras lingüísticas que le permiten crear respuestas coherentes y relevantes.

Sin embargo, como destaca el informe de la UNESCO, la IA generativa no entiende el mundo real. Aunque puede producir textos y respuestas, no posee una comprensión verdadera de los conceptos que maneja. Esto significa que puede cometer errores o imprecisiones que pasarían desapercibidos si los usuarios no son expertos en el tema.

El impacto potencial de esta inteligencia artificial en la educación es enorme. Como ya hemos mencionado, la IA generativa permite a los docentes crear exámenes, tareas, o incluso lecciones completas en cuestión de minutos, y a los estudiantes, tutorías personalizadas, adaptando las explicaciones y ejercicios a las necesidades individuales.

Sin embargo, como veremos más adelante, este potencial conlleva desafíos éticos, que deben ser abordados para garantizar un uso responsable de estas tecnologías.

¿Cómo puede ayudar la IA generativa a la comunidad educativa?

La guía de la UNESCO detalla algunos de los principales beneficios que puede traer la adopción de la IA generativa en el ámbito educativo.

1. Automatización de tareas y reducción de la carga de trabajo. Uno de los beneficios más inmediatos es la automatización de tareas repetitivas, como la corrección de ejercicios, la elaboración de pruebas y la generación de materiales educativos. Esto libera a los docentes de las tareas administrativas y les permite centrarse en la enseñanza y en el apoyo individual a los estudiantes.
2. Personalización del aprendizaje. La IA generativa permite adaptar los contenidos a las necesidades específicas de cada estudiante. Esto es especialmente relevante en un entorno donde los estudiantes tienen diferentes ritmos de aprendizaje, estilos y capacidades. A través de la IA, se pueden generar explicaciones personalizadas o ejercicios adicionales que refuercen las áreas en las que cada alumno necesita más apoyo.
3. Tutorías personalizadas. En entornos de aprendizaje autodirigido, puede actuar como un tutor virtual, proporcionando retroalimentación y orientación a medida que los estudiantes avanzan. Esta personalización tiene el potencial de cerrar brechas educativas y ofrecer un soporte más eficaz, especialmente en grupos de estudiantes con necesidades especiales.
4. Investigación y generación de conocimiento. Además de su uso en la enseñanza, la IA generativa también tiene un gran potencial en la investigación. Los investigadores pueden usarla para analizar grandes volúmenes de datos, generar informes preliminares o incluso escribir borradores de artículos científicos. Al liberar a los investigadores de tareas rutinarias, la IA les permite centrarse en el análisis crítico y la interpretación de los resultados.

Desafíos éticos y riesgos de la IA generativa

Si bien la IA generativa ofrece oportunidades fascinantes, también plantea importantes desafíos éticos que deben ser abordados para su implementación segura y efectiva en la educación. El informe de la UNESCO identifica varios de estos riesgos, que van desde la privacidad de los datos hasta el sesgo en los contenidos generados.

1. Privacidad y protección de datos. Uno de los principales problemas con la IA generativa es la recolección masiva de datos personales. Las herramientas de IA se entrenan utilizando grandes cantidades de información, y en muchos casos, esta información puede incluir datos personales sensibles. Esto plantea preocupaciones sobre la privacidad de los estudiantes y docentes que utilizan estas herramientas, especialmente en contextos educativos donde la protección de los datos debe ser prioritaria.
2. Derechos de autor y uso de contenidos. Otro aspecto preocupante es el uso de materiales protegidos por derechos de autor. Las herramientas de IA generativa se entrenan utilizando una variedad de fuentes, muchas de las cuales están protegidas por leyes de propiedad intelectual. Esto plantea preguntas sobre la originalidad del contenido creado por la IA y sobre quién tiene los derechos sobre el material generado.
3. Sesgos y desigualdad en los contenidos generados. Los modelos de IA generativa pueden replicar y amplificar los sesgos presentes en los datos con los que han sido entrenados. Esto es especialmente problemático en la educación, donde es esencial garantizar la equidad y la inclusión. Si los modelos de IA están entrenados con datos sesgados, podrían generar contenido que perpetúe estereotipos o que marginalice a ciertos grupos.
4. Manipulación y desinformación. La capacidad de la IA generativa para crear contenido realista plantea un riesgo adicional: la creación y difusión de desinformación. En el contexto educativo, la veracidad de la información es fundamental, y el uso de IA para generar contenido falso o engañoso podría tener graves consecuencias.
   

Regulación y políticas para el uso ético de la IA Generativa

Dado el rápido avance de la IA generativa, es esencial que se establezcan regulaciones claras y políticas que garanticen un uso ético y seguro de estas tecnologías. La UNESCO ofrece una serie de recomendaciones clave para los gobiernos, instituciones educativas y proveedores de tecnología.

Protección de la privacidad y los datos

Como ya hemos mencionado, uno de los principales desafíos en el uso de IA generativa es la protección de la privacidad de los estudiantes y docentes. Las herramientas de IA requieren grandes volúmenes de datos para su funcionamiento, lo que genera preocupaciones sobre el manejo de la información personal y su posible uso indebido. Para abordar este problema, es crucial que los gobiernos establezcan políticas estrictas de protección de datos.

Por su parte, las instituciones educativas deben asegurarse de que cualquier herramienta de IA generativa que utilicen cumpla con las normativas de privacidad vigentes, como el Reglamento General de Protección de Datos (RGPD) en la Unión Europea. Esto incluye informar a los usuarios sobre cómo se recopilan y utilizan sus datos y garantizar que los estudiantes tengan control sobre la información que comparten. Asimismo, debe permitirse a los estudiantes y familias optar por no participar en sistemas que recolecten datos sensibles si así lo desean.

Transparencia y responsabilidad de los proveedores

Los proveedores de herramientas de IA generativa tienen un papel clave en la creación de sistemas seguros y éticos. Se les debe exigir transparencia en cuanto a los datos que utilizan para entrenar sus modelos, así como sobre cómo se procesan los datos de los usuarios. Además, es necesario que se realicen auditorías independientes para garantizar que estas herramientas no perpetúen sesgos o discriminación en los contenidos que generan.

Asimismo, los proveedores deben desarrollar mecanismos para detectar y corregir posibles sesgos en los modelos de IA generativa. Estos sistemas deben ser entrenados con datos diversos y representativos para evitar la perpetuación de estereotipos o la exclusión de ciertos grupos. La diversidad cultural y lingüística debe ser un principio central en el desarrollo de estos modelos.

Límites de edad y uso supervisado

Dado que la IA generativa puede tener un impacto significativo en el desarrollo de los estudiantes, es necesario establecer límites de edad para su uso. La UNESCO recomienda que se considere un uso supervisado para los estudiantes más jóvenes y que se desarrollen normativas que aseguren que estas herramientas no se utilicen de manera inapropiada, como para hacer trampa en exámenes o tareas.

Las escuelas y universidades deben crear políticas claras sobre cuándo y cómo se pueden usar estas herramientas en el entorno educativo. Esto no implica necesariamente prohibirlas, sino integrarlas de manera responsable y ética, asegurando que se utilicen como un complemento al aprendizaje y no como un sustituto del esfuerzo académico.

Monitoreo y evaluación continua

Finalmente, es fundamental que los gobiernos y las instituciones educativas implementen sistemas de monitoreo y evaluación continua para garantizar que el uso de la IA generativa en la educación esté alineado con principios éticos y pedagógicos. Esto implica realizar revisiones periódicas de los sistemas y herramientas de IA, así como de las políticas de uso, para adaptarse a los avances tecnológicos y a los nuevos desafíos que puedan surgir.

El impacto de la IA generativa en la educación es aún incipiente, pero su potencial a largo plazo es inmenso. Sin embargo, como advierte la guía de la UNESCO, es importante que los sistemas educativos se preparen para los desafíos éticos y regulatorios que acompañan a estas tecnologías. El futuro de la educación con IA generativa debe basarse en un enfoque centrado en el ser humano, que respete la diversidad, promueva la inclusión y garantice la equidad en el acceso a estas herramientas.

La IA está aquí para quedarse. Prohibirla no es una opción. Mirar para otro lado, tampoco. Esta publicación de la UNESCO proporciona una guía valiosa para gobiernos, instituciones educativas y proveedores de IA sobre cómo implementar estas tecnologías de manera responsable y ética. Con una regulación adecuada y una planificación cuidadosa, la IA generativa puede ser una herramienta poderosa que beneficie a docentes, estudiantes e investigadores en todo el mundo.