Elegir una herramienta de inteligencia artificial para una escuela supone aceptar también las decisiones de quienes la han desarrollado. La posibilidad de adaptarla a un currículo o examinar cómo se ha construido depende de qué acceso permitan sus creadores. Esa cuestión tiene consecuencias para la educación: determina cuánto pueden intervenir las instituciones en la tecnología que utilizan.
La inteligencia artificial abierta permite acceder a determinados componentes de un sistema, como el código con el que se desarrolla o los parámetros que adquiere durante su entrenamiento, para estudiarlos, reutilizarlos o modificarlos según su licencia. Algunos proyectos comparten también los datos de entrenamiento y la documentación. Ese acceso puede facilitar que otros equipos adapten una herramienta a una lengua local o evalúen su funcionamiento antes de utilizarla con alumnos.
Qué se comparte y en qué condiciones importa: cada combinación ofrece posibilidades distintas. La nota técnica Inteligencia Artificial Abierta en el Contexto Educativo, elaborada por el Instituto de Inteligencia Artificial en la Educación y Unesco, a iniciativa de la Fundación ProFuturo y la Fundación Telefónica Vivo Brasil, ayuda a comprender esas diferencias. A partir de investigaciones y experiencias prácticas, examina qué puede aportar la apertura a la enseñanza y qué necesitan las instituciones para aprovecharla. La autonomía que ofrece exige también capacidad para mantener las herramientas y evaluar sus resultados.
¿Qué es la inteligencia artificial abierta?
Entre utilizar una herramienta y poder modificarla hay una distancia considerable. Quien consulta a un chatbot puede pedirle que simplifique una explicación o cambie el tono de una respuesta. Intervenir en el modelo que produce esas respuestas requiere otro tipo de acceso: disponer de los componentes con los que se ha construido y tener permiso para trabajar con ellos. Esa es la posibilidad que ofrece la inteligencia artificial abierta.
Sus desarrolladores comparten partes del sistema para que otros puedan estudiarlas y reutilizarlas, bajo las condiciones de una licencia. Con los conocimientos y los recursos necesarios, un equipo puede aprovechar ese trabajo para adaptar un modelo a sus necesidades o desarrollar nuevas herramientas. En educación, esto abre la posibilidad de ajustar la tecnología a un contexto local y de examinar con más detalle aquello que se va a utilizar en las aulas.
Ahora bien, ¿qué se comparte exactamente? La respuesta obliga a mirar detrás de la etiqueta. La nota técnica distingue cuatro componentes, cuya disponibilidad determina buena parte de lo que otros podrán hacer.
Los primeros son los pesos del modelo: los parámetros numéricos que se ajustan durante el entrenamiento y que intervienen en sus respuestas. Compartirlos permite que otros ejecuten un modelo ya entrenado (por ejemplo, en servidores propios) y puedan adaptarlo. Pero disponer del resultado de ese entrenamiento deja pendiente conocer cómo se llegó hasta él.
Para estudiar ese proceso hacen falta otras piezas. El código recoge las instrucciones y los procedimientos empleados para desarrollar y ejecutar el sistema. Los datos de entrenamiento permiten conocer los materiales con los que se entrenó: una información relevante para investigar qué lenguas o realidades están representadas y dónde pueden aparecer sesgos. La documentación ayuda a interpretar el conjunto, al describir las evaluaciones realizadas y las limitaciones conocidas.
De ahí que dos modelos anunciados como abiertos puedan ofrecer márgenes de actuación muy diferentes. Uno puede permitir su descarga y adaptación mientras mantiene reservados los datos de entrenamiento. Otro puede compartir también esos materiales y documentar su desarrollo. Las licencias añaden sus propias condiciones sobre cómo utilizar cada componente.
La apertura, por tanto, admite grados. Comprobarlos ayuda a identificar el openwashing, el uso de la palabra «abierto» que exagera lo que realmente se ofrece. También permite distinguirla de la gratuidad: acceder sin coste a un servicio dice poco sobre la posibilidad de examinarlo o modificarlo. Y poner en marcha un modelo abierto puede requerir una inversión importante. Lo que ofrece la apertura es un mayor margen para intervenir en la tecnología; aprovecharlo exige medios y conocimientos.
Qué posibilidades ofrece para la educación
Una lengua puede formar parte de la vida cotidiana de millones de personas y tener una presencia escasa en los materiales con los que se entrenan los modelos de inteligencia artificial. Para quienes enseñan y aprenden en ella, esa distancia es muy importante y, a veces, puede resultar insalvable. Adaptar la tecnología a su realidad exige recursos lingüísticos y equipos capaces de trabajar con ellos. Si los modelos y los datos están disponibles para que otros los utilicen, distintos equipos pueden aprovecharlos para desarrollar herramientas educativas en esas lenguas.
La nota recoge el ejemplo de AI4Bharat, una iniciativa del Instituto Indio de Tecnología de Madras que desarrolla modelos y conjuntos de datos abiertos para las 22 lenguas reconocidas constitucionalmente en la India. El acceso a sus componentes permite desarrollar herramientas para idiomas como el tamil y el telugu. El proyecto ilustra una de las posibilidades que destaca el documento: disponer de una base tecnológica sobre la que construir soluciones que respondan a necesidades locales.
Esa adaptación también puede acercar las herramientas al contenido que se enseña. En Tanzania, el proyecto Twiga utiliza el currículo y los libros de texto del Instituto de Educación del país como fuentes para generar planes de clase, exámenes y materiales que los docentes reciben a través de WhatsApp. El ejemplo muestra cómo los recursos de un sistema educativo pueden orientar las respuestas de una herramienta. Llevarlo a la práctica requiere seleccionar las fuentes y revisar la calidad de lo que produce.
Además de estas experiencias, la nota describe otros usos posibles en educación. Los docentes pueden apoyarse en la IA para preparar clases y elaborar materiales ajustados a lo que necesitan enseñar. Los alumnos pueden recibir explicaciones adaptadas a sus dificultades o trabajar con textos de distinta complejidad. También hay sistemas que analizan la actividad de los estudiantes en las plataformas educativas para detectar señales de que podrían abandonar sus estudios. La utilidad de cada aplicación debe evaluarse en el contexto en el que se utiliza.
La apertura puede facilitar también ese examen. Cuando investigadores y equipos técnicos acceden al código y a la documentación, cuentan con más elementos para revisar los procedimientos empleados. Si además están disponibles los datos de entrenamiento, pueden investigar su composición y estudiar posibles sesgos. Esa capacidad resulta especialmente relevante cuando un sistema interviene en la evaluación del alumnado o ayuda a orientar decisiones sobre su trayectoria.
El alcance de estas posibilidades supera a una escuela. Compartir modelos y conocimientos permite que distintas instituciones aprovechen desarrollos previos y colaboren en su mejora. De ahí el interés de la nota por la infraestructura pública compartida y la cooperación entre países. La autonomía que puede aportar la IA abierta depende también de esa capacidad colectiva: reunir recursos para desarrollar y sostener herramientas que respondan a las prioridades de sus comunidades educativas.
Qué conviene comprobar antes de adoptar una IA abierta
Poder descargar un modelo y modificarlo da a una institución margen para decidir sobre su tecnología. Pero también le plantea responsabilidades: alguien tendrá que ponerlo en funcionamiento, mantenerlo actualizado y resolver los problemas que aparezcan. La nota invita a valorar esas exigencias junto con las posibilidades educativas de cada herramienta. Una solución puede resultar prometedora y requerir medios que la institución todavía necesita desarrollar.
La primera pregunta, sin embargo, es de naturaleza pedagógica: ¿qué problema se pretende resolver? Antes de elegir un sistema, conviene precisar qué dificultad del aprendizaje o del trabajo docente se quiere abordar y qué indicios existen de que puede ayudar. También hay que examinar cómo encaja en el currículo y qué papel deja a quienes enseñan y aprenden. El informe propone comprobar si la herramienta amplía su capacidad de decisión o termina sustituyendo su criterio.
Después llega el examen de los medios disponibles. Ejecutar un modelo en servidores propios exige equipos adecuados y personal especializado. A ello se suman el mantenimiento y la gestión de las actualizaciones. El presupuesto debe contemplar ese trabajo a lo largo del tiempo, incluso cuando los componentes puedan obtenerse gratuitamente. También conviene anticipar qué ocurriría si quienes mantienen el modelo dejaran de desarrollarlo y cómo podría continuar utilizándolo la institución.
Las decisiones sobre los datos merecen especial atención cuando los usuarios son menores. La nota recomienda comprobar qué información se recoge, dónde se almacena y qué procedimientos existen para anonimizarla o eliminarla. Conocer los materiales utilizados durante el entrenamiento y los resultados de las pruebas de sesgos ayuda, además, a valorar los riesgos. La supervisión humana sigue siendo necesaria durante el uso.
¿Quién debe ocuparse de todas estas cuestiones? El documento recomienda que las instituciones educativas constituyan equipos de selección y seguimiento con participación de docentes, responsables de gestión, personal técnico y representantes estudiantiles. Registrar qué se adopta, con qué propósito y con qué resultados permite revisar las decisiones y corregir problemas. La formación de profesores y alumnos debe acompañar ese proceso.
Las empresas desarrolladoras tienen también una responsabilidad: precisar qué componentes comparten y facilitar evaluaciones independientes. A los gobiernos, la nota les propone incorporar las necesidades de las comunidades educativas a la contratación pública y promover la cooperación entre países.
De ese trabajo depende que una institución pueda elegir una herramienta adecuada para su realidad. El informe recomienda priorizar soluciones adaptadas al contexto, aunque sean técnicamente más modestas: el tamaño del modelo o su popularidad aportan poca orientación sobre lo que una comunidad educativa necesita.
Autonomía con cabeza
La IA abierta puede dar a las instituciones educativas más capacidad para intervenir en la tecnología que utilizan. Pero esa autonomía solo puede ejercerse cuando existen equipos capaces de aprovechar esos recursos. La nota deja así una tarea para las políticas públicas: acompañar el acceso a los modelos con inversión en formación e infraestructura. De otro modo, sus posibilidades quedarán al alcance de quienes ya cuentan con más medios.
La decisión sobre una herramienta debe incluir, por tanto, una pregunta sobre el futuro: ¿podrá la institución mantenerla, evaluar sus resultados y adaptarla cuando cambien sus necesidades? Responderla ayuda a valorar qué autonomía ofrece realmente cada solución. Para una escuela, poder decidir sobre su tecnología significa también conservar la capacidad de corregirla o sustituirla cuando deje de servir a sus objetivos educativos.
Equipo Observatorio ProFuturo 
