La Inteligencia Artificial Generativa en La Docencia Universitaria PDF

LA INTELIGENCIA ARTIFICIAL GENERATIVA EN LA DOCENCIA UNIVERSITARIA Oportunidades, desafíos y recomendaciones Imagen generada por la IA Autores Francisco Cruz Argudo Pedro M. Ruiz Martínez Ismael García Varea Alberto Sánchez Cam...

LA INTELIGENCIA ARTIFICIAL GENERATIVA EN LA DOCENCIA UNIVERSITARIA Oportunidades, desafíos y recomendaciones Imagen generada por la IA Autores Francisco Cruz Argudo Pedro M. Ruiz Martínez Ismael García Varea Alberto Sánchez Campos Juan A. Martínez Carrascal Carlos Turró Ribalta Antonio Ruiz Martínez  La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización Índice 1. Introducción 4 2. Oportunidades para la docencia universitaria 6 3. Desafíos de la Implementación de la 10 IAG en la docencia universitaria 4. Implicaciones Éticas de la IAG 14 5. Conclusiones y recomendaciones 18 Referencias bibliográficas 22 1 La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización Introducción Los avances significativos en algunas técnicas de inte- Para ello, la IAG puede ayudar al profesorado a dedicar ligencia artificial, como las redes neuronales profun- menos tiempo a tareas repetitivas, como la califi- das y las redes generativas adversarias (GANs), junto cación y la preparación de los materiales del curso, a un aumento de la potencia de cálculo especialmente dejándole más tiempo para centrarse en guiar a los con GPUs (Unidades de Procesamiento Gráfico) y estudiantes, facilitar discusiones profundas y jugar TPUs (Unidades de Procesamiento de Tensor) y la ma- un papel más activo en el diseño de experiencias de La inteligencia artificial generativa (IAG) es un tipo de inteligencia yor disponibilidad de datos, han acelerado la evolución de la IAG en los últimos años. Además, la aparición de aprendizaje y la evaluación del progreso estudiantil. Estos son ejemplos de cómo la IAG puede impactar en artificial (IA) especializada en la creación de contenidos nuevos, y los transformadores generativos preentrenados como el contexto docente de las instituciones de educación GPT-3 y GPT-4, que pueden generar texto coherente superior. Por otro lado, es importante señalar que supone un avance respecto a la lA tradicional, que se ha centrado y relevante en diversos contextos, ha extendido aún la implementación efectiva de la IAG en la docencia normalmente en la toma de decisiones basadas en entradas más las capacidades de la IAG hasta convertirla en requiere el fomento del espíritu crítico frente a los re- una herramienta valiosa en diversos campos, que van sultados que obtenemos y debe considerar aspectos específicas. Por ejemplo, mientras que esta última puede sugerir desde la educación hasta la creatividad artística y el éticos, de privacidad y de equidad para asegurar que un curso en función de las preferencias de un usuario, la IAG puede diseño de productos. sus beneficios sean accesibles para todo el estudian- tado. generar los contenidos de ese curso (imágenes, documentación, En la Universidad actual, marcada por la digitalización y la globalización, la enseñanza y el aprendizaje han El objetivo de este documento es presentar las prin- presentaciones, etc.). Este proceso se suele realizar a partir de evolucionado a un modelo educativo centrado en el cipales oportunidades que nos ofrece la IAG para la descripciones en lenguaje natural que, dependiendo del resultado estudiante. El fomento del aprendizaje activo junto docencia universitaria, a qué desafíos tenemos, qué a enfoques más personalizados y colaborativos, así implicaciones éticas tiene el uso de esta tecnología y, obtenido, deberán ser elaboradas. como el aprendizaje a lo largo de la vida van a ser la finalmente, dar recomendaciones para aprovecharnos norma en un mundo en constante cambio. Aunque la de las oportunidades que nos da la IA y tratar de afron- IAG puede tener un impacto en muchas áreas de la tar los posibles retos. Este documento no pretende universidad, este documento se centrará en tratar su ser una guía o solución definitiva a esta nueva reali- posible potencial para apoyar y mejorar las dinámicas dad, si no que su objetivo es que sirva como punto de de enseñanza-aprendizaje, personalizando el conteni- partida y dinamizador de este gran reto que supone la do y los métodos de enseñanza, facilitando el apren- incorporación de la IAG a la docencia. dizaje colaborativo y proporcionando recursos para el aprendizaje autodirigido. Además de lo anterior, la IAG también puede mejorar significativamente la interacción entre estudiantes y docentes. Por ejemplo, puede ofrecer respuestas au- tomáticas a las consultas de los estudiantes fuera del horario de atención del docente, generar contenido de aprendizaje personalizado, ayudar a enriquecer y dina- mizar el trabajo en grupo y proporcionar retroalimenta- ción y recursos educativos personalizados. De hecho, puede ser un catalizador para la transformación del rol tradicional del docente, que tanta controversia ha generado en los últimos años. Imagen generada por la IA 4 5 2 La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización Oportunidades para la Utilizada de una manera efectiva, con un espíritu 2.2. PERSONALIZACIÓN DEL APRENDIZAJE crítico y desde una perspectiva ética, tiene un gran La inclusión de herramientas de IAG puede ser de gran potencial sobre la Educación, enriqueciendo la expe- utilidad para adaptar el aprendizaje a las necesidades docencia universitaria riencia de aprendizaje de los estudiantes y dotando individuales del estudiantado, así como facilitar una a los profesores y estudiantes de un conjunto de interacción personalizada en los procesos de ense- herramientas de acompañamiento en el proceso de ñanza-aprendizaje. Por otra parte, también facilita la enseñanza-aprendizaje. A continuación, presenta- identificación de fortalezas y debilidades del estudian- mos las principales oportunidades que entendemos te y realizar acciones como: que presenta la IAG para la docencia universitaria y que, para que sean una realidad, deberemos tener en Proporcionar explicaciones alternativas. Como se ha introducido antes, la IA ha surgido como herramienta cuenta los distintos desafíos en su implementación Generar a los estudiantes comentarios personali- capaz de transformar la docencia y el aprendizaje. Es más, ofrece y aspectos éticos que posteriormente abordaremos, zados sobre su trabajo. ya que hemos de ser conscientes que la información oportunidades para mejorar y personalizar la experiencia educativa, que ofrece puede no ser precisa, contener sesgos, o Dar ejemplos relevantes centrados en los intere- tanto desde el punto del estudiante como del profesorado. En no respectar aspectos de propiedad intelectual. Aun así, abordando estos aspectos, como indicaremos, ses específicos de cada estudiante. conjunto, puede ser entendida como un elemento que nos ayude con una formación adecuada, y un uso crítico, en- Presentar desafíos de aprendizaje al nivel adecua- tendemos que ofrecen un importante potencial que do de cada uno. en diferentes aspectos vinculados a la docencia y la innovación tratamos de describir a continuación. Generar contenidos accesibles o adaptando educativa. dichos contenidos para ofrecer atención a la di- versidad de estudiantes con problemas visuales, 2.1. UNIVERSALIZACIÓN DEL ACCESO A auditivos, etc. LA EDUCACIÓN SUPERIOR Y MEJORA DEL RENDIMIENTO ACADÉMICO Seleccionar el idioma de impartición, permitiendo un mayor uso y reaprovechamiento de conteni- Las herramientas de IAG dan la posibilidad de que dos. los estudiantes puedan recibir más y mejor forma- ción. Estas herramientas pueden actuar ya en etapas Esta personalización puede ayudar al estudiante a previas, contribuyendo a facilitar el acceso al mundo mantener su interés, motivación y comprensión de universitario. Una vez en este ámbito, y focalizando en conceptos, así como mejorar el desarrollo de habilida- el estudiantado, pueden actuar como tutores de los des. estudiantes resolviendo sus dudas o dando consejos En muchos casos, esta personalización del camino sobre cómo resolver determinadas tareas. Pueden de aprendizaje del estudiante puede estar basada en también generar material formativo tanto focalizado las preferencias de los estudiantes con respecto a la en el desarrollo de contenidos como en la generación materia en cuestión o en sus debilidades o en los fallos de material de autoevaluación. Así, estas herramientas que ha cometido. Pero surge como reto que el proceso se pueden incorporar en procesos de aprendizaje for- de personalización pueda realizarse según sus fortale- mal, complementando la labor de los docentes, y en zas o conocimientos aprendidos en otras asignaturas procesos de aprendizaje informal o de autoformación o áreas. donde, a partir del material e interrogando a las herra- mientas, se pueden obtener contenidos y respuestas a las dudas planteadas para lograr que más personas puedan formarse. Imagen generada por la IA 6 7  La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización 2.3 ACCESIBILIDAD el feedback inmediato y personalizado es uno de los En cuanto a la creación de contenidos docentes por Todo este tipo de soluciones permiten reducir a los factores clave de la mejora del proceso de aprendizaje. parte del profesorado, se sugieren de entrada dife- profesores el volumen de tareas repetitivas y de ges- Los sistemas de IAG pueden contribuir a hacer más rentes aproximaciones a la creación a partir de texto. tión permitiéndoles dedicar más tiempo a interactuar accesible la educación, tanto a nivel de contenidos, También puede ser útil para aquellos estudiantes con Entre ellas1: con los estudiantes. como minimizando las barreras que supone la ubi- dificultades para entender el material de la asignatura, cación física (aula, despacho del profesor/a, etc). En proporcionando a los estudiantes respuestas inme- Texto a texto (Chatbots). A partir de un texto que particular, si focalizamos en la componente virtual de diatas a sus preguntas y ayudándoles a mantenerse especifica una serie de instrucciones o peticiones los estudios - sean estos presenciales, híbridos o com- al día evitando quedarse atrás, minimizando el posible (denominado prompt), generar otro texto (por pletamente online - vemos que la IA: abandono. ejemplo, a partir de una serie de indicaciones, ge- nerar un texto sobre una determinada materia, o a Puede mejorar la personalización de este tipo de partir de un texto, que nos genere un resumen). educación generando y adaptando el contenido a 2.5. EFICIENCIA DE LOS PROFESORES las necesidades específicas de cada estudiante. Texto a código (Copilot). A partir de una descrip- Estas adaptaciones pueden estar basadas en La IA se posiciona como una herramienta para mejorar ción que genere código fuente (una función, un analíticas de datos, preferencias del estudiante, la experiencia de aprendizaje de los estudiantes y la programa, etc). habilidades demostradas, o herramientas de eficiencia de los profesores y ayudarles en su labor Texto a imágenes (Dall-e, Midjourney, Blue willow, feedback entre otras. docente. En este sentido la IAG (combinada con la IA) etc.). Dada una determinada descripción donde se puede ayudar a: Facilita el acceso a un apoyo académico en indican lo que queremos que sea la imagen o los tiempo real respondiendo a las preguntas/dudas, Automatizar ciertas tareas administrativas, mo- elementos que formen parte de la misma y, de- mediante mecanismos de interacción multimodal. nitorizar asistencia, detectar usos fraudulentos, pendiendo del caso, las características de estilo y Esta personalización puede ayudar al estudiante vigilar exámenes, etc. técnicas de la imagen, la herramienta nos genera a mantener su interés, motivación y comprensión una imagen con esas características. Ayudar a la preparación de material de clase, de conceptos, así como mejorar el desarrollo de mediante sugerencias de lectura, diseño de Texto a vídeo (Heygen, Synthesia, RunwayML, habilidades. ejercicios, resúmenes de contenidos y activida- etc.). A partir de un prompt donde se le indique la des basados en los objetivos de aprendizaje de la temática a tratar en el vídeo y las posibles carac- clase, etc. terísticas técnicas genera un vídeo. 2.4. SOPORTE EN TIEMPO REAL PARA LOS ESTUDIANTES Realizar evaluaciones y dar feedback mediante Texto a presentación (Tome AI, Presentations.AI, la generación de test de evaluación en base al etc.). Dado un determinado prompt nos genera Con este tipo de tecnología, es posible desarrollar temario de clase, o mediante una corrección ba- una presentación en formato web, Powerpoint, sistemas 24/7 de soporte a estudiantes resolviendo sada en rúbricas con retroalimentación del trabajo etc. dudas fuera del horario de tutorías establecido por realizado por el estudiante. el profesorado. Esto se puede conseguir mediante la Generación de preguntas para pooling que creación de sistemas supervisados como chatbots Aportar valor a las herramientas de participación utilicen la IA (PrepAI, Quizgecko, Wooclap Quiz que puedan responder a las preguntas/dudas de los activa (active learning) mediante la generación de Wizard, etc.). A partir de un determinado texto, estudiantes proporcionando consejos y apoyo a los preguntas que puedan tanto medir el conocimien- y un determinado prompt donde se indiquen mismos. Los docentes supervisan los contenidos para to cómo generar debates sobre temas específi- las características de las preguntas (número de que generen esta información, tomando como origen cos en el aula. preguntas, número de respuestas, número de de la información los sistemas internos y/o temarios posibles respuestas verdaderas, tipo de pregun- Evolución de los sistemas clásicos de colabo- de cada institución facilitando el aprendizaje autóno- tas - verdadero o falso, múltiple elección, … - etc.), ración (videoconferencia) y LMS que, mediante mo y la resolución de dudas. genera una serie de preguntas que se podrán la combinación de las tecnologías de analíticas responder vía web y que permitirán obtener feed- A nivel de retroacción, los sistemas de IAG pueden de aprendizaje e IAG, nos permiten realizar un back del conocimiento del tema o la opinión de los jugar un papel relevante en la evaluación automática seguimiento de la actividad del estudiante mucho participantes. de tareas y exámenes, proporcionando retroalimen- más personalizado, como la generación de rutas tación inmediata y detallada a los estudiantes sobre de aprendizaje. las tareas realizadas. Esto les permite identificar áreas de mejora y corregir errores rápidamente, facilitando el progreso del aprendizaje. Conviene destacar que 1 Para más detalles visitar: https://view.genial.ly/63ec8abdc804dc0018561bbe, https://rachelarthurwrites.com/2023/04/24/ai-tools-for-teachers/ 8 9 3 La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización Desafíos de la Implementación 3.1. RESISTENCIA AL CAMBIO do la elaboración de guías adaptadas a cada institu- ción sobre cuándo y cómo utilizar IAG en los procesos La implementación de la IAG se enfrentará a múltiples de enseñanza-aprendizaje (incluyendo también el uso resistencias (lógicas en muchos casos) del profesora- de la IAG en la docencia efectivo de prompts de carácter docente). do, por miedo a la influencia en el aprendizaje, posibles errores en la adopción o por aspectos éticos, y del personal administrativo de soporte a la docencia, por 3.3. REVISIÓN DE RESULTADOS DE PROGRAMAS universitaria la posibilidad de sustituir a sus puestos. No se trata de FORMATIVOS elegir entre los docentes o el personal administrativo y la IAG, si no, de cómo facilitar que estos colectivos Hemos mencionado que las metodologías docentes pueden realizar mejor sus funciones a partir del uso de deberán cambiar o adaptarse, pero no sólo tendremos la IAG. que hacer cambios en la metodología. La IAG supon- Parece evidente que el avance de la IAG en la Para tratar de abordar las reticencias es importante drá un cambio en la forma de trabajar en determinadas profesiones y en las competencias profesionales aso- educación universitaria es imparable, pero su realizar campañas de comunicación y formación que ciadas a ellas. Esto nos lleva a plantear si la formación analicen beneficios e inconvenientes de la IA generati- rápida evolución ha provocado que todavía va. Entre otras cosas, se deben proporcionar oportu- asociada a determinadas titulaciones o programas formativos debe cambiar. Por tanto, debemos analizar existan retos a los que hay que enfrentarse. nidades de formación y capacitación para que todo las competencias y resultados de aprendizaje asocia- el personal pueda adquirir las habilidades necesarias dos a la formación de dichas profesiones y ver si las y se sientan cómodos con el uso de la nueva tecnolo- competencias y resultados de aprendizaje deberían gía. Es fundamental, por tanto, fomentar una cultura modificarse, tanto si debemos quitar o añadir nuevas institucional de adaptabilidad y apertura en la misma competencias o resultados para adaptarse a los nue- línea del cambio cultural producido de transformación vos escenarios profesionales, considerando cómo se digital. incorporaría la IAG como soporte profesional, como en el análisis de los resultados que se nos da en su uso, lo que supondrá el incidir en competencias como el 3.2. ADOPCIÓN DE METODOLOGÍAS análisis crítico. BASADAS EN IAG La implementación de la IAG en la docencia universi- taria requiere una revisión y adaptación de las me- 3.4. INCORPORACIÓN DE NUEVOS PARADIGMAS todologías de enseñanza-aprendizaje utilizadas. Los DE EVALUACIÓN docentes deben explorar cómo integrarla de manera El uso amplio de la IAG planteará desafíos en la evalua- efectiva en sus prácticas pedagógicas, aprovechan- ción académica. Desde una perspectiva docente, es do sus capacidades para fomentar la creatividad, el conveniente explorar cómo aprovechar esta tecnolo- pensamiento crítico y la resolución de problemas. gía para mejorar los procesos de evaluación, ayudando Se deben desarrollar nuevas estrategias y enfoques por ejemplo en la creación de ejercicios de prueba, metodológicos que se ajusten al nuevo escenario personalización, etc., a la vez que se mantiene su tecnológico. A modo de ejemplo, la personalización equidad y validez y se tratan de evitar los sesgos que o aprendizaje adaptativo podría implicar adaptar no se puedan producir. solo el contenido, las actividades y las evaluaciones, sino la secuenciación del aprendizaje en función de las Adicionalmente, es conveniente analizar las implica- características (no solo personales, sino de desem- ciones que su desarrollo puede tener sobre el plagio peño y progreso) de cada estudiante, basándose para académico. Si bien es posible que se desarrollen ello en IAG. herramientas de antiplagio que se apoyen en IAG, la propia rápida evolución de la tecnología dificultará En la misma línea para ofrecer asistencia personaliza- su detección, por lo que su desarrollo quizá no deba da, se pueden hacer uso de chatbots o tutorías virtua- enfocarse tanto en la detección de plagio (aunque les usando técnicas de IA para proporcionar explica- entendemos que este aspecto debe seguir estando ciones, responder preguntas y guiar, a los estudiantes. presente y apoyado por herramientas) sino más en la Imagen generada por la IA En definitiva, sería muy beneficioso para el profesora- 10 11  La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización prevención y, sobre todo, en la promoción de prácticas 3.7. COSTE DE LA IMPLEMENTACIÓN éticas dentro de la enseñanza. Para ello será conve- Es necesario realizar un análisis exhaustivo de los niente, educar a los estudiantes sobre los principios recursos necesarios para implementar y mantener de integridad académica y las consecuencias del la tecnología, incluyendo la adquisición de hardware plagio (incluyendo a nivel personal y cómo afecta en y software especializado, así como la formación y su desarrollo académico y profesional). Es importante capacitación. Las instituciones educativas deben combinar las herramientas de IAG con la orientación establecer planes realistas para garantizar una imple- y el juicio ético del profesorado, y fomentar la educa- mentación sostenible de la IAG, teniendo en cuenta ción y conciencia sobre la integridad académica en los los posibles costes de pago por uso que podría tener estudiantes. una explosión de su uso si se realiza en un escenario de nube pública. 3.5. NECESIDAD DE CAPACITACIÓN TÉCNICA La implementación exitosa de la IAG requiere un nivel 3.8. DEPENDENCIA DE LA TECNOLOGÍA adecuado de capacitación técnica en el personal. Prin- La IAG puede llevar a una dependencia excesiva en la cipalmente, los expertos de TI deben tener un cono- tecnología, lo que conlleva riesgos. Si estos sistemas cimiento sólido sobre sus fundamentos, sus aplica- se alimentan con datos insuficientes o no confiables, ciones y sus limitaciones. Pero su adopción a nivel de existe el peligro de que los resultados y las recomen- toda la institución va más allá del personal técnico. Su daciones sean inexactos o sesgados. Una dependen- uso afectará a toda la comunidad universitaria, cada cia tecnológica en la IAG podría llevar a un exceso de uno en su escenario concreto de aplicación. Por ello, confianza en la misma, y, más aún, si no se tiene el se deben ofrecer oportunidades de formación y de- suficiente pensamiento crítico para analizar sus resul- sarrollo de capacitaciones para que se pueda usar de tados. Por tanto, es necesario mantener una supervi- manera efectiva, tratando de que esta formación esté sión y evaluación constante de los sistemas de IAG, así alineada con los programas de capacitación basados como contar con mecanismos de retroalimentación en estándares como DigCompEdu. humana para corregir errores y garantizar la calidad de los resultados. Pero, sobre todo, es importante fomen- tar el pensamiento crítico desde las universidades. 3.6. POTENCIALES RIESGOS DE UN USO INDEBIDO Todo esto implica enseñar a evaluar de manera obje- La IAG plantea importantes consideraciones éticas y tiva la información, cuestionando fuentes y perspecti- responsabilidades. Existe el riesgo de que esta tecno- vas tratando de verificar los datos antes de aceptarlos logía sea utilizada de manera inapropiada o para fines como verdaderos. malintencionados, como la generación de contenido fraudulento o sesgado. Es fundamental establecer políticas y marcos éticos claros para guiar su uso responsable en la docencia universitaria, fomentando la transparencia, la equidad y la integridad en su aplica- ción. El establecimiento de códigos éticos en toda la comunidad universitaria es un factor clave para tratar de reducir su mal uso y las implicaciones que conlleva. Imagen generada por la IA 12 13 4 La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización Implicaciones 4.1. PRIVACIDAD Y SEGURIDAD DE LOS DATOS 4.3. DEPENDENCIA DE ALGORITMOS DE APRENDIZAJE AUTOMÁTICO Principalmente, la IA se alimenta de datos que pro- vienen de las fuentes de datos abiertas en Internet, Los algoritmos de inteligencia artificial utilizan la infor- Éticas de la IAG pero también de información que se recaba en el propio uso. Por ello hay que ser muy consciente de los términos de servicio de la IAG que estemos utilizando, mación ya existente para llevar a cabo la tarea solicita- da. Estos algoritmos son complejos y muchas veces su comportamiento no es fácilmente interpretable, para evitar fugas de información indeseadas de la pro- lo cual puede dar lugar a problemas de transparencia pia institución o que se utilicen determinados datos y confianza en cuanto a cómo se comportan o cómo Esta sección cubre los aspectos personales protegidos por el Reglamento General de se producen determinados resultados. Hay que tener a considerar en el uso de la IAG Protección de Datos (RGPD). Aunque la RGPD es quizá la normativa más importante de aplicación hoy en día, en cuenta que la IAG no es capaz de entender el texto que está generando, si no que lo que hace es generar desde el punto de vista ético. en este análisis de los términos del servicio de las IAGs texto a partir de los datos que tiene y de determinados habrá que tener en cuenta las posibles normativas que patrones estadísticos y a la aleatoriedad utilizada en la puedan aparecer como consecuencia de la regulación generación. de determinados aspectos de esta tecnología. Es importante resaltar que la información de partida Esto se tiene que reflejar en un análisis de las herra- que utilizan las herramientas puede no ser verídica, mientas de IAG a adoptar y en una formación específi- contener sesgos, estereotipos (por ejemplo, de géne- ca en este tipo de riesgos y una normativa, o al menos ro) o reproducir comportamientos discriminatorios. unas indicaciones en cuanto a qué usos son acepta- Por tanto es posible que la aplicación de la IA repro- bles y cuáles no. duzca estos sesgos, estereotipos y discriminaciones o incluso que los realimente y amplifique. Los sesgos, estereotipos, efectos discriminatorios, 4.2. INTEGRIDAD ACADÉMICA Y PROPIEDAD posibles limitaciones en el modelo utilizado o los INTELECTUAL procesos de interpolación o extrapolación pueden dar La IAG se va a convertir en una herramienta básica en lugar al fenómeno que se denomina alucinaciones, muchas profesiones y habrá que formar al estudianta- donde los resultados que nos presenta la IA podrían do en su uso. Por lo que hay que ser conscientes hay ser incorrectos, ilógicos o incoherentes. Es posible que ser conscientes de que las utilizarán en la resolu- detectar dichas alucinaciones si se tiene conocimiento ción de sus problemas, actividades, trabajos, etc. El del tema tratado o se podría realizar comparando los profesorado tendrá que enseñarles a utilizarlas para resultados con fuentes externas (recursos o personas) sacarles partido de forma apropiada. También debere- o viendo posibles incoherencias durante las conversa- mos indicarles, al realizar este tipo de actividades, en ciones. Este problema afecta tanto al alumnado en su qué condiciones las pueden utilizar y, sobre todo, de- utilización durante su proceso de enseñanza-aprendi- bemos exigir un comportamiento ético respecto a su zaje como al profesorado, si lo utiliza en procesos de uso y a la atribución del material que producen, y que evaluación. Por tanto, en estos casos es importante cuando la utilicen, tendrán que especificar para qué la formar en pensamiento crítico y en el contraste de usaron, cómo la usaron y qué resultados obtuvieron. fuentes de información. Es importante que las herramientas de IAG elegidas para su uso respeten la normativa vigente, tengan permisos sobre las fuentes de datos para trabajar y respeten la propiedad intelectual al generar el conteni- do y realicen las debidas atribuciones necesarias. Imagen generada por la IA 14 15  La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización 4.4. DESIGUALDADES EN EL ACCESO A LA TECNOLOGÍA Una problemática equivalente a la brecha digital del acceso a Internet se va a producir en el uso de las IAGs de pago, de forma que segmentos de población económicamente más desfavorecidos van a tener dificultades en el acceso a estas herramientas, lo que influirá sin duda en su capacitación. Debemos recomendar, por ello, que las universidades faciliten este tipo de herramientas en un ámbito de igualdad de oportunidades, creando accesos unifor- mes a las mismas, o bien que establezcan programas de subvención de acceso para colectivos desfavoreci- dos. 4.5. CUESTIONES MEDIOAMBIENTALES El uso de la IAG puede tener un impacto significati- vo en el medio ambiente debido al alto consumo de energía necesario para entrenar y ejecutar los modelos en los que se soporta. Por ello, los usuarios deben conocer y valorar el coste energético como un factor de decisión. También es importante conocer si los modelos de IA se desarrollan y ejecutan de fuentes de energía limpias y renovables como una manera efecti- va de reducir las emisiones de carbono. En dicha línea, y cuando sea posible, se debería visibi- lizar y sensibilizar a la comunidad universitaria sobre esta cuestión, haciendo un uso responsable de esta tecnología para reducir la huella ecológica. Por otra parte, también es importante considerar el reciclaje y reutilización de los componentes de hardware cuando sea posible. Esto implica no solo la recuperación de materiales valiosos, sino también la actualización y mantenimiento adecuado de los dispositivos existen- tes en lugar de adquirir nuevos. Imagen generada por la IA 16 17 5 La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización Conclusiones y 5.1. PUNTOS CLAVE Acuerdo entre las universidades de una serie de principios rectores sobre el uso de la IAG en la En este documento hemos abordado el tema de la educación superior que garantice un uso ético IAG y su posible impacto en la educación universitaria, recomendaciones y responsable de la IA de forma que así tanto destacando sus oportunidades, desafíos e implicacio- profesorado como estudiantado hagan un uso de nes éticas. la IA seguro, accesible, que preserve la equidad Desde el punto de vista de las oportunidades, vemos y respete la privacidad de los datos y posibles que la IAG tiene el potencial para mejorar la educa- cuestiones de copyright, derechos de autor, etc. Después del análisis presentado sobre desafíos y oportunidades, ción superior al universalizar el acceso, personalizar También es necesario realizar recomendaciones el aprendizaje, mejorar la accesibilidad, proporcionar al profesorado sobre su rol con respecto a la IA y a continuación, pasamos a presentar los principales aspectos a soporte en tiempo real a los estudiantes y aumentar el proceso educativo, es decir, cuándo el proceso destacar y las posibles recomendaciones y siguientes pasos que la eficiencia del profesorado. También, mencionar que puede generar contenido de aprendizaje personaliza- puede ser soportado por la IA y cuándo el profe- sorado es responsable del proceso educativo. entendemos que se deben dar para su adopción en la educación do, responder a consultas de estudiantes, facilitar el Definición de las competencias con respecto al aprendizaje colaborativo y autodirigido, y liberar a los superior. profesores de tareas repetitivas. uso de IA para estudiantes y profesorado (prompt engineering, evaluación basada en IA, tutoriza- Para conseguir el potencial de la IAG, hemos visto ción, etc.) así como los programas formativos que nos enfrentamos y debemos solventar desafíos, para la consecución de dichas competencias. ya que la implementación de la IAG es resistencia al Desde ahora, esta formación también se debe cambio, requiere nuevas metodologías de enseñanza, considerar en los programas de formación del la revisión de resultados de los programas formativos, profesorado, explicando las oportunidades, los la incorporación de nuevos paradigmas de evaluación, riesgos, cómo evitarlos y las posibles herramien- la necesidad de capacitación técnica, el riesgo de un tas. Analizar si las competencias propuestas en- uso indebido, el coste de implementación y la depen- cajan dentro del marco de competencia del marco dencia de la tecnología. competencial DigCompEdu. En caso de que no fuera así, sería necesario analizar la propuesta de Por último, pero no menos importante, el uso de esta una actualización del mismo. tecnología también tiene implicaciones éticas impor- tantes. En concreto, el uso de la IAG plantea cuestio- Cada universidad debería facilitar los procesos nes de privacidad y seguridad de los datos, integridad de discusión interna entre los distintos colectivos académica y propiedad intelectual, dependencia de (profesorado, estudiantado, personal de adminis- algoritmos de aprendizaje automático, desigualdades tración y servicios, y cualesquiera otras entidades en el acceso a la tecnología y cuestiones medioam- interesadas) sobre el impacto de la IAG en los pro- bientales. Es fundamental establecer políticas y mar- cesos educativos y cómo adoptar esta tecnología cos éticos claros para guiar sobre el uso responsable maximizando beneficios y minimizando riesgos. de la IAG en la docencia universitaria. También se deberían crear foros de intercambio de estas discusiones entre las universidades. Por tanto, aunque la IAG tiene un gran potencial para mejorar la educación universitaria, es esencial abordar Planificar la incorporación de IAG en la universidad estos desafíos y consideraciones éticas para garanti- teniendo en cuenta aspectos como la funciona- zar su implementación efectiva y responsable. lidad orientada al estudiantado y que permita educación de calidad, reducción de la carga 5.2. RECOMENDACIONES Y SIGUIENTES PASOS administrativa del docente para facilitar que el En base a las oportunidades y a los desafíos a los que profesorado tenga más tiempo para los procesos nos enfrentamos, a continuación, se indican una serie de enseñanza con y para el estudiantado, cómo de recomendaciones y pasos a seguir para poder ofrecerles mejor información sobre sus estudian- aprovechar las oportunidades mencionadas y limitar tes, alternativas de personalización y evaluación los posibles riesgos y problemas que puedan apare- formativa, costes, seguridad, privacidad, trans- cer: parencia de los modelos utilizados, reducción del Imagen generada por la IA 18 19  La Inteligencia Artificial Generativa en la docencia universitaria: oportunidades, desafíos y recomendaciones Digitalización sesgo y preservar la equidad. Esta planificación Evaluar el coste ecológico total de operación también analiza los planes de estudios para iden- de los sistemas de IAG que se vaya a utilizar, tificar contenidos, competencias y resultados de incluyendo su huella de carbono y si proviene de aprendizaje, metodologías, actividades formativas fuentes renovables o no. Si se realizan licitaciones y de evaluación que, por la incorporación de la IA, públicas, que se considere este aspecto en los se introducirán, modificarán o eliminarán. Dentro pliegos de contratación. de este análisis, uno de los aspectos claves será el Esta tecnología, en este momento, supone una promover el uso ético por parte los estudiantes de irrupción que, con el tiempo, irá madurando, a la estas herramientas y el pensamiento crítico. misma vez que el profesorado se irá formando, Promover la formación de comunidades docentes haciendo consciente de sus posibilidades y ries- dentro de cada universidad para el intercambio gos. Por tanto, es necesario realizar un seguimien- de buenas prácticas acerca del uso de la IA en la to a la evolución de la tecnología y cómo esta pue- docencia (metodologías, prompts, herramientas, de contribuir a realizar una mejora en la docencia. etc.). A su vez, sería deseable la formación de A la vez, veremos que otros aspectos asociados estos grupos a nivel nacional para permitir el inter- a la tecnología, como los aspectos éticos, legales cambio de ideas teniendo en cuenta el contexto o de protección de datos, se irán desarrollando y nacional educativo. será necesario que estemos atentos con el fin de llevar a cabo los posibles cambios lo antes posible Explicar al alumnado el manejo de sus datos debido a la importancia que suponen estos temas (personales, académicos, etc.) que será llevado a para las personas a modo individual y a la socie- cabo en las aplicaciones de IAG introducidas para dad como colectivo el uso docente y definir procesos que sirvan para que cualquier colectivo notifique problemas de seguridad, privacidad y equidad en el uso de la IA. También se deben definir procesos para monitori- zar los posibles efectos en el proceso de apren- dizaje del estudiantado, así como en el beneficio que le aporta al docente. Recomendar la existencia de un programa de igualdad de oportunidades en el acceso a IA, o, alternativamente, un programa de subvención de acceso para colectivos desfavorecidos. Imagen generada por la IA 20 21  Digitalización Referencias bibliográficas Educause (2023). EDUCAUSE QuickPoll Results: Adopting and Adapting to Generative AI in Higher Ed Tech. recuperado el 27-07-2023 de https://er.educause.edu/articles/2023/4/educause-quickpoll-results-adop- ting-and-adapting-to-generative-ai-in-higher-ed-tech European Commission (2022). Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for Educators. Gimpel, H., Hall, K., Decker, S., Eymann, T., Lämmermann, L., Mädche, A.,... & Vandrik, S. (2023). Unlocking the power of generative AI models and systems such as GPT-4 and ChatGPT for higher education: A guide for stu- dents and lecturers (No. 02-2023). Hohenheim Discussion Papers in Business, Economics and Social Sciences. Sabzalieva E, Valentini A. (2023) ChatGPT and artificial intelligence in higher education: quick start guide. UNESCO report. U.S. Department of Education, Office of Educational Technology (202). Artificial Intelligence and Future of Teaching and Learning: Insights and Recommendations, Washington, DC. 22 Digitalización