Guia Generalitat de Catalunya sobre la Intel·ligència Artificial a l'Educació PDF

La intel·ligència artificial en l’educació Orientacions i recomanacions per al seu ús als centres Aquest document està subjecte a una llicència Reconeixement 4.0 de Creative Commons. Se’n permet la reproducció, la distribució, la comunicació pública i la transformació per generar una obra derivada...

La intel·ligència artificial en l’educació Orientacions i recomanacions per al seu ús als centres Aquest document està subjecte a una llicència Reconeixement 4.0 de Creative Commons. Se’n permet la reproducció, la distribució, la comunicació pública i la transformació per generar una obra derivada, sense cap restricció sempre que se’n citi el titular dels drets. La llicència completa es pot consultar a https://creativecommons.org/licenses/by/4.0 © Generalitat de Catalunya Departament d’Educació Elaboració: Direcció General d’Innovació, Digitalització i Currículum Edició: Gabinet Tècnic Primera edició: febrer de 2024 LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ Índex 1. Introducció............................................................................................................................... 4 2. Marcs de referència................................................................................................................ 5 3. La intel·ligència artificial......................................................................................................... 8 4. Utilitats de la intel·ligència artificial en el sistema educatiu............................................. 10 4.1. Acompanyar l’alumnat en l’ús de la IA............................................................................... 10 4.1.1. Conèixer el funcionament de la IA............................................................................ 10 4.1.2. Utilitzar la IA en les activitats d’aula......................................................................... 12 4.1.3. Treball competencial amb IA.................................................................................... 13 4.1.4. Oportunitats de la IA per a l’alumnat........................................................................ 14 4.2. Utilització de la intel·ligència artificial com a suport al professorat...................................... 14 4.2.1. Preparació d’activitats d’aula................................................................................... 14 4.2.2. Ajuda en l’aprenentatge adaptatiu i una millor personalització.................................. 17 4.3. Suport en la presa de decisions de l’Administració educativa............................................ 17 5. Límits i desafiaments de la IA.............................................................................................. 18 6. Marc normatiu....................................................................................................................... 20 7. Aspectes clau que el professorat ha de tenir en compte en relació amb l’ús de la intel·ligència artificial............................................................................................................... 21 8. Recurs web............................................................................................................................ 23 9. Elaboració del document...................................................................................................... 24 10. Bibliografia recomanada.................................................................................................... 25 — 3 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 1. Introducció La intel·ligència artificial (IA) és el camp de la informàtica que desenvolupa i estudia el comportament intel·ligent de les màquines i del programari. El tret distintiu de la IA és el desenvolupament d’algorismes que permeten que les màquines prenguin decisions intel·ligents. Es considera una disciplina acadèmica a partir de la dècada de 1950, tot i que els seus fonaments es poden remuntar a l’època dels grecs clàssics. Avui en dia s’utilitza àmpliament a la indústria, l’Administració i la ciència en aplicacions de motors de cerca avançats, sistemes de recomanació, processadors de llenguatge, eines generatives i creatives o jocs d’estratègia, entre d’altres. La IA és darrere d’accions quotidianes com les recomanacions de sèries i pel·lícules, els anuncis personalitzats o els assistents personals. L’aparició de l’aplicació ChatGPT, el 30 de novembre del 2022, revoluciona i posa l’ús conscient de la IA en el focus mediàtic; i també en l’àmbit educatiu, atès que l’alumnat comença a utilitzar aquesta tecnologia amb una repercussió notable. Vist l’interès creixent per l’ús de la IA en educació, el Departament d’Educació ha creat un grup de treball específic, per tal de fer seguiment de l’ús d’aquesta tecnologia i valorar-ne les aplicacions en educació. El grup està format per persones de diferents unitats del Departament i docents, i compta amb l’assessorament d’experts de l’àmbit universitari. Les primeres accions que el grup du a terme, a més de l’elaboració d’aquest document, són la creació de cursos de formació per al professorat, el desenvolupament d’un portal web específic sobre la IA en educació i el contacte amb altres grups de treball sobre IA. Ser rigorosos en educació demana temps i estudi, per tal de poder prendre decisions basades en l’evidència. Quant a l’aplicació de la IA en educació, el període de temps és massa breu per poder extreure’n conclusions definitives; per això aquest document té per objectiu fomentar la reflexió entre els i les docents i en els claustres. El document planteja oportunitats d’ús i desafiaments de la IA i recull, també, dubtes i incerteses que encara estan per resoldre. Cal ser conscients que l’evolució de la IA és molt ràpida i, consegüentment, aquest document pot quedar desfasat aviat. Les mateixes institucions europees encara estan legislant l’ús de la IA en contextos quotidians i en l’àmbit educatiu; per això, aquest document es planteja amb la voluntat de donar orientacions sense establir veritats absolutes ni indicacions que calgui seguir obligatòriament. — 4 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 2. Marcs de referència L’ús de la IA implica prendre decisions ètiques per evitar biaixos que poden portar a discriminacions i afectar drets i llibertats de les persones; per això, diverses institucions han començat a abordar la intel·ligència artificial més enllà dels aspectes tècnics. A continuació, s’esmenten els documents que s’han pres com a marc de referència en les actuacions i recomanacions del Departament d’Educació: Declaració de Barcelona (Barcelona declaration for the proper development and usage of artificial intelligence Europe) del 8 de maig de 2017, en què s’expliquen sis elements bàsics que els usuaris i els desenvolupadors d’IA haurien de tenir en compte. En primer lloc, la prudència, especialment en els desenvolupadors, per ser estrictes en els requisits necessaris i per esperar a tenir els coneixements i recursos per analitzar i modelar la IA. També la fiabilitat, la capacitat d’explicació i la responsabilitat, per obtenir resultats que donin resposta a les expectatives i que permetin ser explicats a les persones afectades. Finalment, l’autonomia limitada, per tenir regles clares que limitin el comportament dels sistemes d’IA autònoms i el paper de les persones, per deixar clar que aquest és imprescindible, ja que tots els sistemes d’IA depenen de manera crítica de la intel·ligència humana. Directrius ètiques per a una IA fiable (Ethics guidelines for trustworthy AI) de la Comissió Europea del 8 d’abril de 2019. Aquest document proposa set requisits clau que han de complir els sistemes d’IA per ser considerats de confiança. 1. Acció i supervisió humanes: els sistemes d’IA haurien de donar suport a l’autonomia i la presa de decisions de les persones, tal com prescriu el principi del respecte de l’autonomia humana. Això requereix que els sistemes d’IA actuïn tant com a facilitadors d’una societat democràtica, pròspera i equitativa, com donant suport a l’acció humana i promovent-ne els drets fonamentals, a més de permetre la supervisió humana. 2. Solidesa tècnica i seguretat: la solidesa tècnica requereix que els sistemes d’IA es desenvolupin amb un enfocament preventiu en relació amb els riscos, de manera que es comportin sempre segons el que és esperat i minimitzin els danys involuntaris i imprevistos, i també evitin causar danys inacceptables. 3. Gestió de la privadesa i de les dades: la privadesa és un dret fonamental que es veu especialment afectat pels sistemes d’IA i que guarda una relació estreta amb el principi de prevenció del dany. La prevenció del dany en la privadesa també requereix una gestió adequada de les dades, que abasti la qualitat i la integritat de les dades utilitzades, la seva pertinència en contrast amb l’àmbit en què es desplegaran els sistemes d’IA, els seus protocols d’accés i la capacitat de processar dades sense vulnerar la privadesa. 4. Transparència: aquest requisit inclou la transparència dels elements pertinents per a un sistema d’IA: les dades, el sistema i els models de negoci. Aquest principi hauria d’assegurar la traçabilitat de les dades i els processos que porten les IA a prendre decisions, la capacitat d’explicació dels criteris utilitzats i la identificació clara dels sistemes d’IA utilitzats. — 5 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 5. Diversitat, no-discriminació i equitat: per fer realitat la IA fiable, cal garantir la inclusió i la diversitat al llarg de tot el cicle de vida dels sistemes d’intel·ligència artificial. A més de tenir en compte tots els afectats i garantir-ne la participació en tot el procés, cal garantir la igualtat d’accés mitjançant processos de disseny inclusius, sense oblidar la igualtat de tracte. 6. Benestar ambiental i social: s’ha de fomentar la sostenibilitat i la responsabilitat ecològiques dels sistemes d’IA, així com impulsar la investigació de solucions d’intel·ligència artificial per fer front als temes que susciten preocupació a escala mundial, com ara els objectius de desenvolupament sostenible. L’ideal és que la IA s’utilitzi en benefici de tots els éssers humans, també de les generacions futures. 7. Retiment de comptes: cal establir mecanismes que permetin garantir la responsabilitat i el retiment de comptes sobre els sistemes d’IA i els seus resultats, tant abans de la implantació com després. Això implica que els sistemes han de ser auditables, han de minimitzar els efectes negatius i, en cas que n’hi hagi, cal que es notifiquin i preveure les compensacions pels efectes adversos injustos que produeixin. IA i educació: guia per a les persones encarregades de formular polítiques (AI and education: guidance for policy-makers) de la UNESCO del 2021. En aquesta publicació s’ofereixen orientacions per a les persones encarregades de definir polítiques educatives, que indiquen la millor manera d’aprofitar les oportunitats i afrontar els riscos que presenta la connexió creixent entre la IA i l’educació. Es presenten les definicions tècniques d’IA, es fa una anàlisi detallada de les tendències i implicacions per a l’educació, incloent-hi l’ús ètic inclusiu i equitatiu, i es presenten els reptes per aprofitar la IA en l’assoliment de l’ODS 4, a més d’oferir recomanacions concretes per planificar polítiques i programes en contextos locals. Recomanacions sobre l’ètica de la intel·ligència artificial (Recommendation on the Ethics of Artificial Intelligence) de la UNESCO del 2021. En aquesta publicació es donen 141 recomanacions per als estats membres de la Unió Europea, agrupades en 11 àmbits, un dels quals és l’àmbit de l’educació i la recerca. Entre d’altres, indica que els estats membres haurien de promoure l’adquisició de competències necessàries per comprendre la IA, com les competències digitals o l’alfabetització mediàtica, o que haurien de promoure la participació i el lideratge de les dones i les nenes en la implementació d’aquesta tecnologia. Consens de Beijing sobre la intel·ligència artificial i l’educació (Beijing Consensus on Artificial Intelligence and Education). És el document final de la Conferència Internacional sobre Intel·ligència Artificial i Educació, que va tenir lloc el maig de 2021. El document forma part dels marcs existents sobre IA i educació desenvolupats dins del paper de la UNESCO per dirigir el diàleg global amb els responsables polítics, els socis, el món acadèmic i la societat civil. Així, es recomana que els diferents governs implementin accions per fer front a les oportunitats i reptes que presenta la IA en educació. Aquestes recomanacions s’agrupen al voltant dels eixos següents: les polítiques educatives, la gestió educativa, l’empoderament dels docents, l’avaluació dels aprenentatges, el desenvolupament de competències, l’aprenentatge al llarg — 6 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ de la vida, la inclusió i l’equitat, la perspectiva de gènere, l’ús transparent i ètic de les dades, la recerca i l’avaluació de l’impacte de la IA. Finalment, cal destacar l’Estratègia d’Intel·ligència Artificial de Catalunya, impulsada pel Govern de la Generalitat de Catalunya a partir de l’any 2020, liderada actualment per la Secretaria de Polítiques Digitals del Departament d’Empresa i Treball, conjuntament amb el Departament de Recerca i Universitats. L’Estratègia d’Intel·ligència Artificial de Catalunya analitza les capacitats que té el país en aquesta matèria i estableix una sèrie de prioritats i línies d’actuació per convertir Catalunya en un pol d’innovació, lideratge i atracció de talent i empreses en el terreny de la intel·ligència artificial. Dins dels seus eixos d’actuació, hi ha la publicació de diversos llibres blancs sobre IA, un dels quals serà sobre educació.. — 7 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 3. La intel·ligència artificial La definició d’intel·ligència artificial ha anat variant al llarg del temps, evolucionant i ampliant-se a mesura que la tecnologia també evolucionava. La Comissió Mundial d’Ètica del Coneixement Científic i la Tecnologia (COMEST) de la UNESCO la descriu com “màquines que repliquen determinades funcionalitats de la intel·ligència humana com ara la percepció, l’aprenentatge, el raonament, la resolució de problemes, la interacció lingüística i, fins i tot, la producció de treballs creatius” (COMEST, 2019). Sovint es redueix el concepte d’IA a les aplicacions generatives que tenen més impacte mediàtic; però la IA comprèn diversos camps, amb superposicions entre molts d’aquests. Els més significatius són l’aprenentatge automàtic (machine learning), la visió per computador, el big data, el processament natural del llenguatge (NLP), el suport intel·ligent a la presa de decisions i les xarxes neuronals, entre d’altres. La IA generativa és només una branca amb connexions amb diversos d’aquests camps. A continuació s’indiquen algunes definicions que poden ajudar a entendre els conceptes més importants de la intel·ligència artificial. Totes són àrees de recerca actives i en evolució constant: Aprenentatge automàtic: branca de la intel·ligència artificial que permet que un sistema aprengui i millori de manera autònoma sense haver estat programat explícitament. Necessita dades inicials per poder establir patrons i relacions. Aquests sistemes poden categoritzar imatges o poden fer previsions a partir de dades estadístiques prèvies. Aprenentatge profund (deep learnig): subcamp de l’aprenentatge automàtic en què els sistemes són capaços d’extreure característiques a partir de dades en brut, no etiquetades prèviament. Per fer-ho, són necessàries grans quantitats de dades (big data). L’aprenentatge automàtic profund depèn menys de la intervenció humana que l’aprenentatge automàtic clàssic o no profund. Aquests sistemes utilitzen les xarxes neuronals artificials. IA generativa: branca de l’aprenentatge profund enfocat a generar contingut original (text, imatges, àudio, vídeos, etc.) a partir de dades existents. Usa aprenentatge profund per poder aprendre de la informació que se subministra i poder crear un contingut nou i únic. Processament del llenguatge: camp de recerca que se centra en la comunicació entre persones i màquines amb llenguatges naturals. Utilitzen, bàsicament, models gramaticals i models estadístics com ara els models de llenguatge extens (LLM en la sigla anglesa). — 8 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ Figura 1. Representació esquemàtica d’algunes tècniques d’intel·ligència artificial — 9 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 4. Utilitats de la intel·ligència artificial en el sistema educatiu L’ús de la IA en el sistema educatiu és divers i té objectius i focus d’intervenció també diversos. Algunes aplicacions ja estan desenvolupades i es poden utilitzar, però d’altres encara són incipients i just mostren el seu potencial futur. A grans trets, hi ha quatre àmbits d’aplicació: Suport per a l’aprenentatge de l’alumnat mitjançant cercadors, revisors lingüístics, traductors, lectors i aprenentatge assistit com simuladors, realitat augmentada, realitat virtual o metavers. Suport als docents per facilitar la generació d’activitats, l’avaluació d’alumnes o la personalització dels aprenentatges, entre d’altres. Suport als centres educatius per millorar els processos de recollida de dades, per detectar perfils de risc o per facilitar processos d’avaluació conjunta. Suport al sistema educatiu en la recollida de dades per a la presa de decisions per preveure necessitats d’intervenció, prevenir l’absentisme i l’abandonament escolar, detectar perfils de professorat o facilitar processos administratius. La IA podria fer aportacions en qualsevol de les fases clau del cicle de polítiques públiques, des de l’establiment de l’agenda en la formulació de polítiques fins a la presa de decisions, la implementació i l’avaluació, tal com recull l’Asia-Pacific Economic Cooperation (APEC) en el seu document Artificial Intelligence in Economic Policymaking, de novembre de 2022. En totes aquestes aplicacions de la IA hi ha oportunitats i desafiaments i, per tant, cal ser conscients de les repercussions que poden tenir si s’utilitzen en contextos escolars. 4.1. Acompanyar l’alumnat en l’ús de la IA Els docents han de poder conèixer aquesta tecnologia i reflexionar sobre la seva aplicació educativa. L’ús de la IA a l’aula té dos vessants educatius ben diferents i cal veure com s’aborda cadascun: d’una banda, cal acompanyar l’alumnat a conèixer aquesta tecnologia que ja estan usant perquè ho facin de manera conscient; de l’altra, cal preveure la utilitat de la IA per al seu procés d’aprenentatge. 4.1.1. Conèixer el funcionament de la IA Segurament, la majoria d’alumnes han utilitzat la IA i han fet proves amb ChatGPT o amb altres bots de conversa per a tasques escolars, però també pot ser que hagin utilitzat altres aplicacions d’IA i no en siguin conscients. — 10 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ Conèixer el funcionament de la IA, sense entrar en les complicacions tècniques, permetrà que l’alumnat prengui consciència de les limitacions que té i quines accions pot dur a terme per minimitzar-les. També se sensibilitzarà sobre les afectacions de drets i llibertats, com el dret a la intimitat, a la protecció de dades personals o a la propietat intel·lectual. Per exemple, tothom rep recomanacions a través de plataformes audiovisuals, botigues en línia o xarxes socials. Els algoritmes de recomanació funcionen amb IA no generativa. Són algoritmes que funcionen bé i que acostumen a encertar les propostes; però també són algoritmes que aïllen, ja que permeten veure allò que agrada a l’usuari, i fan que cada cop sigui més difícil que apareguin elements diferents que també poden agradar, la qual cosa limita el seu coneixement. Passa semblantment a les xarxes socials: mostren persones que pensen i s’expressen com l’usuari, i deixen de banda altres opinions que també poden ser enriquidores, i que poden acabar condicionant la manera de fer i pensar. D’altra banda, l’alumnat ha de ser conscient que molta de la IA generativa és gratuïta, però això té un preu: s’alimenta de les nostres dades, preguntes, imatges o escrits, i en podem perdre el control. Recursos Per entendre el funcionament de les IA, hi ha alguns recursos que poden ser útils per treballar amb l’alumnat. A tall d’exemple, se’n comenten alguns a continuació. Cal considerar, però, que els recursos d’IA canvien ràpidament; per això, es recomana consultar l’apartat Recurs web d’aquest document per accedir als recursos més actualitzats. LearningML: aplicació desenvolupada per Juan David Rodríguez García, del Servei de Mitjans Tecnològics de l’Institut Nacional de Tecnologies Educatives i de Formació del Professorat (INTEF), del Ministeri d’Educació i Formació Professional. Permet treballar amb imatges, textos i nombres de manera molt senzilla. El procediment en els tres casos és el mateix. S’hi introdueixen elements indicant-ne una categoria. Per exemple, es poden introduir fotografies de diferents residus del pati, indicant la categoria: plàstic, paper i matèria orgànica, com fa Álvaro Molina en aquesta experiència. Com més fotografies s’hi introdueixin millor funcionarà el sistema. Un cop introduïdes, es prem el botó “entrenar”. Un cop entrenat, es pot usar la càmera per tal que indiqui la categoria d’un objecte que se li mostri. A més, es pot connectar amb Scratch i utilitzar aquest reconeixement en un programa per blocs. Un altre exemple consisteix en la introducció de titulars de diversos mitjans de comunicació per detectar biaixos de la premsa i treballar, així, el pensament crític de l’alumnat. Teachable Machine: similar a l’anterior, però permet treballar també amb sons i amb vídeos per detectar posicions corporals. Es pot fer servir, per exemple, per detectar diferents estils musicals. Es poden introduir diferents àudios classificats per estils o per formes musicals i entrenar el sistema perquè els identifiqui en altres àudios. Això permet treballar amb els alumnes els patrons que ha detectat el sistema. Projectes pràctics d’IA: la International Society of Technology for Education (ISTE) i General Motors (GM) han creat diverses guies amb projectes pràctics per ensenyar què és la IA a l’alumnat de diferents etapes educatives: educació primària, educació secundària, àrees optatives, ciències de la computació i ètica de la IA. — 11 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ Procomún: plataforma de l’INTEF amb diverses experiències de docents i propostes d’activitats per dur a l’aula amb alumnat. AI for Oceans: recurs de code.org per a alumnes de primària. Aquest curs permet entendre el funcionament de l’aprenentatge automàtic. Advertiment Cal ser molt curosos amb la protecció de dades de l’alumnat, ja que es tracta d’un col·lectiu vulnerable per l’edat, especialment de les dades sensibles, però també d’altres, com la imatge i la veu. Cal evitar introduir imatges d’alumnes en totes aquestes aplicacions. Pot ser temptador fer exemples per reconèixer si una persona riu o està seriosa o si aixeca la mà; però és difícil saber on s’emmagatzemaran les imatges que es pugen en aquestes aplicacions, encara que se n’especifiqui la política de privacitat. És molt millor pensar activitats perquè l’alumnat aprengui el mateix sense utilitzar les seves dades. Per tant, el principi de prudència recomana no introduir cap dada personal. 4.1.2. Utilitzar la IA en les activitats d’aula S’ha comentat a la introducció que ser rigorosos en educació demana temps i estudi. Segurament l’ús de les IA pot millorar les activitats d’ensenyament-aprenentatge i es pot introduir com un recurs més, sempre respectant les polítiques d’usos de les aplicacions. Aquestes solen indicar que els menors de 13 anys no les poden utilitzar i l’alumnat entre 13 i 18 anys necessita l’autorització expressa de la família. Les aplicacions d’IA generativa, sobretot les que es basen en models de llenguatge extens (MLE), seran, probablement, les que permetran més usos educatius. En aquest sentit, ChatGPT i Bard són les eines més senzilles d’utilitzar per crear textos, mentre tinguin versió gratuïta. N’existeixen moltes més, també gratuïtes, com ara Claude-2 d’Anthropic o Perplexity, que fan servir els models d’OpenAI i d’Anthropic. A més, hi ha aplicacions d’IA per crear productes amb altres formats, per exemple: Per crear imatges: Scribble Diffusion, Craiyon, Stable Diffusion o Dall-E 2 Per crear música: Ecrett o Mubert Per crear fórmules de fulls de càlcul: Sheet+ Per crear vídeos: Synthesia Hi ha persones que han recopilat eines d’IA que ajuden a trobar l’aplicació que és més útil, com ara AI Educator Tools. D’altra banda, aplicacions que en un principi no feien servir IA l’estan incorporant, i en milloren les funcionalitats. Un bon exemple és Canva, que permet generar imatges amb IA dins de la mateixa aplicació. — 12 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ La llista podria ser molt més extensa. En moltes d’aquestes aplicacions es demana un registre d’usuari. Per garantir la protecció de les dades de l’alumnat, cal evitar que aquest creï un usuari o s’identifiqui amb usuaris de serveis que ja utilitzi, com ara de Google o Microsoft. L’important en l’ús de tecnologies a l’aula, sigui IA o altres tecnologies, és l’objectiu d’aprenentatge, en què cal respectar els drets i les llibertats de les persones. Primer, cal determinar què ha d’aprendre l’alumnat i després decidir si la tecnologia hi ajuda. A vegades, aquesta ajuda serà simplement per fer activitats diferents de les habituals, cosa que pot provocar més motivació. Altres vegades es detecta que la tecnologia permet establir relacions que, de no tenir-la, serien complicades d’aconseguir. Però també pot ser que la tecnologia no tingui cap efecte, cas en què serà millor no introduir-la. Les xarxes socials s’han omplert de docents que comparteixen experiències que poden ser útils, per exemple, escriure un text, introduir-lo a ChatGPT i demanar-li que proposi millores de manera argumentada. Aquest pot ser un bon exercici per millorar l’escriptura. La IA no sempre encertarà les propostes, però provocarà la reflexió a l’alumne o alumna, que haurà de decidir si la proposta que li fa és bona o no. També poden ser útils les activitats en què les IA generatives creen alguna cosa, sigui text, imatges o música, i en què l’alumnat hagi de valorar si la proposta s’adiu o no amb el que es demanava. Això activarà la revisió de criteris per part de l’alumnat. Finalment, seria recomanable evitar les activitats en què les produccions de la IA generativa es donen per bones sense una actitud crítica. 4.1.3. Treball competencial amb IA La IA artificial és una eina tecnològica que, com la resta d’eines, pot ser útil per treballar moltes competències específiques. No té gaire sentit fer una llista de les competències que es poden treballar amb una eina concreta, perquè l’eina pot tenir moltíssimes aplicacions diferents; per això, tampoc no tindria sentit fer-ho amb els sistemes que utilitzen IA. Ara bé, en les competències transversals, com la digital, aquestes eines d’IA poden ser especialment útils. L’alumnat ha d’aprendre a saber usar la IA per a la creació de contingut, per a la recerca i la verificació d’informació o per a la resolució de problemes. Però més enllà de la competència digital, caldrà fer una atenció especial a la competència ciutadana. En l’apartat Límits i desafiaments de la intel·ligència artificial d’aquest document es fa referència als límits i desafiaments de la IA, que apunten directament a aquesta competència ciutadana: la detecció de biaixos, necessitat de pensament crític, comprensió de la realitat (social, política, científica, ecològica i econòmica) i defensa de drets i llibertats fonamentals, entre d’altres, són aspectes a treballar amb les IA. — 13 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 4.1.4. Oportunitats de la IA per a l’alumnat Un dels àmbits on la IA té potencial educatiu és en l’ús que l’alumnat en podrà fer. Sense perdre de vista les restriccions d’edat, la protecció de dades i els desafiaments que s’exposen en aquest mateix document, les aplicacions que utilitzen IA poden ajudar l’alumnat en l’aprenentatge. L’alumnat pot personalitzar el seu aprenentatge i utilitzar la IA per marcar el seu ritme de progrés, tant per generar contingut de manera creativa, com per ajudar-se d’assistents i bots de conversa per dur a terme tasques d’aprenentatge. Aquestes aplicacions presenten alguns riscos, que cal valorar abans d’utilitzar-les amb l’alumnat. 4.2. Utilització de la intel·ligència artificial com a suport al professorat 4.2.1. Preparació d’activitats d’aula Tipus d’activitats L’ús de la IA per part de l’alumnat ha generat una certa controvèrsia, ja que podria utilitzar aquestes aplicacions per fer les tasques i lliurar-les com si el contingut fos d’elaboració pròpia. Actualment no hi ha cap detector completament fiable de productes creats per aplicacions d’IA i, per tant, es complica la tasca de saber si l’activitat l’ha fet a l’alumne o no. Probablement, en un futur pròxim n’apareixeran, de la mateixa manera que va passar amb els detectors de plagi o eines semblants per detectar l’originalitat d’un text. El currículum vigent a Catalunya aposta per un treball competencial basat en situacions d’aprenentatge. A partir de contextos reals o propers a l’alumnat, es plantegen reptes als quals ha de donar resposta. En aquest tipus de treball, és més complicat que les aplicacions d’IA donin respostes tancades. De fet, poden ser una ajuda per afegir-hi idees, però no per resoldre les tasques encomanades. En aquest sentit, la infografia 10 Metodologies i activitats per avaluar i aprendre amb la IA generativa, de la UOC, apunta algunes metodologies actives per treballar amb la IA que poden ser útils. A més, s’ha de posar en valor la importància de demanar sempre als alumnes citar les fonts que han usat en els seus treballs. Per tot això, cal que els docents siguin conscients d’aquestes possibilitats i preparar activitats d’aula que s’hi adeqüin, així com gestionar en quins moments es poden utilitzar les aplicacions d’IA i en quins no. Formació Igual que ha passat amb tota la tecnologia que ha anat entrant a les aules, la formació sobre IA és un element imprescindible. El professorat s’ha de formar per poder fer un bon ús de la IA, especialment de la generativa. La finalitat d’aquesta formació ha de ser que els i les docents puguin aprofitar l’ús de la IA en la realització de les seves tasques professionals i en l’aplicació a les aules. — 14 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ La IA generativa també pot ser útil en els processos de cocreació, tant en el disseny de situacions d’aprenentatge com d’activitats específiques. Disseny d’activitats Independentment de la problemàtica de l’ús que en faci l’alumnat, els docents també poden utilitzar aquestes IA en la preparació de les activitats d’aula. Algunes eines específiques, com ara Magic School, permeten usar IA generativa per a tasques que els docents fan habitualment, com ara crear rúbriques, crear preguntes tipus test, etc. Això permet obtenir uns primers esborranys que els docents poden modificar o completar. A més, amb aplicacions d’IA generativa textual més generals, es poden utilitzar apunts o indicacions (traducció normativa de prompts, que són els textos que s’introdueixen per fer comandes a les aplicacions) per obtenir idees per crear situacions d’aprenentatge. Algunes de les respostes que se n’obtindran aportaran poc valor o, fins i tot, seran incorrectes; però altres respostes poden ser molt útils. Per exemple, es pot utilitzar ChatGPT per preparar una activitat competencial, de manera que se li poden demanar idees per treballar la resolució de problemes matemàtics utilitzant fraccions en algun context real. Les respostes no seran una situació ja preparada per dur a l’aula, però poden ser útils en la seva presentació. Es podria escriure una indicació d’aquest estil: “Necessito treballar competencialment amb els meus alumnes d’11 anys. Vull que aprenguin el concepte de fracció matemàtica i que facin operacions amb fraccions, sumes i restes. Pots plantejar-me tres reptes, en un context real, per tal que ho aprenguin?” La resposta de l’aplicació no sempre serà la mateixa. Una resposta possible que donaria podria ser la següent: Figura 2. Imatge de la resposta de ChatGPT a la indicació esmentada, en data 8 de juliol de 2023 — 15 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ L’aplicació fa propostes que els docents poden utilitzar. A més, es pot seguir la conversa amb el xat per tal de continuar-hi treballant i afinar la resposta. Es podria indicar que es quedés amb aquesta primera i demanar-li més activitats o concretar-les més. De la mateixa manera, els docents poden utilitzar més aplicacions per crear altres tipus de material per dur a les aules (imatges, vídeos, etc.). Cal remarcar també la utilitat que pot tenir per atendre la diversitat de l’aula. Ja existeixen sistemes d’IA que permeten transcriure vídeos, convertir veu en text i text en veu o, fins i tot, imatges a text o veu que faciliten adaptar algunes activitats per a l’alumnat amb diversitat funcional. En aquest sentit, la IA té una dimensió inclusiva que pot facilitar a cada alumne allò que necessita, d’acord amb les seves capacitats i evidències de progrés. Disseny de l’avaluació L’avaluació formativa i formadora potencia el vessant formatiu a partir, entre d’altres, de la utilització d’instruments d’avaluació, de manera que l’alumnat té criteris clars per fer les tasques, una guia de com fer-les i, a més, queda clara tant la finalitat com els objectius d’aprenentatge que es volen aconseguir amb les activitats. Crear aquests instruments, com ara rúbriques, rúbriques d’un sol punt o llistes de validació, pot ser una tasca complexa; però els sistemes d’IA ho poden simplificar. Les IA de generació de text poden ser útils si s’utilitza una indicació adequada. A partir de la primera proposta que s’obté, s’ha d’afinar amb més interaccions i el docent ha de fer les modificacions directes amb el seu criteri. Recursos A continuació es mostren alguns recursos per al disseny d’activitats d’aprenentatge. Com ja s’ha comentat, es pot consultar l’apartat Recurs web d’aquest document per a l’actualització d’aquests recursos: ChatGPT: IA generativa textual. Cal registrar-se amb un usuari i indicar un telèfon. Cal ser conscients del risc de donar aquestes dades a una empresa. Disposa d’una versió gratuïta i una altra de pagament, amb un model més avançat i amb més funcionalitats. Teaching with AI: guia creada per la mateixa empresa que ha desenvolupat ChatGPT amb recomanacions específiques per a docents. Bing Xat: IA generativa textual i d’imatges gratuïta que usa el model avançat de ChatGPT, tot i no tenir les funcionalitats avançades. Bard: IA generativa textual. Cal registrar-se amb un usuari de Gmail. Cal ser conscients del risc de donar aquestes dades a una empresa. Magic School: conjunt de diferents eines que utilitzen IA, pensades per facilitar les tasques dels docents. — 16 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 4.2.2. Ajuda en l’aprenentatge adaptatiu i una millor personalització Les possibilitats de les IA tindran una aplicació directa en l’aprenentatge adaptatiu i en la personalització de l’aprenentatge de l’alumnat. Aquesta aplicació de la IA no està gaire desenvolupada i existeixen pocs productes que no siguin de pagament. Per tal que les aplicacions d’IA puguin oferir itineraris personalitzats, cal que recullin dades de l’alumnat i, per això, es fa imprescindible que les activitats d’ensenyament-aprenentatge es gestionin en entorns virtuals d’aprenentatge. Així, la IA pot obtenir dades sobre el comportament que l’alumnat té en aquests entorns, les activitats a què accedeix, el temps que hi dedica, etc. D’aquesta manera, la IA podrà analitzar aquestes dades i podrà fer suggeriments d’actuació. Tot i això, aquestes dades estaran incompletes, ja que els sistemes no tindran, almenys de moment, totes les dades del que passa a l’aula. 4.3. Suport en la presa de decisions de l’Administració educativa Aquest és un altre camp on, en un futur pròxim, la IA podrà fer aportacions. Actualment, es poden trobar casos puntuals i en desenvolupament. En altres àmbits, com el sanitari o el de la justícia, ja fa uns anys que s’estan utilitzant i estan donant bons resultats. Les aplicacions d’aprenentatge automàtic permeten fer previsions a partir de la introducció d’una quantitat important de dades. Això permet, per exemple, analitzar les dades de l’evolució dels alumnes i poder fer previsions sobre el seu aprenentatge i prendre mesures per reforçar-lo. Aquestes dades s’obtenen tant de les aplicacions institucionals de gestió acadèmica com dels entorns virtuals d’aprenentatge. Així, les aplicacions d’IA poden facilitar la detecció precoç i que l’Administració o els centres preguin les millors decisions. Un altre ús d’aquests sistemes d’IA és a partir de les dades que el sistema educatiu té dels docents, de les formacions, de les acreditacions, etc. D’aquesta manera es poden dissenyar plans de formació de centre més acurats o itineraris de desenvolupament professional més personalitzats. Aquests sistemes necessiten moltes dades, per això és important que l’Administració i els centres educatius disposin de bons sistemes d’informació i d’una bona gestió de la qualitat de les dades. Convertir aquestes dades en informació i aquesta en coneixement per a la presa de decisions pot repercutir en una millora tant de l’alumnat com del professorat i els centres, i facilitar la planificació d’estratègies de millora als centres o l’establiment de polítiques educatives. — 17 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 5. Límits i desafiaments de la IA La tecnologia digital i, concretament, la IA pot oferir oportunitats com les que s’han anat desgranant en aquest document. Tot i això, cal ser conscients dels reptes que planteja. Conèixer els seus límits i com funciona permetrà fer-ne un ús més conscient i responsable. Bàsicament, hi ha set grans desafiaments que cal tenir en compte: Privacitat: la interacció amb la IA genera una gran quantitat de dades que poden ser usades per perfilar persones. És una tècnica habitual per personalitzar anuncis, que pot tenir implicacions més grans si s’utilitza, per exemple, per donar crèdits o no donar-ne. Per tant, és molt important no proveir mai dades personals reals als sistemes d’IA, com per exemple el nom complet, el lloc de residència, les dades de salut, etc., que eventualment es podrien afegir a una base de dades d’una organització externa a l’entorn educatiu. Relacionat amb aquests aspectes, hi ha el problema de la traçabilitat i l’explicabilitat. Algunes IA utilitzen xarxes neuronals que es basen a obtenir resultats, i no sempre és senzill poder explicar com hi han arribat, ja que actuen com a “caixa negra”. Vigilància: aquest risc va molt lligat a l’anterior. El recull de dades constant pot fer que l’alumnat pugui estar monitorat constantment. Aquesta vigilància té implicacions en l’actuació de les persones. En cas de sentir-se vigilat, cal canviar la manera d’actuar, inhibint algunes actuacions o adaptant-se al que s’espera que es faci. Falta d’autonomia: traspassar decisions a les IA pot provocar una falta d’autonomia de les persones en determinades ocasions. Rebre sempre indicacions o recomanacions pot provocar un aïllament i una influència clara en els interessos de les persones. Biaixos: les IA aprenen de dades generades pels humans que, sovint, tenen biaixos. Hi ha molts exemples en IA generativa que demostren aquests biaixos, com demanar una imatge d’una persona intel·lectual a una aplicació de generació d’imatges i que el retorn sigui sempre d’homes blancs. En el cas de la personalització de l’aprenentatge de l’alumnat, aquest risc és encara més delicat, ja que aquests biaixos podrien generar discriminació. Confiança excessiva: la IA és capaç de generar informació (imatges, sons, textos o altres dades) que no existeix en realitat i que, a primera vista, pot semblar verídica. A més, la IA generativa crea resultats no esperats, que no es corresponen amb el que s’esperava, i que s’anomenen al·lucinacions. Dit d’una altra manera, la IA s’inventa informació. Per això, cal fomentar el pensament crític en l’alumnat perquè tingui les eines necessàries per poder verificar la fiabilitat del resultat obtingut. Bretxa digital: la majoria d’aplicacions d’IA han seguit un mateix model de negoci; inicialment són gratuïtes, però al cap de poc temps es fan de pagament (sigui completament o, almenys, per a les funcionalitats més potents). Aquest fet pot causar desigualtats entre alumnes i entre centres. — 18 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ Protecció de dades: hi ha manca d’informació en algunes eines d’IA sobre el tractament de les dades personals dels usuaris i dels tercers, que poden incloure informació sensible o relativa a col·lectius vulnerables com els menors d’edat. Això pot implicar la pèrdua de control sobre les pròpies dades: qui les té, què en farà, a qui les comunicarà i la impossibilitat pràctica de saber davant de qui exercir els drets de protecció de dades (accés, rectificació, oposició, supressió i limitació del tractament). És totalment necessari tenir ben clars aquests desafiaments per tal d’orientar l’ús de la tecnologia d’IA. Els docents han de fer conscient l’alumnat dels riscos perquè aquest pugui interpretar millor els resultats obtinguts de l’ús de la IA. En aquest sentit, cal destacar la labor que està duent a terme l’Observatori d’Ètica en Intel·ligència Artificial (OEIAC), emmarcat dins l’Estratègia en Intel·ligència Artificial de Catalunya. Aquest Observatori té la voluntat de coordinar, estructurar i avançar en les consideracions ètiques al voltant de la IA tant en el context global com en el més proper. — 19 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 6. Marc normatiu La Unió Europea està tramitant una proposta de reglament d’IA, que s’aprovarà aviat, amb l’objectiu de garantir que els bots siguin transparents, és a dir, informar sobre el fet que el contingut és generat per un sistema d’IA i no per humans, no produeixin continguts il·legals segons la legislació de la Unió Europea, compleixin les normes sobre els drets d’autoria i respectin els drets fonamentals. D’altra banda, el Comitè Europeu de Protecció de Dades està debatent l’impacte que la IA, i en concret el ChatGPT, té sobre el dret fonamental a la protecció de dades. Així mateix, l’Autoritat Catalana de Protecció de Dades (APDCAT) ha publicat una recomanació (Recomanació 1/2023) per informar les entitats i els organismes sobre els riscos d’utilitzar l’eina d’IA ChatGPT, en què adverteix que no sembla oportú incorporar el ChatGPT en l’exercici i la prestació de funcions públiques quan es tractin dades personals fins que el Comitè Europeu de Protecció s’hi pronunciï. — 20 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 7. Aspectes clau que el professorat ha de tenir en compte en relació amb l’ús de la intel·ligència artificial Com a conclusió, a continuació es presenten els tres punts clau que cal tenir en compte sobre l’ús de la IA en educació. Punt 1. Incorporació crítica de la IA Al llarg del document s’han anat desgranant les oportunitats, els riscos i els reptes que suposa la integració de la intel·ligència artificial a l’educació. L’ús que se’n faci és determinant i condicionant, especialment en els aspectes més crítics, per això cal ser curosos amb els aspectes següents: Privacitat i vigilància: moltes aplicacions d’IA demanen dades personals o registres per poder ser utilitzades. Cal tenir en compte quines dades s’introdueixen a aquestes aplicacions, ja que les dades permeten rastrejar usos i interessos de les persones, amb conseqüències no desitjades, com l’enviament de publicitat personalitzada. Biaixos i manipulació: la generació de textos o imatges amb aplicacions d’IA han de ser revisats amb la finalitat de detectar biaixos i inconsistències informatives. Els documents que genera la IA poden contenir imatges i visions distorsionades o excessivament estereotipades, que poden ser discriminatòries o influir en les percepcions de la persona receptora. Menys autonomia i massa confiança: l’aproximació crítica que es defensa en aquest document fomenta la comprovació dels continguts generats amb IA. No tot el que es genera amb intel·ligència artificial és cert, real o vàlid; per això la IA no ha de prendre decisions de forma autònoma. Això restaria poder de decisió a les persones, i la IA no pot substituir-les. Punt 2. Educació en els bons usos de la IA S’ha comentat a bastament la ràpida evolució i l’augment exponencial de la presència de la intel·ligència artificial a la societat i també a l’educació. L’alumnat l’està incorporant, de forma sistemàtica, en el procés d’aprenentatge i en les produccions escolars. Els docents han de vetllar perquè l’alumnat faci un bon ús de la IA i prengui consciència tant dels aspectes més crítics com dels més beneficiosos. Les aplicacions d’IA generativa permeten resoldre, amb més o menys èxits, moltes tasques educatives que es proposen a l’alumnat; per això, cal que els docents repensin les activitats d’aprenentatge i l’avaluació, per evitar proposar tasques que fàcilment es poden resoldre amb aplicacions d’IA. — 21 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ Punt 3. Aprofitament de les oportunitats de la IA La intel·ligència artificial evoluciona ràpidament i es va perfeccionant per oferir solucions de qualitat, fet que posa a l’abast grans oportunitats de millora per als diversos sectors, nivells i agents educatius. Els cercadors, els correctors, els revisors de textos, els programes d’aprenentatge assistit, les aplicacions de realitat virtual, entre d’altres, forneixen un suport a l’aprenentatge de l’alumnat molt valuós. La IA facilita que els docents puguin avançar en la personalització de l’aprenentatge i millorar la retroacció cap a l’alumnat, entre d’altres. Pel que fa als centres, la IA permet recollir millor les dades i detectar perfils de risc, cosa que permet una millor planificació d’accions d’educatives segons les necessitats del centre. El sistema educatiu es pot beneficiar de la IA com a suport per establir polítiques educatives a partir de la generació de coneixement del treball amb dades; en aspectes com la previsió d’intervencions, la detecció de perfils de professorat i de centres, i la millora dels processos administratius. — 22 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 8. Recurs web El Departament d’Educació ha creat el web IA en educació. Intel·ligència artificial a les aules per oferir un espai de recursos i reflexió sobre l’ús de la intel·ligència artificial en educació. Aquest web s’anirà actualitzant amb recursos, propostes, experiències i situacions d’aprenentatge, que podran ser útils per abordar la IA als centres educatius. Atès que l’ús de la IA als centres és força incipient, s’anima els i les docents a compartir-hi les seves experiències. — 23 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 9. Elaboració del document Aquest document ha estat elaborat i coordinat per un equip de redacció que pertany al Grup de Treball sobre Intel·ligència Artificial en Educació del Departament d’Educació. Aquest Grup està format per professionals i docents de diferents unitats del Departament d’Educació (Àrea de Cultura Digital, agents del territori, Servei de Recerca Educativa, InnovaFP, Activa FP i IOC). A més, compta amb l’assessorament d’experts de la IA de l’àmbit universitari. Per a l’elaboració concreta d’aquesta guia, també s’ha comptat amb la participació d’un panell d’experts dels àmbits següents: protecció de dades, ciberseguretat, Inspecció d’Educació, direcció de centres públics, professorat i universitats. El Grup d’intel·ligència Artificial sobre Educació del Departament d’Educació està format per Jordi Serarols (subdirector general de Recerca i Cultura Digital), Roser Cussó (cap de l’Àrea de Cultura Digital), Maria Borja (tècnica docent), Salvador Campos (tècnic docent al programa d’innovació FuturaFP), Jaume Feliu (tècnic docent i coordinador del grup sobre IA del Departament), Miguel Ángel Lozano (director de Tecnologies Educatives i Dades a l’Institut Obert de Catalunya), Maria Masjoan (tècnica docent), Xavier Meler (tècnic docent), Jordi Moner (tècnic docent) i Manel Soengas (gestor TIC dels Serveis Territorials al Maresme-Vallès Oriental). El panell d’experts ha estat format per Ermengol Alemany (director de centre de primària), Sara Cabello (directora de centre de secundària), Mar Camacho (investigadora de la URV), Hugo Cardillo (director de centre de primària), Glòria Claret (docent de secundària), Manuel Herrer (responsable de Seguretat de la Informació del Departament d’Educació), Vanesa Mases (inspectora d’Educació), Juan Manuel Murcia (docent de primària), Rosa Padilla (delegada de protecció de dades del Departament d’Educació), Patrícia Pérez (docent de secundària), Miquel Àngel Prats (professor i investigador a la FPCEE Blanquerna de la Universitat Ramon Llull), Carles Sierra (director de l’Institut de Recerca en Intel·ligència Artificial del CSIC) i Oliver Torra (docent de secundària). — 24 — LA INTEL·LIGÈNCIA ARTIFICIAL EN L’EDUCACIÓ 10. Bibliografia recomanada Comissió Europea. Directrices éticas sobre el uso de la inteligencia artificial (IA) y los datos en la educación y formación para los educadores. Luxemburg: Oficina de Publicacions de la Unió Europea, 2022. 40 p. Castellà. ISBN 978-92-76-57550-4. Gardó Huerta, Héctor (dir.); Martínez Romero, Héctor (coord.) [et al.]. Els algorismes a examen. Per què l’IA a educació?. Barcelona: Fundació Bofill, 2022. 72 p. Català. ISBN: 978-84-124829-8-0. Giannini, Stefania. Generative AI and the future of education. París: UNESCO, 2023. 8 p. Anglès. Document code: ED/ADG/2023/02. Miao, Fengchun. K-12 AI curricula: a mapping of government-endorsed AI curricula. París: UNESCO, 2022. 60 p. Anglès. Document code: ED-2022/FLI-ICT/K-12. Miao, Fengchun [et al.]. AI and education: guidance for policy-makers. París: UNESCO, 2021. 45 p. Anglès i castellà. ISBN: 978-92-3-100447-6. Sabzalieva, Emma; Valentini, Arianna. ChatGPT e inteligencia artificial en la educación superior: Guía de inicio rápido. París: UNESCO, 2023. 14 p. Castellà. Document code: ED/HE/IESALC/ IP/2023/12. Unesco (2021). Recommendation on the Ethics of Artificial Intelligence. París: Sector de ciències socials i humanes. 43 p. Anglès. Document code: SHS/BIO/PI/2021/1. Unesco (2019). Beijing Consensus on Artificial Intelligence and Education. París: document de reunió. 70 p. Anglès i castellà. Universitat Oberta de Catalunya. 10 Metodologies i activitats per avaluar i aprendre amb la IA generativa. 2023. Català. Infografia. — 25 —