Límits de la IA_Accessible títol.pdf

Què hem de tenir present en l’ús de la IA en educació? Icona 1: logo seguretat Protecció de dades: Manca d’informació en algunes eines d’IA sobre el tractament de les dades personals. Això pot implicar la pèrdua de control sobre les pròpies dades. Icona 2: logo privacitat Privacitat: Els sistemes...

Què hem de tenir present en l’ús de la IA en educació? Icona 1: logo seguretat Protecció de dades: Manca d’informació en algunes eines d’IA sobre el tractament de les dades personals. Això pot implicar la pèrdua de control sobre les pròpies dades. Icona 2: logo privacitat Privacitat: Els sistemes d’IA, eventualment, podrien utilitzar dades personals que se li proveeixin, com per exemple noms complets, lloc de residència, dades de salut, etc., per perfilar persones. Per tant, cal evitar facilitar aquestes dades en la interacció amb la IA. Icona 3: logo càmera de vigilància Vigilància: La recollida de dades constant pot fer que l’alumnat pugui estar monitorat constantment. En cas de sentir-se vigilat, pot provocar canvis en la manera d’actuar, inhibint algunes actuacions o adaptant-se al que s’espera que es faci. Icona 4: falta d’autonomia Falta d’autonomia: El traspàs de decisions a les IA pot provocar falta d’autonomia de les persones en determinades ocasions. Rebre sempre indicacions o recomanacions pot provocar un aïllament i una influència clara en els interessos de les persones. Icona 5: Biaixos Biaxos: Les IA aprenen de dades generades pels humans que, sovint, tenen biaixos. En el cas de la personalització de l’aprenentatge de l’alumnat, aquest risc és encara més delicat, ja que aquests biaixos podrien generar discriminació. Icona 6: Confiança excessiva Confiança excessiva: La IA és capaç de generar informació que no existeix a la realitat. Per això cal fomentar el pensament crític en l’alumnat perquè tingui les eines necessàries per poder verificar la fiabilitat del resultat obtingut. Icona 7: Bretxa digital Bretxa digital: La majoria d’aplicacions d’IA han seguit un mateix model de negoci: inicialment són gratuïtes, però al cap de poc temps es fan de pagament. Aquest fet pot causar desigualtats entre l’alumnat i entre centres. Logo Intel·ligència artificial en educació. La intel·ligència artificial a les aules Logo Generalitat de Catalunya