Gids Emmauscollege en AI PDF

Emmauscollege en AI “ De wil naar waarheid” Inleiding Dit schrijven is gemaakt om vanuit beschouwend te kijken naar de impact van AI (op het onderwijs). Naast grote voordelen neemt het namelijk ook risico’s met zich mee. Vanuit een informatief kader zal het schrijven komen tot een toekomstperspecti...

Emmauscollege en AI “ De wil naar waarheid” Inleiding Dit schrijven is gemaakt om vanuit beschouwend te kijken naar de impact van AI (op het onderwijs). Naast grote voordelen neemt het namelijk ook risico’s met zich mee. Vanuit een informatief kader zal het schrijven komen tot een toekomstperspectief gevolgd door een advies en een nog verder te ontwikkelen stappenplan. Dit schrijven kan een beginstap zijn om te komen tot een AI beleidsplan. Mens AI Wat is AI? Systemen die intelligent gedrag vertonen door hun omgeving te analyseren en – met enige graad van autonomie – actie kunnen ondernemen om specifieke doelen te bereiken. (bron: WRR) De lagen van AI AI kent verschillende vormen en is sinds het begin rond 1950 in een enorme stroomversnelling geraakt. Vanuit algoritmes heeft er een verschuiving plaatsgevonden naar een systematiek die zoveel als mogelijk het menselijke brein wil nabootsen zelfkeuzes kan maken en iets nieuws kan creëren Sinds de komst van deep learning is deze ontwikkeling versneld en een vaster, zichtbaarder onderdeel van onze maatschappij geworden. Deep learning zorgt ervoor dat de uitkomst / keuzes lijken op die van een mens. Er wordt momenteel veel onderzoek gedaan op het gebied deep learning. Naast dat er veel bekend is wat er met deep learning mogelijk is en hoe dit ons kan helpen zijn er ook nog dingen onbekend. Dit onbekende onderdeel staat bekend als “black box” en zit tussen input en output in. Makkelijk gezegd weten we wat “ de vraag “ is en zien we “de uitkomst “ maar is het onbekend hoe het tot deze uitkomst komt. mens AI Generative AI / Large language models (LLM) Inleiding In dit stuk beperk ik mij tot Gen. AI, momenteel is de impact hiervan groot en leidt Gen. AI tot de meeste vragen. De positie van Gen. AI. In het grote gebied van AI valt generative AI onder deep learning. Deep learning leert, door de inzet van een netwerk aan data die de structuren heeft die lijken op een menselijk brein. Door enorme hoeveelheden data te verwerken lukt het om patronen te herkennen, voorspellingen te doen en kan het nieuwe data genereren. Generative AI focust zich op dat laatste en kan nieuwe data genereren in de vorm van tekst, illustraties, audio en video. Een LLM focust zich alleen op tekstgegevens en voert taal gerelateerde taken uit. Een LLM is dus altijd een Gen. AI maar een Gen. AI is niet altijd een LLM. De bekendere LLM’s zijn ChatGPT, Gemini en Claude. Nu we weten welke plek Gen. AI inneemt en het beter om het te identificeren is het goed om naar de wereld om ons heen te kijken en te zien hoeveel Gen. AI al onderdeel uitmaakt van ons bestaan. Gen. AI zit onder andere in onze auto, telefoon en is vast onderdeel geworden van het world wide web. Per dag verschijnen er honderden tools en bedrijven met als basis deze vorm van AI. De positie van Gen. AI in de maatschappij De invloed van AI groeit en brengt vragen met zich mee die o.a. gaan over privacy en veiligheid, normen en waarden vanwege de onbegrensde mogelijkheden. AI wordt steeds belangrijker maar we moeten ook goed nadenken hoe we dit op een goede manier gebruiken. We maken graag gebruik van de voordelen maar willen ook de nadelen minimaliseren. Onderzoek laat zien dat AI kan helpen maar er zijn ook zorgen over de mogelijke gevolgen, zoals het afnemende vermogen / motivatie om kritisch na te denken en het kunnen onderscheiden van waarheid en fictie. mens AI AI act Er is een groeiende behoefte aan duidelijke richtlijnen en begrenzingen. Sinds 01-08-2024 is de AI act van kracht binnen Europa. Het wordt gezien als de meest ingewikkelde tech -wetgeving ooit en zal vanaf 01-06-2026 volledig van kracht zijn. Deze AI act is ontworpen om de veiligheid en betrouwbaarheid van AI-systemen te waarborgen en de grondrechten van EU- burgers te waarborgen (podcast “ de AI-act en onderwijs). De AI-act kent vier risiconiveaus; van onaanvaardbare risico’s zoals realtime biometrische identificatie, tot minimaal risico waarbij vrijwillige gedragscodes worden gehanteerd. Het onderwijs valt in categorie 2 (hoog risico). AI literacy Op verschillende plekken ( overheden, universiteiten etc.) wordt, in verlenging van de AI act, gesproken over “AI literacy “. AI literacy gaat over het herkennen, begrijpen, toepassen en evalueren van AI waarin ethiek een vaste plek heeft (NG, et al, 2021). Momenteel zijn er verschillende ontwerpers bezig met het definiëren van deze AI literacy. Praktisch gezien houdt het in dat er sprake is van (verplichte) kennisniveau’s die horen bij een bepaalde verantwoordelijkheid. Deze kennis en kunde moeten in verhouding staan met het risiconiveau. Mens AI Verantwoording: AI is in deze alinea gebruikt voor het opbouwen van de alinea op basis van een kladversie. De alinea is 1op1 overgenomen. Toekomst De snelheid van ontwikkeling zorgt voor een veelvoud aan toekomstscenario's. Deze kunnen snel veranderen. Sommige scenario's schetsen een wereld waarin AI-systemen tegen elkaar strijden. Andere scenario's benadrukken de keuzes die AI kan maken. Een doemscenario is bijvoorbeeld dat AI concludeert dat de mensheid de grootste bedreiging vormt.Tegelijkertijd biedt AI ook veelbelovende mogelijkheden. Zo kunnen nieuwe oplossingen ontstaan voor bestaande problemen. AI kan individuen ondersteunen in hun dagelijks leven. Daarnaast kunnen nieuwe creatieve vormen ontstaan. Als ik persoonlijk naar de toekomst kijk, zie ik een wereld waarin persoonlijke scholing steeds belangrijker wordt. De kloof tussen generaties zal groeien. De grenzen tussen waarheid en fictie zullen vervagen. Dit kan leiden tot verwarring en polarisatie. Ondanks deze uitdagingen zie ik ook veel kansen. Zo kan AI het onderwijs revolutioneren. Beroepen zullen veranderen. Nieuwe beroepen zullen ontstaan, zoals prompt engineers en waarheidsbevinders. De toename van AI-gegenereerde content zal ons dagelijks leven steeds meer beïnvloeden. Het onderwijs zal zich daarom meer moeten richten op het ontwikkelen van kritisch denken. Misschien wordt 'waarheidsbevinding' wel een apart vak op school. Origineel: Er zijn verschillende toekomstscenario's, vanwege de snelheid van ontwikkeling kunnen deze scenario's ook weer snel veranderen. Een aantal scenario's gaan over de onderlinge strijd tussen AI systemen tot hoog / onaanvaardbaar niveau. Er zijn ook scenario’s die gaan over de keuzes die AI kan maken in de toekomst die kunnen leiden tot ontwrichting of schade voor de mensheid (wat als AI ontdekt dat de mensheid het meest schadelijke is op deze wereld?) Als voordelen zien ze vooral het ontstaan van nieuwe oplossingen voor bestaande onopgeloste problemen. Op kleiner niveau gaat het om persoonsgebonden ondersteuning en werkverlichting, dit naast het ontstaan van nieuwe creatieve vormen. Als ik zelf naar de toekomst kijk zie ik dat er veel meer persoonlijke scholing zal ontstaan waarbij gebouwen onderwerp van gesprek kunnen zijn. Er zal een gat zijn tussen de wereld waarin wij zijn opgegroeid en de wereld waar kinderen nu opgroeien. Het gaat lastiger zijn om elkaars wereld te begrijpen doordat waarheid en fictie een andere definitie gaan krijgen. Er gaat een fase van onduidelijkheid en onzekerheid zijn die polariserend kan werken (nu in een beginfase). Ik zie grote voordelen t.a.v. onderwijs: we zullen de leerling beter kunnen onderwijzen en ondersteunen op de manier die bij de leerling het beste past. Banen die sterk worden bepaald door e-mAIl zullen veranderen en wellicht verdwijnen. Er ontstaan nieuwe banen die in beginsel voortkomen uit “ prompt engineering” en bedrijven of instanties die zich bezighouden met “waarheidsbevindingen”. “hallucinaties” (door AI gecreëerde werelden) worden een groter onderdeel van ons bestaan. Onderwijs zal meer gericht zijn op het gebied “ de wil om de waarheid te ontdekken” en hoe dit aan te leren. (een vak waarheidsbevinding op school?) dit vanwege een opkomende waarheidsapathie. mens AI Hoe dichtbij is deze toekomst? Op de TU - Delft zijn ze dit jaar gestart met het vak” AI - Ethics and society”. Bedrijven starten met de functie AI-coördinator en informeren de klant over de positie van AI. Eigenaren van verschillende LLMs begrenzen de eigen mogelijkheden en laten ze geen uitspraken doen over O.a. politiek, illegale activiteiten en het onthouden van persoonsgegevens. Verder zijn er steeds meer resultaten beschikbaar die aantonen dat AI afbreuk kan doen aan het kritisch denken en diepgaand begrip over de materie. De “wil naar waarheid” lijkt nu al af te brokkelen. Momenteel wordt het al lastiger om waarheid en fictie te onderscheiden (illustraties / spraak / video's). Mens AI Verantwoording: AI is in deze alinea gebruikt voor herstructurering van de tekst en spelfouten. Invulling Emmauscollege Voor de school zal het de komende tijd belangrijk zijn om een goede analyse te maken en in gesprek te gaan over AI. Het technische aspect van AI is in het gesprek niet voldoende, andere elementen zoals ethiek en impact moeten hierin worden meegenomen. Als we kijken naar de gekozen taal in de beschikbare beleidsplannen van de ho’s valt op dat AI geadresseerd wordt als identiteit. Het kan verstandig zijn als ook wij vanuit dit kijkvenster het gesprek met anderen opstarten. Voor ons als schoolleiding is het belangrijk om te bepalen welke plek AI mag krijgen in ons onderwijs en hoe dit aansluit bij onze normen en waarden. Het advies, van onder andere kennisnet, is dat dit gesprek op alle niveaus moet plaatsvinden om te komen tot afspraken en nadat de positie van AI in de school bepaald is. Verder is het belangrijk om op de hoogte te blijven van nieuwe ontwikkelingen en wet-regelgeving (kennisnet kan hiermee helpen) en hierover te informeren. Voorlopers op dit gebied zijn momenteel de universiteiten, zij hebben naast kennisvoorsprong vaak een beleidsplan. Na deze bepaling en het ophalen van kennis (voorbeelden) kan er invulling gegeven worden aan ons eigen beleidsplan. Vaardigheden Het belang van vaardigheden is binnen de schoolleiding al eerder onderwerp van gesprek geweest. Gezien de opkomst van AI, die deze vaardigheden in sterke mate beïnvloedt, is het belangrijk om na te denken over de rol van deze vaardigheden in onze school. Uiteindelijk zullen vaardigheden de bepalende factor gaan zijn i.r.t. het leersucces. Kansen - Door het gesprek op verschillende plekken te voeren wordt de afstand tussen koplopers en de rest verkleind. - Door het aanbieden / vaststellen van een minimaal kennisniveau is het bij een ieder duidelijker wat naast de grote voordelen ook risico’s kunnen zijn. - Door het gesprek in dit stadium te voeren hebben we de kans om: - Voorloper te zijn en meer aansluiting te krijgen bij het (beleids)niveau van universiteiten. - AI beter te identificeren en meer zicht te houden op wat de school binnenkomt. - Door gerichte AI inzet kunnen we leerlingen gerichter onderwijzen. - AI kan leraren ondersteunen en administratieve taken automatiseren. - Er zijn voorbeelden van Universiteiten die helpend kunnen zijn m.b.t. het opstellen van een beleidsplan. - AI stimuleert creatie, “alles is mogelijk zolang je het maar kan bedenken” - De overlap van de thema’s AI en vaardigheden kan elkaar ondersteunen Risico’s - Ontwikkelingen rond AI gaan snel, dit vraagt veel aandacht. - De invloed van AI gaat verder dan techniek wat het complexer kan maken voor de school, de docent en de leerling. - AI kan waarheidapathie veroorzaken - AI engineering (prompt) vraagt veel traill/error - Waarheid en fictie zijn lastiger te onderscheiden - Verschil tussen de “beginner” en de “expert” wordt steeds groter (https://thomasmore.be/nl/expertisecentrum-onderwijs-en-leren/blog/wijze-lessen-met-artificiele-intelligentie-deel-3) Vervolgstap ( bespreken) - Bepalen op welke manier we het onderwerp bespreken in de school - Bepalen tot welk welk niveau we collega’s scholen (AI literacy) - Quickscan aanwezigheid AI in onze school - Komen tot een gedragen bepaling, uitvoering en bewaking van AI - Op de hoogte blijven van (europese ) wetgeving - - - Bijlage Voorbeelden beleid ho https://ipon.nl/zo-ontwikkel-je-AI-beleid-op-school/ https://www.kennisnet.nl/artificial-intelligence/ai-in-de-school-deze-stappen-zet-je-eerst/ https://www.rug.nl/about-ug/organization/quality-assurance/education/artificial-intelligence-ai/ https://www.eur.nl/over-de-eur/visie/community-learning-innovation/ai-tools-het-onderwijs https://www.datacamp.com/blog/what-is-ai-literacy-a-comprehensive-guide-for-beginners Onderzoek 1. Turnitin (2023) Uitkomst: 20% van de studenten gebruikte AI voor opdrachten zonder dit te melden, wat academische integriteit ondermijnt. 2. Bommarito & Katz, Universiteit van Minnesota (2023) Uitkomst: Overmatig AI-gebruik voor opdrachten kan de ontwikkeling van kritische denkvaardigheden bij studenten belemmeren. 3. Susnjak, Massey University (2022), gepubliceerd in "Computers and Education" Uitkomst: AI-tools verminderen significant de originaliteit van studentenwerk. 4. Reich et al., Stanford University (2023) Uitkomst: Studenten die zwaar op AI leunen, ontwikkelen minder diepgaand begrip van het studiemateriaal. 5. Zuidema & Hupkes, Universiteit van Amsterdam (2022) Uitkomst: Ongelijke toegang tot AI-tools vergroot de ongelijkheid tussen studenten in het onderwijs. AI - ACT (Europese commissie) Alle AI-systemen die als een duidelijke bedreiging voor de veiligheid, het levensonderhoud en de rechten van mensen worden beschouwd, zijn verboden, van sociale scoring door overheden tot speelgoed met behulp van spraakassistentie die gevaarlijk gedrag aanmoedigt. Hoog risico AI-systemen die als risicovol zijn aangemerkt, omvatten AI-technologie die wordt gebruikt in: kritieke infrastructuur (bv. vervoer) die het leven en de gezondheid van burgers in gevaar kan brengen onderwijs of beroepsopleiding, die de toegang tot onderwijs en beroepsopleiding van iemands leven kan bepalen (bv. scoren van examens) veiligheidscomponenten van producten (bv. AI-toepassing bij robotondersteunde chirurgie) werkgelegenheid, beheer van werknemers en toegang tot zelfstandige arbeid (bv. software voor het sorteren van cv's voor aanwervingsprocedures) essentiële particuliere en openbare diensten (bv. kredietscores die burgers de mogelijkheid ontzeggen een lening te verkrijgen) wetshandhaving die de grondrechten van mensen kan aantasten (bv. evaluatie van de betrouwbaarheid van bewijsmateriaal) migratie-, asiel- en grenscontrolebeheer (bv. geautomatiseerde behandeling van visumaanvragen) rechtsbedeling en democratische processen (bv. AI-oplossingen om te zoeken naar rechterlijke uitspraken) AI-systemen met een hoog risico zijn onderworpen aan strenge verplichtingen voordat zij in de handel kunnen worden gebracht: adequate risicobeoordelings- en mitigatiesystemen hoge kwaliteit van de datasets die het systeem voeden om risico's en discriminerende resultaten tot een minimum te beperken logboekregistratie van activiteiten om de traceerbaarheid van de resultaten te waarborgen gedetailleerde documentatie met alle informatie die de autoriteiten nodig hebben over het systeem en het doel ervan om de naleving ervan te beoordelen duidelijke en adequate informatie voor de exploitant passende maatregelen voor menselijk toezicht om het risico tot een minimum te beperken hoge mate van robuustheid, veiligheid en nauwkeurigheid Alle systemen voor biometrische identificatie op afstand worden beschouwd als systemen met een hoog risico en zijn onderworpen aan strenge eisen. Het gebruik van biometrische identificatie op afstand in openbaar toegankelijke ruimten voor rechtshandhavingsdoeleinden is in beginsel verboden. Beperkte uitzonderingen zijn strikt gedefinieerd en gereguleerd, zoals wanneer dat nodig is om een vermist kind te zoeken, om een specifieke en onmiddellijke terroristische dreiging te voorkomen of om een dader of verdachte van een ernstig strafbaar feit op te sporen, te lokaliseren, te identificeren of te vervolgen. Dit gebruik is onderworpen aan toestemming van een gerechtelijke of andere onafhankelijke instantie en aan passende beperkingen in de tijd, het geografische bereik en de doorzochte databanken. (bron: AI-act)