I&D FIL Samenvatting PDF

Filosofie Ingenieur en duurzaamheid Inhoud 1 Is verbetering door technologie een probleem?................................................................................. 3 1.1 Preliminary remarks...........................................

Filosofie Ingenieur en duurzaamheid Inhoud 1 Is verbetering door technologie een probleem?................................................................................. 3 1.1 Preliminary remarks................................................................................................................. 3 1.1.1 Technologie en verbetering................................................................................................... 3 1.1.2 Een ethische blik op de praktijk............................................................................................ 4 1.2 algemene aannames............................................................................................................... 5 1.2.1 Het intelligent design argument............................................................................................ 5 1.2.2 Het gelijkheidsargument...................................................................................................... 6 1.2.3 Het gezondheidsargument................................................................................................... 7 1.3 specifieke argumenten............................................................................................................ 7 1.3.1 gelijkheidsargument (fysieke verbetering)............................................................................. 7 1.3.2 Welzijnsargument (genetische manipulatie)......................................................................... 8 1.3.3 Natuurargument (genetische manipulatie)............................................................................ 8 1.4 Aannames............................................................................................................................... 9 1.4.1 genezen............................................................................................................................... 9 1.4.2 preventie........................................................................................................................... 10 1.4.3 conclusie.......................................................................................................................... 10 2 Determineert technologie de samenleving?.................................................................................... 11 2.1 Inleiding................................................................................................................................ 11 2.1.1 redenen om te geloven....................................................................................................... 11 2.1.2 redenen om sceptisch te zijn.............................................................................................. 11 2.1.3 conceptuele verheldering.................................................................................................. 11 2.1.4 soorten determinisme........................................................................................................ 11 2.1.5 morele relevantie............................................................................................................... 12 2.1.6 politieke relevantie............................................................................................................ 12 2.2 Eerste vorm van technologisch determinisme: Heidegger....................................................... 12 2.3 Tweede vorm van technologisch determinisme: sociale effecten............................................. 15 2.4 Derde vorm van technologisch determinisme: creatie............................................................. 16 2.5 Vierde vorm van technologisch determinisme: Evolutie........................................................... 17 3 Is AI een existentieel risico?............................................................................................................ 21 3.1 Inleiding................................................................................................................................ 21 3.1.1 Intelligentie....................................................................................................................... 21 3.2 Ethiek van AI.......................................................................................................................... 22 3.2.1 Filosofie van AI.................................................................................................................. 22 1  3.2.2 Normatieve ethiek van AI................................................................................................... 22 3.3 Omissies.............................................................................................................................. 24 3.3.1 Datacentra en het klimaatprobleem................................................................................... 24 3.4 existentiële risico’s................................................................................................................ 24 3.4.1 Het overschaduwingsargument......................................................................................... 25 3.4.2 mogelijke existentiële risico’s............................................................................................. 25 3.4.3 Mogelijke misvattingen over AGI......................................................................................... 26 3.4.4 AGI komt er (wellicht)........................................................................................................ 26 3.4.5 Intelligentie-explosie......................................................................................................... 26 3.4.6 Het grote risico-argument.................................................................................................. 27 3.4.7 Hoe omgaan met AGI......................................................................................................... 27 3.4.8 Dynamisch model van governance..................................................................................... 27 3.4.9 Is een stop haalbaar?........................................................................................................ 27 4 Wat is energie-rechtvaardigheid?................................................................................................... 29 4.1 Waarom is energierechtvaardigheid belangrijk?...................................................................... 29 4.1.1 Hoe moet het werk worden verdeeld?................................................................................ 29 4.2 Wat is de link tussen rechtvaardigheid en energie?................................................................. 30 4.2.1 energie en rechtvaardigheid............................................................................................... 30 4.2.2 energie systemen als sociotechnische systemen................................................................ 30 4.3 Hernieuwbare energie Utopia’s.............................................................................................. 31 4.3.1 Effect van ideeën over de toekomst.................................................................................... 31 4.3.2 Hernieuwbare energie Utopia’s.......................................................................................... 31 4.3.3 Kritische reflectie over onze ideeën van de toekomst (boeken)............................................ 32 4.3.4 Kritische reflectie op overvloed.......................................................................................... 32 4.3.5 kritische reflectie op genoeg.............................................................................................. 33 4.4 Ontwerp voor rechtvaardigheid: conceptuele tools................................................................. 33 4.4.1 Energie rechtvaardigheid................................................................................................... 33 4.4.2 Ontwerp voor rechtvaardigheid.......................................................................................... 34 4.4.3 Ontwerp voor waardes....................................................................................................... 34 4.5 Normatieve onzekerheden..................................................................................................... 34 2 1 Is verbetering door technologie een probleem? VOORBEELD: Mensen drinken koffie om later op de dag beter te presteren ➔ Over het algemeen vinden anderen dit geen probleem Mensen nemen medicatie om beter te presteren ➔ Mensen zijn hier tegen Is het moreel in orde om technologie te gebruiken om je prestaties te verbeteren? AANNAME: Er is een duidelijk verschil tussen verbeteren en genezen VOORBEELD: Een pil die het IQ ven iemand kan verhogen ➔ Iemand die hiermee zijn laagbegaafdheid oplost, geneest zichzelf ➔ Iemand die hiermee zijn goed begaafdheid verhoogd, verbetert zichzelf 1.1 Preliminary remarks 1.1.1 Technologie en verbetering Technologie heeft voor al zeer veel verbeteringen gezorgd: Politieke stabiliteit Democratie Minder slavernij Pijn en ziektes worden gecontroleerd Mensen leven langer medische gebruiken van technologie genezen: ziektes elimineren en terug gezond worden (therapie) Bvb. MRI scans voor het aanpakken van tumoren Voorkomen: een bepaalde ziekte in de toekomst voorkomen (therapie) Bvb. Inenting tegen de griep Verbeteren: het beter maken van cognitieve en fysieke prestaties (niet-therapeutisch) Meer dan wat normaal of natuurlijk is Gebaseerd op (bio)technologie VOORBEELD: wat vandaag al bestaat Bètablokkers om harder, langer en sneller te werken Nanotechnologie die neuraal weefsel met elektronische circuits connecteert Anabolische steroïden om spiermassa op te bouwen en het lichaamsgewicht te verhogen CRISPR om betere kinderen te krijgen 3 OPMERKINGEN: Lessen bespreken enkel mensen maar definitie gaat ook over andere organismen Verbetering die hier besproken wordt gaat enkel over cognitieve of fysieke verbeteringen van mensen, dus niet over dingen zoals huizen, computers, etc… Het gaat niet over onnatuurlijke verbeteringen Het gaat niet over culturele mechanismen die bestaan om te verbeteren, zoals onderwijs De overgrote meerderheid wordt besproken, geen uitzonderingen Het gaat niet over fysiek aantrekkelijker worden, een versterking van deze eigenschappen is moeilijk en niet van toepassing 1.1.2 Een ethische blik op de praktijk Evaluatieve posities Technologie gebruiken om onszelf te verbeteren is: Ontoelaatbaar: “technologie mag niet gebruikt worden” o Moreel fout en overtreed normen o Het is een optie Toelaatbaar: “het is oké om technologie te gebruiken” o Moreel neutraal o Het is een optie Niet verplicht: “het is goed om technologie te gebruiken, maar het is niet verplicht” (supererogatory) o Het is moreel goed o Het is meer dan een optie, maar niet verplicht Verplicht: “men moet technologie gebruiken, het is verplicht” o Er is geen keuze o Het is verplicht VOORBEELD: superrogatie Een klasgenoot is ziek en vraagt nota’s ➔ als ik nota’s geef is dat goed ➔ als ik geen nota’s geef kan dit niet afgestraft worden Soorten argumenten Deontologische argumenten: argument dat in alle gevallen geldig is (Kant) Een handeling moet in lijn zijn met een in zichzelf geldende regel (waarde, norm, wet,…) ➔ gevolgen doen er niet toe, een handeling is onjuist als deze niet aan de regel voldoet VOORBEELD: deontologie Stelling: Folteren is onjuist en een moreel probleem Deontologisch argument: Iemand pijn aandoen zonder een reden is altijd onwenselijk Stelling: slavernij is onwenselijk Deontologisch argument: Mensen gebruiken voor eigen doeleinden is fout Consequentialistische argumenten: een argument wordt gesteld o.b.v. de gevolgen/effecten van bepaalde handelingen (Bentham) 4 OPMERKING Een voorzien effect is niet per se een onbedoeld effect VOORBEELD: voorzien vs. onbedoelde effecten Voorzien maar onbedoeld effect: Ik rijdt met de auto. Dit zorgt voor uitlaatgassen. Ik wil geen uitlaatgassen uitstoten Voorzien maar bedoeld effect: Ik ga naar de sportschool en voel me goed. Deugdethische argumenten: een argument wordt als goed omschreven o.b.v. de morele deugd die het uitdrukt (Aristoteles) stellingaannames conservatief: het is deantologisch ontoelaatbaar consequentialistisch ontoelaatbaar liberaal: het is toelaatbaar het is toelaatbaar, ook al zijn er neveneffecten het is verplicht 1.2 algemene aannames 1.2.1 Het intelligent design argument CLAIM: verbeteringen door technologie zijn ontoelaatbaar De wereld is een hiërarchisch onderbouwd geheel De wereld heeft een bepaalde structuur, hierin heeft alles zijn eigen plaats Deze plaatsen zijn duidelijk aangegeven o.b.v. posities ➔ descriptieve claim (over hoe de wereld is) Essentialisme: elke plaats heeft zijn eigen essentie CONTRA: Beweert dat alle mensen hun eigen essentie hebben, die uniek is aan enkel mensen en alle mensen Dit is zeer onwaarschijnlijk AANNAME: Verbeteringen zorgen voor revolutie MAAR niet elke verbetering zal leiden tot een omkering van de hiërarchie Deze hiërarchie aanpassen is moreel fout De structuur van de wereld is een product van Gods werk Gods werk aantasten is onwenselijk en respectloos ➔ Normatieve claim 5 CONTRA: Deze claim neemt aan dat de wereld een product is van Gods werk Dit is wetenschappelijk onmogelijk (Darwinisme) ➔ Verbeteringen kunnen niet respectloos gevonden worden AANNAME: God is conservatief en wil dus niet dat we de hiërarchie gaan aanpassen MAAR misschien is verbetering juist Gods wil en dus respectvol 1.2.2 Het gelijkheidsargument CLAIM: verbetering is ontoelaatbaar Verbetering zorgt voor of vergroot ongelijkheid Empirische en niet-morele claim = beschrijft de wereld en is verifieerbaar CONTRA: Er is nog te weinig empirische data om deze claim te bewijzen CONTRA: Bepaalde verbeteringen kunnen ongelijkheid verminderen VOORBEELD: ongelijkheid afnemen m.b.v. medicijnen Te weinig slapen zorgt ervoor dat een student minder kan presteren op school. Dit zorgt voor een kloof tussen de andere studenten De student kan een slaappil nemen om beter te slapen en dus beter te presteren. ➔ Kloof tussen andere studenten die wel goed slapen wordt gedicht CONTRA: Verbeteringen die eerst te duur zijn zullen later goedkoper worden als ze langer op de markt zijn MAAR deze daling is niet gegarandeerd Ongelijkheid heeft maatschappelijk onwenselijke gevolgen Lijkt op het eerste gezicht juist CONTRA: Kan wel wenselijk zijn VOORBEELD: Een arts krijgt meer betaald dan andere jobs Dit is goed want een arts heeft 7 jaar de tijd nodig om een grote expertise te vergaren over zijn vak, deze inzet moet gecompenseerd worden. CONTRA: Een ongelijkheid kan overtroffen worden door bepaalde verbeteringen ➔ Consequentialistische aanname VOORBEELD: 6 Onderzoekers die kanker onderzoeken en lange dagen draaien nemen medicijnen om beter te kunnen presteren onder deze druk De consequentie van het bestrijden van kanker overtreft het onwenselijke ongelijkheid effect 1.2.3 Het gezondheidsargument CLAIM: enhancement is ontoelaatbaar Het heeft een onwenselijk gezondheidseffect Empirische claim CONTRA: Het is waarschijnlijk niet waar voor alle verbeterende medicijnen VOORBEELD: doping Niet alle doping heeft negatieve neveneffecten AANNAME: Een onwenselijk effect is doorslaggevend MAAR het is niet voldoende om te zeggen dat X verboden moet worden omdat het onwenselijke gezondheidseffecten heeft VOORBEELD: voetbal heeft onwenselijke effecten op het geheugen van mensen Toch zijn die effecten niet voldoende voorwaarden voor verbod op die sporten  Inconsistentie VOORBEELD: avontuurlijke sporten Bergbeklimmers lopen een groot risico op fysieke schade of zelfs dood Toch onvoldoende  Autonomie en vrijheid 1.3 specifieke argumenten 1.3.1 gelijkheidsargument (fysieke verbetering) CLAIM: enhancement op fysiek vlak is ontoelaatbaar Verbetering creëert ongelijkheid CONTRA: kosten Trainingen kunnen zeer duur zijn MAAR sommige drugs zijn goedkoper ➔ Deze drugs kunnen ongelijkheid juist oplossen (Permissie voor het ongelijkheidsargument is ook een permissie tegen het gelijkheidsargument) AANNAME: De gelijkheid wordt beschouwd als voldoende reden voor het stopzetten van deze technologie ➔ X is enkel toelaatbaar als het fair is MAAR er zijn uitzonderingen VOORBEELD: Er zijn bepaalde stages die enkel mogelijk zijn voor bepaalde mensen of teams ➔ creëert ongelijkheid maar is toch toegelaten In sport wordt die ongelijkheid als voldoende toelaatbaar beschouwd 7 1.3.2 Welzijnsargument (genetische manipulatie) CLAIM: genetische manipulatie moet verplicht worden CONTRA: Verbeteringen verplichten zorgt ervoor dat er excellentie wordt nagestreefd ➔ Het beeld dat wordt nagestreefd zal dat van de witte man zijn CONTRA: mensen die niet witte mannen zijn gaan genetisch gemanipuleerd worden om op witte mannen te lijken ➔ Minder diversiteit in de samenleving Welzijn is de hoogste waarde in de samenleving Slechte genen: verhogen de kans op ziektes Genen zijn waarschijnlijkheidsoorzaken ➔ Ze leiden niet per se naar ziekte maar kunnen wel een oorzaak zijn In dat geval zou het immoreel zijn om niet tussen te komen ➔ Consequentalistisch argument: heeft goede gevolgen voor iemands welzijn Wat met autonomie? Het is een optie om niet in te grijpen maar pas vanaf een bepaalde leeftijd (baby’s kunnen niet kiezen) Goede genen: Genetische manipulatie is nog altijd verplicht Men moet consistent zijn ➔ Welzijn kan toch nog toenemen en een persoon kan zo excellent zijn Genetische manipulatie leidt tot meer welzijn 1.3.3 Natuurargument (genetische manipulatie) CLAIM: genetische manipulatie is ontoelaatbaar CONTRA: De menselijke natuur bestaat voor een groot deel uit erfbaarheid MAAR het aanpassen van genen garandeert niet per se overerfbaarheid CONTRA: Menselijke natuur gaat meestal over een populatie ➔ Mensen gaan er onterecht vanuit dat sleutelen aan de menselijke natuur op een populatie niveau plaatsvindt MAAR genetische populatie kan individueel gebeuren De menselijke natuur veranderen is ontoelaatbaar CONTRA: Het concept menselijke natuur is zeer onduidelijk ➔ bestaat er wel een menselijke natuur? 8  ➔ Valt iedereen hieronder, alleen mensen? CONTRA: Waarom zouden we de menselijke natuur veranderen Deze is uitzonderlijk Waarom mogen wij bepaalde dingen veranderen of verbeteren? Waarom zijn die verschillen zo relevant dat het toelaatbaar is om ze aan te passen maar soms weer niet? AANNAME: De menselijke natuur is per definitie inherent goed ➔ Er moet vanaf gebleven worden Drogreden: Afleiden op wat zou moeten zijn op grond van wat het geval is = het normatieve wordt uit het descriptieve afgeleid Wat evolutionair goed was is nu niet per se ethisch goed Ongewenste eigenschappen van de natuur: Er zijn ook onwenselijke eigenschappen die deel zijn van de menselijke natuur Bvb agressie, virussen, … 1.4 Aannames CONSERVATIEF: mensen genezen is goed, maar mensen die niet ziek zijn verbeteren is niet goed 1.4.1 genezen AANNAME: er is een onderscheidt tussen genezen en verbeteren KRITIEK: het onderscheidt tussen genezen en verbeteren is een dunne lijn =/= bekritiseren dat verbetering slecht is =/= beargumenteren dat verbetering nooit problematisch is CASE: een zandberg Wanneer is een aantal zandkorrels een berg en wanneer is een berg slechts een aantal zandkorrels TOEPASSEN: soms is het zeer duidelijk dat iemand ziek is (berg) of gezond (zandkorrels) Zieke mensen gaan vaak doorheen een proces wat ervoor zorgt dat een persoon er gradueel zieker gaat worden Wanneer leidt dit proces tot ziekte? VOORBEELD: Een student heeft IQ 100 en neemt doelbewust een medicijn tegen migraine, dit migraine medicijn maakt iemand slimmer met +30 IQ Dit effect voor slimmer worden is een voorzien effect en ook bedoelt Als deze student het medicijn neemt is het volgens de conservatief een verbetering Want de persoon weet dat hij slimmer wordt ➔ onwenselijk Een andere student heeft een IQ van 60 (cognitieve beperking) Als deze student het medicijn neemt is het volgens de conservatief een medisch gebruik ➔ wenselijk 9 MAAR waar begint de normale gebruiker en waar de cognitieve beperking? Sommige zeggen IQ van 70, maar dit is conventioneel 1.4.2 preventie AANNAME: er is een duidelijk verschil tussen verbeteren en iets voorkomen KRITIEK: In sommige gevallen kan een verbetering door technologie ook zorgen voor een preventief effect VOORBEELD: Een persoon met een IQ van 100 neemt het medicijn niet Deze persoon zal angstig en depressief worden, dit heeft mentale en fysieke gevolgen het medicijn geeft een preventief effect ➔ er is geen duidelijk onderscheidt meer tussen verbeteren en voorkomen 1.4.3 conclusie in beide gevallen steunen mensen op het onderscheidt tussen therapeutische-medische gebruik en verbetering VERSCHIL: Voor 1.4.1: men weet niet meer of het het een of het ander is  onwetendheid Voor 1.4.2: kennis laat toe dat het onderscheidt niet gemaakt kan worden  kennis 10 2 Determineert technologie de samenleving? 2.1 Inleiding Determineren = iets wordt onvermijdelijk, noodzakelijk in alle gevallen ➔ Determinisme thesis (DT): we moeten technologie als iets deterministisch beschouwen VOORBEELD: technologie heeft altijd sociale effecten Boekdrukkunst: bijbel kon gemakkelijk geprint worden Telefoons: brengt onwenselijke sociale effecten met zich mee (echokamers -> polarisering van de samenleving) Karl Marx “De handmolen geeft je de samenleving met de feodale heer, de stoommachinemaatschappij met de industriële kapitalist” 2.1.1 redenen om te geloven Op elk domein van de samenleving gebruiken we technologie, dingen die door mensen gemaakt zijn met bepaalde doelen voor ogen ➔ we kunnen sociale effecten verwachten 2.1.2 redenen om sceptisch te zijn gesloten systemen: we gaan banden aan met andere entiteiten die een effect kunnen hebben op een bepaalde technologie open systemen: een technologie gaat ontwikkelen en in verband staan met bepaalde groepen of een effect hebben op het ontwikkelen van een bepaalde technologie ➔ deze groepen kunnen halt roepen of oproepen tot vertraging van een bepaalde technologie mensen zijn zeer slecht in het maken van voorspellingen 2.1.3 conceptuele verheldering determineren heeft meerdere betekenissen = categoriseren (hier niet van toepassing) = causale verbanden tussen entiteiten of events (deze interpretatie gebruiken wij) Elke deterministische relatie is een causale relatie MAAR niet elke causale relatie is een deterministische relatie Enkel als de oorzaak voldoende is om tot een bepaald gevolg te leiden CONCLUSIE: Een gevolg is noodzakelijk, de oorzaak is voldoende/garandeert ➔ Technologie in de causale deterministische zin is oftewel causaal oftewel een effect 2.1.4 soorten determinisme genetische determinisme Een bepaalde eigenschap of gedrag is 100% genetisch bepaald en daardoor onvermijdelijk Omgevingsdeterminisme Iets of iemand (je omgeving) is verantwoordelijk voor jouw toestand 11 psychologisch determinisme Opvoeding en jeugdervaringen vormen je karakter Technologisch determinisme Technologische ontwikkelingen bepalen de sociale en culturele waarden van de maatschappij 2.1.5 morele relevantie CLAIM: Volgens determinisme is iets onvermijdelijk en daardoor is er een responsibility gap = het is onmogelijk om iemand verantwoordelijk te stellen voor het voorvallen van iets negatiefs CONTRA: gedachte-experiment Lode wilt zijn vrouw vermoorden Maar hij is niet zo slecht: hij twijfelt soms of hij het wel zou doen Lode zijn broer is ingenieur en heeft een chip ontwikkelt die zijn brein zal overnemen en ervoor zorgt dat Lode sowieso zijn vrouw vermoord als hij erover twijfelt Lode heeft een paar redenen om te rechtvaardigen dat hij zijn vrouw vermoord (overspel, agressie, …) En doet dit ook zonder hulp van die chip, onder bewustzijn en onder specifieke omstandigheden ➔ Hij had sowieso zijn vrouw vermoord want de chip zou anders overgenomen hebben ➔ Lode is moreel verantwoordelijk Ons gedachtepatroon houdt mensen verantwoordelijk voor iets ook al is er onvermijdelijkheid 2.1.6 politieke relevantie open brief voor AI: mensen roepen op om voor zes maanden te stoppen met ontwikkeling en onderzoek naar AI ➔ het heeft geen zin om te pleiten voor een stop van AI, omdat er geen rem te zetten is op technologie en AI. marginaliseren: De technologieën zijn onvermijdelijk en dus heeft het geen zin om er tegenin te gaan ➔ op deze manier marginaliseren we de kleinere oppositiegroep ➔ stop met de kritiek want de technologie komt er sowieso 2.2 Eerste vorm van technologisch determinisme: Heidegger Is focussen op Heidegger gerechtvaardigd? Heidegger heeft gesympathiseerd met het nazisme MAAR ook al is zijn politieke voorkeur onwenselijk, dit heeft geen invloed op de waarheid van zijn boodschap  zijn politieke voorkeuren staan los van zijn techniek filosofische ideeën Focus op de boodschap, niet de boodschapper Heideggers boodschap Mensen hebben een prereflexieve (spontane) manier om de werkelijkheid te bekijken = mensen hebben een ontologische manier van het verstaan van de werkelijkheid (spontaan, natuurlijk) VOORBEELD: met de wagen rijden Mensen rijden met de wagen en weten wat er moet gebeuren ook al weten ze niet hoe het werkt 12 Dit ontologisch verstaan heeft een historisch kader VOORBEELD: dierenrechten Tegenwoordig zijn dieren belangrijk, ze hebben rechten Maar wij slepen geen dieren voor de rechtbank dat zou raar zijn Vroeger deden ze dit in Spanje wel Wat is het moderne begrip van de werkelijkheid (sinds de velrichting): Op alle domeinen wordt alles in de instrumentale zin gezien = alles wat bestaat is een middel dat ingezet kan worden voor een bepaald doel Heidegger, een technologische determinist? Het effect is een noodzakelijk gevolg van de oorzaak Als we over de realiteit nadenken, zullen we dit onvermijdelijk op een instrumentalistische manier doen ➔ Heidegger verdedigt een soort technologisch determinisme Opmerkingen Technologische view vs. technologie: Het gaat bij Heidegger niet over technologie zelf Het gaat over een technologische (instrumentale) blik naar de werkelijkheid Oorzaak-gevolg: We kijken op een instrumentale manier naar de werkelijkheid, daarom zijn we steeds meer technologieën gaan maken en gebruiken Technologisering en technocratie: o Technologisering is de centrale claim van Heidegger (instrumentale view) o Technocratie: om politieke beslissingen te nemen wordt teruggevallen op de expertise van experten over technologie, dit is gevaarlijk voor de democratie Argumenten tegen Heidegger Heidegger lijkt over het algemeen zeer aantrekkelijk VOORBEELD: sport Sport wordt gezien als een instrument om gezonder en gelukkiger te worden VOORBEELD: studeren Mensen studeren om een diploma te verkrijgen dat hun een grotere kans verkrijgen om een goede job te krijgen VOORBEELD: verdienmodel van google Google kan gratis gebruikt worden omdat er veel advertenties verschijnen als men iets opzoekt ➔ er wordt op een instrumentele manier naar data gekeken bundels data worden doorverkocht vanuit google CONTRA: Argumenten van Heidegger zijn onvoldoende om te concluderen dat er een instrumentale kijk is  Het feit dat er over een grote hoeveelheid van domeinen een instrumentale kijk is wil niet per se zeggen dat het onvermijdelijk is  Sterker argument nodig 13 VOORBEELD: Dinsdag regent het voor een paar weken na elkaar: dus het regent elke dinsdag ➔ niet waar natuurlijk CONTRA: conclusie is fout: er zijn nog andere manieren om naar de werkelijkheid te kijken VOORBEELD: zorgen voor anderen Lode helpt zijn kind Dit vind hij belangrijk voor het welzijn en de veiligheid van zijn zoon Hij houdt hier een goed gevoel aan over, maar dit is slechts een voorzien effect dat niet de reden is waarom hij het doet Het is niet zijn bedoeling om zijn zoon te helpen omdat hij zich dan goed voelt Zijn technologieën dan een hindering om niet instrumenteel te denken? ➔ Nee, het is onmogelijk om enkel instrumenteel te denken VOORBEELD: ziekenhuizen Gebruiken technologie om te zorgen Descriptieve en normatieve claim Descriptief: een claim die de werkelijkheid beschrijft Bvb. “het regent niet” Normatief: een claim die de werkelijkheid voorschrijft Zeggen wat men moet doen, niet wat men doet Bvb. “je moet mij helpen” Technologisch determinisme is meestal een descriptieve claim (ook al heeft het morele/politieke relevantie) MAAR volgens Heidegger: “we zitten vast in een instrumentale view, dit is onwenselijk” ➔ Normatieve claim Wat met de waarde van mensen of dieren Categorische imperatief van Kant: Mensen of dieren hebben rechten maar, ze mogen ook geïnstrumenteerd worden VOORBEELD: KUL instrumenteert zijn profs, ze worden gebruikt om de studenten te onderwijzen Dit instrumenteren is geen probleem voor de profs Wat met de waarde van technologie Intrinsieke waarde: iets is op zichzelf waardevol, ook als het niet gebruikt wordt om een bepaald doel te bereiken afgeleide waarde: waarde dat iets krijgt als het gebruikt wordt om een bepaald doel te bereiken VOORBEELD: een oud zakhorloge Heeft morele waarde maar niet per se een instrumentale 14 2.3 Tweede vorm van technologisch determinisme: sociale effecten Fouten (verschillende types drogredenen) Post hoc, propter hoc (na dit, wegens dit) CLAIM: polariseren is een onvermijdelijk effect van sociale media CONTRA: iets is niet onvermijdelijk het geval gewoon omdat het chronologisch volgt op een oorzaak in de tijd VOORBEELD: Lukaku scoort een doelpunt Hij maakt voor elke match een kruisteken ➔ hij maakte de goal door het kruisteken correlationeel verband: Een verband tussen twee events Is niet per se een causaal verband VOORBEELD: ijs eten en geweld delicten Er bestaat een correlatie: hoe meer ijs er wordt gegeten in een bepaald land, hoe meer moorden er worden gepleegd ➔ er is duidelijk gaan causaal verband geen bewijs voor het bestaan van iets =/= bewijs dat het niet bestaat: Het is mogelijk dat er gewoon niet genoeg onderzoek gedaan is Er zijn sociale effecten VOORBEELD: microgolfoven Meer gezinnen aten apart omdat dat mogelijk werd VOORBEELD: sociale status die bij automerken horen VOORBEELD: sociale media Mensen kunnen sneller contact zoeken Mensen gaan zich anders gedragen VOORBEELD: algoracisme Er bestaan algoritmes die witte mensen bevoordelen Sociale effecten door technologie zijn niet per se onvermijdelijk? Iets onvermijdelijk kan voorspeld worden MAAR een correcte voorspelling van een event wil niet zeggen dat dit event noodzakelijk zou gebeuren VOORBEELD: Lode heeft een afspraak bij de tandarts maar hij gaat niet graag Lode zijn vrouw maakt de voorspelling dat hij niet naar zijn afspraak zal gaan Lode gaat niet naar zijn afspraak ➔ de voorspelling was juist MAAR het was niet onvermijdelijk dat Lode niet naar zijn afspraak zou gaan Er zijn ook niet-sociale effecten door technologie 15 Conditional thesis: een sociaal effect zal enkel volgen op een bepaalde technologie onder de voorwaarde dat er andere condities vervuld zijn VOORBEELD: uitstoot van auto’s Je weet dat met de auto rijden zorgt voor de uitstoot van schadelijk stoffen Dit effect is voorzien maar niet onvermijdelijk VOORBEELD: een telefoon zorgt voor meer sociale contacten Eerst bestond er een negatief beeld over de telefoon en gebruikten maar weinig mensen er eentje Meer mensen zijn een telefoon gaan gebruiken nadat het negatieve beeld afgenomen was Als alle effecten onvermijdelijk zijn, is DT correct? Alle technologie heeft onvermijdelijke effect MAAR niet alle effecten zijn sociaal CONCLUSIE: Determinisme thesis over sociale effecten is niet correct  niet alle sociale effecten zijn noodzakelijk  niet alle technologieën hebben sociale effecten BETER: Technologie heeft mogelijk sociale effecten Sommige technologie heeft onvermijdelijke effecten 2.4 Derde vorm van technologisch determinisme: creatie alle technologie die bestaat is onvermijdelijk uitgevonden ➔ alles moest er wel geweest zijn ➔ campagnes en regels hebben geen invloed op het bestaan van technologieën Redenen om te geloven VOORBEELD: kruisboog Men heeft geprobeerd de kruisboog te verbieden maar dit is niet gelukt VOORBEELD: weefmachines Ludieten waren vroeger tegen weefmachines omdat deze het werk zouden afnemen van weefsters VOORBEELD: drukpers In het christendom heeft dit ervoor gezorgd dat mensen individueel de bijbel konden lezen en interpreteren zodat er verschillende interpretaties ontstaan Het Ottomaanse rijk wilde deze verbieden Redenen om sceptisch te zijn VOORBEELD: nucleaire technologie is een uitzondering op de ontstopbare verspreiding van technologie Men heeft afgesproken om te stoppen met het maken van nucleaire wapens MAAR dit is een uitzondering op de regel De grootmachten hebben ook nog steeds kernwapens VOORBEELD: Het wiel is twee keer uitgevonden Een eerste keer in Europa om zware voorwerpen te verplaatsen Een tweede keer in centraal Amerika voor offerrituelen en als speelgoed ➔ de eerste keer werd het uitgevonden uit noodzaak 16  ➔ de tweede keer werd het niet uitgevonden uit noodzaak, de noodzaak ontstond pas nadat het was uitgevonden MAAR: Dit is geen geldig argument tegen de creatieclaim  het gaat over het onvermijdelijke karakter van het uitvinden van technologie =/= noodzaak die in dit voorbeeld aangehaald wordt Argument voor: convergente evolutie Allerlei functies en trekken van organismen zijn los van elkaar op verschillende plaatsen en momenten ontstaan VOORBEELD: antivriesmiddelen in organismen Worden gevonden in zowel het noorden als het zuiden VOORBEELD: echolocatie Komt voor in vleermuizen maar ook in dolfijnen PROBLEEM: niet alle technologie ontstaat simultaan op verschillende plaatsen Pc, vliegtuig , auto, etc… ➔ convergente evolutie heeft maar een beperkte verklaringswaarde voor creatie Veel technologieën hebben zich ook op verschillende plekken, los van elkaar ontwikkelt ➔ wijst op determinisme CONTRA: niet alle technologie wordt op verschillende plaatsen tegelijk uitgevonden Bvb. Computer, vliegtuig, auto, … CONTRA: convergente evolutie is niet voldoende om te zeggen dat iets onvermijdelijk is  Uitvinding kan ook toevallig tot stand gekomen zijn  Geen toeval =/= noodzaak 2.5 Vierde vorm van technologisch determinisme: Evolutie Een technologie leidt onvermijdelijk tot een andere, nieuwe technologie VOORBEELD: In de oudheid bestonden boten In de nieuwe tijd werden stoommachines uitgevonden ➔ De stoomboot Evolutie is gedreven door efficiëntie en wetenschap Efficiëntie: Het beter organiseren van technologie zodat er minder energie, data, etc… nodig is MAAR verklaart niet alle veranderingen CONTRA: Overstap van AZERTY naar QWERTY toetsenbord Eerst was er AZERTY op typemachines, de hamertjes van de typemachine gingen in elkaar haken als er zeer snel getypt werd Daarom werd QWERTY uitgevonden Op computers nu is dit geen probleem meer, toch worden er nog QWERTY toetsenborden gemaakt  gewoontewording 17 Wetenschap: Evolutie van technologie vloeit voort uit wetenschappelijke kennis ➔ Technologie is toegepaste wetenschap CONTRA: De stoommachines is uitgevonden in een tijd voordat er wetenschap was Wetenschappelijke verklaring waarom de eerste machine minder goed is dan de tweede was er nog niet Argument voor: graduele evolutie Kleine evoluties bouwen voort op elkaar ➔ Er is geen duidelijke grens tussen de verschillende veranderingen in de evoluties ➔ Ononderbroken stijgende lijn die suggereert dat voortgang onvermijdelijk is VOORBEELD: Kano -> zeilboot -> schip Geen hele grote verschillen CONTRA: niet alle nieuwe technologieën bouwen voort op eerdere versies van die technologie VOORBEELD: radars Er was nooit een eerder voorwerp zoals een radar CONTRA: Graduele evolutie insinueert noodzakelijkheid maar impliceert dit niet ➔ Bepaalde aanpassingen kunnen niet noodzakelijk zijn maar gewoon bestaan omdat een regel dat beslist Argument voor: ontwikkelingspatronen voor verschillende plaatsen Veel soorten uitvindingen zijn op elkaar gevolgd in de tijd, op verschillende plaatsen, los van elkaar VOORBEELD: Steen splinters -> vuur -> mes Pottenbakken -> metaal -> elektriciteit -> communicatie CONTRA: de kans dat dit gebeurd Het kan ook toevallig gebeuren CONTRA: toeval en noodzakelijkheid Aanname dat als het geen toeval is MOET het wel noodzakelijk zo zijn VOORBEELD: interesse voor voetbal Lode komt uit een voetbalfamilie, het is niet toevallig dat hij interesse heeft in voetbal MAAR het is niet noodzakelijk dat hij deze interesse ontwikkeld door zijn familie PORBLEEM: het is niet zo bij alles Ook al zijn er goede redenen voor een evolutie, daaruit is niet af te leiden data deze evolutie noodzakelijk is 18 Argument voor: de wet van Moore James Moore heeft een wet gemaakt over het aantal transistoren in chips: “Het aantal transistoren verdubbelt elke twee jaar” ➔ De wet suggereert onvermijdelijkheid en noodzakelijkheid PROBLEEM: uitzondering Globaal genomen zien we in de evolutie van de technologie geen wetmatigheden PROBLEEM: fysieke limieten Evolutie is de laatste jaren wat afgevlakt maar er zijn natuurlijk fysieke limieten PROBLEEM: wet en noodzakelijkheid Als die wet zich zou blijven doorzetten dan heeft dit niets te maken met onvermijdelijkheid maar met de keuzes van mensen Conclusie De bovenstaande argumenten kunnen niet concluderen dat technologisch determinisme een feit is 19 20 3 Is AI een existentieel risico? 3.1 Inleiding Omdat er ingezoomd wordt op problemen wil niet zeggen dat er een alarmerend probleem is ➔ Er kan nog altijd vooruitgang, optimisme, … zijn Hoewel we een zeer jonge soort zijn, zijn we de succesvolste soort uit ➔ Dankzij technologie Er zijn ook veel problemen ➔ Klimaatproblemen ➔ Gebruik van fossiele brandstoffen tijdens de industriële revolutie Er is ook veel vooruitgang ➔ Minder armoede ➔ Meer welvaart 3.1.1 Intelligentie Het vermogen om doelen te realiseren Deze doelen kunnen cognitief, sociaal, fysiek, … Eerst werd intelligentie toegeschreven aan mensen en dieren Intussen ook aan planten of artefacten Expertsystemen Traditionele vorm van AI Systemen die algoritmen gebruiken in de vorm van een als-dan structuur ➔ Kan enkel doen waarvoor het geprogrammeerd is ➔ Transparant systeem VOORBEELD: MYCIN expertsysteem Wordt gebruikt om te onderzoeken of mensen wel/niet besmet waren met een bepaald virus Het systeem vroeg of je bepaalde symptomen wel/niet vertoond ➔ als je deze symptomen vertoond, dan ben je besmet met dit virus Machine learning AI Hedendaagse vorm van AI Wordt getraind o.b.v. data Het systeem zoekt naar correlaties tussen systemen (=/= causale verbanden) ➔ Het systeem leert zelf uit bepaalde verbanden tussen data ➔ Het systeem is afhankelijk van de kwantiteit en de kwaliteit van de data 21 3.2 Ethiek van AI 3.2.1 Filosofie van AI Metafysica Bestaat uit heel abstracte vragen over denken en bewustzijn VOORBEELD: is chatGPT echt een vorm van denken? Zijn AI systemen bewust en kunnen ze ooit bewustzijn bereiken? Ethiek Meta-ethiek: stellen zeer abstracte vragen Veel handelingen zijn moreel neutraal (nagels knippen, haar kammen, …) Maar wanneer worden handelingen niet meer moreel neutraal? VOORBEELD: Er bestaan wel feiten die vaststaan, maar bestaan er morele feiten? ➔ Het doden van mensen is onwenselijk, is dit een feit? Descriptieve ethiek: hoe mensen denken over morele kwesties VOORBEELD: Hoe staan mensen in Vlaanderen tegenover abortus? Hoe denken ingenieurs over ethische zaken die iets te maken hebben met AI? Normatieve ethiek: stelt de vraag wat we zouden moeten/mogen doen 3.2.2 Normatieve ethiek van AI Gaat na op een systematische manier hoe mensen moeten handelen AI is een jong domein van de filosofie maar er zijn al thema’s die op veel domeinen terugkeren: Accountability, privacy, fairness, … Misbruik (bij het gebruik van AI) AI kan voor goede maar ook voor slechte doeleinden worden gebruikt VOORBEELD: deepfake Teksten en beelden produceren die onjuiste informatie verspreiden ➔ Kan grote geopolitieke gevolgen met zich meebrengen Privacy (voorbereiding van AI) Data kan privacy-proof zijn, maar dit kan ook niet zo zijn VOORBEELD: chatGPT is getraind m.b.v. alle info die men van het internet kon halen Dit zonder toestemming te vragen VOORBEELD: Clearview.ai voor gezichtsherkenning is getraind o.b.v. miljoenen foto’s van sociale media Ook weer zonder toestemming te vragen 22 Bias (voorbereiding van AI) AI kan biased zijn door de data waarmee het systeem getraind is Confirmation bias = wanneer mensen data of personen moeten beoordelen dan gaan zij niet neutraal zijn bepaalde informatie gaat men interessanter vinden dan andere De bestaande bias die er al is wordt overgenomen door de ML  niet-representatieve data is een risico van AI VOORBEELD: Amazon Experimenteerde met AI om applicanten voor jobs bij Amazon te screenen Er waren CV’s van succesvolle kandidaten bij Amazon gebruikt voor het trainen van het systeem MAAR Amazon nam eerder al meer mannen aan als vrouwen ➔ Het AI systeem van Amazon bleek systematisch CV’s van vrouwen weg te selecteren VOORBEELD: chatGPT De data waar chatGPT mee getraind is heeft een zeer westers karakter  veel onderzoek wordt gericht o.b.v. WEIRD data (Western, …) Transparantie (voorbereiding van AI) De AI systemen zijn bijzonder complex waardoor het systeem volledig intransparant is ➔ zelfs de ontwerper heeft geen idee van hoe het werkt ➔ achterliggende mechanismen zijn volledig onbekend De output heeft invloed op je bestaan, als morele wezens verdienen wij uitleg over waarom een bepaalde beslissing wordt gemaakt Indien je een idee hebt van de werking van het systeem dan zou de bias aangepakt kunnen worden ➔ ethisch risico met zich mee VOORBEELD: je CV wordt afgewezen o.b.v. een AI systeem Hoe het AI systeem tot deze conclusie komt is onbekend en dat is een probleem VOORBEELD: spotify Men weet niet waarom bepaalde artiesten worden aangeraden MAAR dit is niet per se een moreel probleem CONCLUSIE Enkel relevant in gevoelige contexten Transparantie is gelinkt aan het bias probleem  om het bias probleem op te lossen is inzicht in het systeem nodig Voorbereiding AI systeem moet leren dingen herkennen, deze dingen zijn niet gelabeld als wat het is ➔ er zijn werkers die aan het AI systeem moeten vertellen wat er op de foto staat PROBLEEM: schaduwwerk Arbeid die fundamenteel is aan onze samenleving MAAR ondergewaardeerd is 23 VOORBEELD: openAI zet mensen in Kenia in om data te cleanen Arbeiders in Kenia werden niet goed betaald En ze komen in contact met veel traumatiserende beelden waardoor ze leiden aan PTSD 3.3 Omissies Dingen die worden weggelaten Internationale AI-ethische richtlijnen worden gekenmerkt door veel omissies Positieve waarden werden minder vaak genoemd ➔ negativiteitsvooroordeel Er wordt vaak gefocust op de problemen met AI zonder de voordelen te beschouwen door: Negativiteitsbias Bio-ethiek: instemming, privacy, oneerlijkheid, … Techno-pessimisme: mensen die kritiek hebben, hebben over het algemeen al een negatieve kijk op technologie 3.3.1 Datacentra en het klimaatprobleem Datacentra Men denkt dat AI in de Cloud hangt MAAR alles wordt opgeslagen in gigantische datacenters ➔ Om deze op te bouwen moeten veel stoffen verworven worden ➔ Deze datacenters zijn ook zeer groot en deze oppervlakten worden niet gebruikt door biodiversiteit ➔ Er komt veel hitte af van deze datacenters: veel koeling en elektriciteit nodig ➔ Veel CO2 uitstoot tijdens de trainingsfase 3.4 existentiële risico’s Zeer ernstige effecten van AI op de lange termijn, op miljoenen mensen, met een zeer lage of onbekende waarschijnlijkheid (we weten niet of het zou voorkomen of niet) Met als ergst mogelijk gevolg het verdwijnen van de mensheid long termism = Langetermijn denken, traditiebenadering De menselijke soort bestaat al 300 000 jaar en zal waarschijnlijk nog meer dan 700 000 jaar bestaan Hoe zien die generaties na ons eruit? Oorzaken van het verdwijnen van de mensheid: natuurlijke oorzaken o vulkanen o asteroïden o klimaat o virus antropogene oorzaken o atoombom o AI ➔ Is het nodig om AI op hetzelfde niveau te zetten als atoombommen en asteroïden? 24 Humane wetenschappers: toespitsen op AI ethiek Bvb. privacy, bias, … Computerwetenschappers: toespitsen AI safety Bvb. existentiële risico’s ➔ De een zegt dat er wel moet gefocust worden op existentiële risico’s de anderen zeggen van niet 3.4.1 Het overschaduwingsargument CLAIM: We moeten niet focussen op x-risico’s Existentiële risico’s nemen de aandacht weg van het heden CONTRA: nieuwe guidelines (AI act) MAAR: waarschijnlijkheid is zeer klein ➔ Dus we moeten er niet op focussen 3.4.2 mogelijke existentiële risico’s Slechte bedoeling AI kan misbruikt worden om gevaarlijke systemen te creëren ➔ Problemen zijn voorzien en zijn ook bedoeld VOORBEELD: bioterreur Door het regelmatige gebruik van antibiotica zijn we er resistent tegen AI kan gebruikt worden om nieuwe antibioticas te ontwikkelen waar we niet resistent tegen zijn MAAR er kan ook aan het systeem gevraagd worden om toxische moleculen te creëren Ongevallen Ai kan per ongeluk gevaarlijke systemen creëren ➔ Problemen zijn voorzien maar niet bedoeld VOORBEELD: AI-race Zorgen voor steeds grotere risico’s  Hoe sneller bedrijven de eerste willen zijn, hoe meer veiligheidsvoorschriften achterwegen gelaten worden VOORBEELD: complexiteit Hoe complexer het systeem, hoe meer kans op onwenselijke fouten VOORBEELD: kennis Onze kennis over hoe het systeem werkt neemt af ➔ Het gevaar neemt toe dat er iets onvoorzien gebeurt Controleverlies Meeste AI vandaag is narrow AI = AI systemen gebouwd voor specifieke taken of applicaties chatGPT is een mix van narrow en general AI (AGI) = Hypothetische vaardigheid van een systeem om elke intellectuele taak te begrijpen en te leren zoals mensen dat kunnen 25  ➔ Zodra we general AI bereiken, zit AI op hetzelfde niveau als mensen 3.4.3 Mogelijke misvattingen over AGI Robot AGI is geen robot Bewustzijn AGI is niet noodzakelijk bewust Strong AI Wijst op de mogelijkheid dat er AI systemen zijn die begrijpen wat ze doen MAAR AGI is zich niet bewust van wat het precies doet 3.4.4 AGI komt er (wellicht) Het kan mogelijks gemaakt worden Natuurlijke selectie: Er is al een zeer lange geschiedenis van de ontwikkeling van intelligentie, dit is een onbedoeld effect MAAR AI kan er komen als bedoeld effect Er wordt veel geld tegenaan gegooid AI-gemeenschap ChatGPT 3.4.5 Intelligentie-explosie AI systemen zijn zo ontwikkeld dat er een explosie is op digitaal vlak PROBLEEM: Hoofddoelen kunnen wenselijk zijn Subdoelen kunnen onwenselijk zijn ➔ Risico op controleverlies door de wil om te overleven en te intelligent te zijn om te stoppen AI is waardeneutraal Het kan gebruikt worden voor eender welk doel VOORBEELD: paperclip-scenario Hoofddoel: zoveel mogelijk paperclips verzamelen Subdoel: organismen doden  Deze entiteiten uit atomen bestaan die kunnen gebruikt worden om meer paperclips te maken CONCLUSIE: Ook als het systeem totaal onschuldig is ontwikkelt kunnen de gevolgen kunnen dramatisch zijn Is dit scenario louter hypothetisch? Kijken naar de geschiedenis Chimpansees: mensen stammen af van chimpansees en werden zeer intelligent ➔ Misschien wel te intelligent: controleverlies Onbedoelde effect-probleem: fossiele brandstoffen en biodiversiteit ➔ Onbedoelde effecten 26 3.4.6 Het grote risico-argument CLAIM: we mogen het risico niet nemen Een groot risico veronderstel de oplossing van een groot probleem AGI garandeert geen oplossing voor een groot probleem Andere oplossingen zijn mogelijk 3.4.7 Hoe omgaan met AGI Laisser faire Laat de markt zijn werk doen Versnellen Ondersteunen door er geld tegenaan te gooien stop Tijdelijke stop om tijd te hebben om erover na te denken OF Definitief Vaste grens: deze rekenkracht mag niet overschreden worden Flexibele grens: na nader onderzoek kan de grens aangepast worden OPMERKING: beweert niet dat… het eenvoudig is om het stop te zetten het nu kan stopgezet worden het geen geld kost om het stop te zetten het risicoloos is om het stop te zetten o Kans op extreme asymmetrie: mensen die de regels niet volgen worden veel beter Alle AGI stoppen betekent alle AI stoppen 3.4.8 Dynamisch model van governance AI Agentschap Doet onderzoek naar hoe er moet omgegaan worden met AI Zet een grens op de rekenkracht Model is dynamisch dus de grens kan veranderen 3.4.9 Is een stop haalbaar? NEEN Wetenschappelijk determinisme Er zijn zomers en winters Op dit moment zitten we in een zomer, er is veel vooruitgang MAAR misschien komt er een winter waarin er amper nog vooruitgang is Geschiedenis tempert de onhaalbaarheidsclaim Er zijn al eerder technologieën gestopt: 27 Kernwapens, klonen, anti-persoonsmijnen 28 4 Wat is energie-rechtvaardigheid? 4.1 Waarom is energierechtvaardigheid belangrijk? De energietransities brengt technische en sociale uitdagingen met zich mee = De overgang van onze huidige manier van energie verbruiken naar een groenere aanpak Ingenieurs zijn ook belangrijk bij het aanpakken van de energie transitie 4.1.1 Hoe moet het werk worden verdeeld? Separatisme Ingenieurs pakken de technische uitdagingen aan Niet-ingenieurs pakken de sociale uitdagingen aan PROBLEEM: wie wordt verantwoordelijk gesteld? Wernher von Braun “Once the rockets go up Who cares where they come down, that’s not my department” PROBLEEM: zijn technologische artefacten waardenneutraal? VOORBEELD: een geweer Het dood mensen MAAR is het het voorwerp dat mensen doodt of zijn het mensen die mensen doden? VOORBEELD: Robert Moses Moses was een architect die bruggen ontwierp waar auto’s onder door konden maar geen bussen Vaak namen zwarte mensen de bus omdat ze armer waren ➔ De brug was racistisch PROBLEEM: technologie stuurt mensen richting een bepaald gedrag Ingenieur ontwerpt het artefact Het ontwerp pusht je in een zekere richting over hoe het wordt gebruikt Ook al is dit niet het departement van de ingenieur, hij is wel verantwoordelijk Technocracy Ingenieurs pakken de technische en sociale uitdagingen aan PROBLEEM: paternalistisch Veel ingenieurs zijn nog steeds mannen PRBLEEM: ondemocratisch Enkel de mensen die voor ingenieur gestudeerd hebben mogen belangrijke beslissingen maken Whistle-blowing Ingenieurs pakken de technologische aspecten aan MAAR ze kunnen aan de bel trekken als er iets ethisch niet in order is Niet-ingenieurs pakken dan nog steeds de sociale uitdagingen aan PROBLEEM: afhankelijk van het alarmeren De ingenieur moet beslissen wanneer hij hulp oproept CONCLUSIE: ingenieurs moeten ontwerpen voor rechtvaardigheid 29 4.2 Wat is de link tussen rechtvaardigheid en energie? 4.2.1 energie en rechtvaardigheid Justice movement Protesten in Warren County in 1982: De staat loosde grond met PCBs wat lekte in de water ➔ Environmental justice movement Uiteindelijk ontdekte men dat waar bepaalde rassen wonen een invloed had op waar gevaarlijke stoffen in de VS geloosd werden ➔ Milieubelastingen worden het meeste gedragen door armere groepen Mijnbouw Mijnbouw wordt vaak gedaan in armere landen en geëxporteerd naar rijkere landen Energie-infrastructuren In Groningen is een enorme gasbel gevonden Sinds deze ontdekking wordt in heel Nederland, België en Duitsland aardgas gebruikt MAAR door het leegmaken van gasbel zal de grond zakken, dit veroorzaakt aardbevingen en schade aan huizen van omwonende in Groningen De opbrengst van het Gas gaat naar de steden waar de meeste mensen wonen ➔ Groningen wordt niet gecompenseerd Energie-armoede Armere gezinnen kunnen energie niet meer betalen 4.2.2 energie systemen als sociotechnische systemen Ingenieurs maken technologieën die invloed hebben op de wereld Iedereen heeft zijn eigen normatieve ideeën over de wereld (over hoe de wereld eruit moet zien) ➔ beslissingen van een ingenieur zullen bijna nooit neutraal zijn Sociotechnische systemen Systemen met sociale en technische elementen die Door samenleving construeert zijn En de samenleving vorm geven Dominante normatieve ideeën worden in instituties geïmplementeerd (processen, infrastructuren, technologieën, …) Instituties vormen onze doelen en normatieve ideeën Normatieve aannames in energiesystemen: Hoe we onze energie produceren en of er genoeg is Over wat rechtvaardig is 30 4.3 Hernieuwbare energie Utopia’s Een ideale (of bijna perfecte) samenleving die niet bestaat Gaat meestal over de toekomst 4.3.1 Effect van ideeën over de toekomst Ideeën over de toekomst zijn super krachtig: ze leiden technologie en innovatie Hebben een effect op visies van bedrijven, banden, beleid VOORBEELD: SDGs Hebben een groot effect op onderzoeken Onderzoekers moeten vaak aangeven over welke SDG hun onderzoek gaat 4.3.2 Hernieuwbare energie Utopia’s Overvloed: Het energiesysteem is een eindeloos bron van energie ➔ Men moet zich geen zorgen maken over de toegang en betaalbaarheid Voldoende: Het energiesysteem levert genoeg energie om een minimalistische en ecologische levensstijl te onderhouden ➔ Kritiek op het overvloed beeld Volgens het klimaatbeleid: 31 4.3.3 Kritische reflectie over onze ideeën van de toekomst (boeken) The new Atlantis De aarde heeft heel veel energie geconsumeerd en alle ecologische systemen zijn ingestort Er is een hele autoritaire overheid aangesteld die de wereld omkapseld heeft: de elite heeft meer dan genoeg energie terwijl alle andere mensen hopen dat er toch een manier komt waarop energie kan verdeeld worden The dispossessed 3 maatschappijen in de nabije toekomst: Annares: er is genoeg energie voor alles wat noodzakelijk is A-lo: er is een kapitalistische overvloed o Door de overvloed zijn mensen zijn lui Aarde: er is overvloed, maar mensen gebruiken slechts wat ze nodig hebben CONCLUSIE: Een overvloed is toxisch  Het put hulpbronnen uit en zorgt voor onstabiele sociale structuren Ecotopia Er is een conflict geweest waardoor er onafhankelijke staten zijn gecreëerd De technische vooruitgang wordt gebruikt om als samenleving in harmonie te leven met de natuur Energie productie en consumptie worden gedecentraliseerd In deze staten is de filosofie van genoeg een levensstijl The ministry for the future Er is een hittegolf in India die veel langer aanhoud dan normaal (Infrastructuur kapot, massasterfte) Er wordt een ministerie aangesteld voor de toekomst, met als taak ervoor te zorgen dat er nog een toekomst is ➔ Climate engineering wordt noodzakelijk = klimaat op de planeet veranderen ➔ Energie overvloed is een mythe 4.3.4 Kritische reflectie op overvloed Gevaarlijke illusie Volledige circulaire economie is onmogelijk MAAR toch hoopt men op een technofix ➔ Zonder dit mirakel zullen materialen snel opgeraken (the dispossessed, the ministry of the future) Inter- en intragenerationele rechtvaardigheid Er kunnen altijd verborgen kosten zijn (materialen, afval, …) ➔ Gevolgen komen op de schouders van andere generaties terecht Deugdethiek Een goede handeling is een handeling die deugdzaam is Een deugd zit in het midden tussen goed en slecht ➔ Een deugd zit in het midden tussen tekort en overvloed (Ecotopia) 32 Vervreemding Vervreemding binnen een persoon o Ondeugd zorgt voor ongeluk Vervreemding tussen personen o Ongelijkheden tussen de elite en gewone burgers (Atlantis) Vervreemding tussen mens en natuur o Men vergeet waar energie vandaan komt o Natuur wordt vervangen = biomimicry 4.3.5 kritische reflectie op genoeg Niet sexy Mensen zijn niet gemotiveerd om maar net genoeg te krijgen Wanneer is er genoeg Praktisch en Filosofisch probleem Genoeg hebben is relationeel, contextueel en tijdsgebonden 4.4 Ontwerp voor rechtvaardigheid: conceptuele tools 4.4.1 Energie rechtvaardigheid Distributieve rechtvaardigheid De eerlijke, rechtvaardige en evenwichtige verdeling van voordelen en lasten in een samenleving Wat zijn de voor- en nadelen? Voor wie komen ze ten laste? Procedurele rechtvaardigheid De eerlijke en rechtvaardige verdeling van het beslissingsproces Hoe worden beslissingen gemaakt? Wie maakt de beslissing Wie is verantwoordelijk? Restauratieve rechtvaardigheid Het rechtvaardig compenseren van gerealiseerde nadelen of het verzachten van effecten van beleid Welke onrechtvaardigheid kwam voor? Moet deze wel/niet hersteld worden? Hoe moet deze hersteld worden? Rechtvaardigheid als herkenning Relaties tussen en met het toegeven van problemen Voor welke niet goede ideeën moet justitie tussenkomen? 33 Deze verschillende types moeten verdeeld worden VOORBEELD: taart De taart moet verdeelt worden: Distributief Hoe de taart verdeelt wordt: Procedure Heeft iemand al eens een stukje taart gehad: Restauratief Bevat deze taart misschien gluten? Zijn er misschien mensen die er niet van kunnen eten: Erkenning 4.4.2 Ontwerp voor rechtvaardigheid 4.4.3 Ontwerp voor waardes Welke waardes vinden we belangrijk (milieu, veiligheid, gezondheid) Welke criteria zijn nodig om aan deze waardes te voldoen In 3 stappen: 1) Discovery: voor welke waarden willen we ontwerpen 2) Translation: hoe gaan we deze gekozen vorm van gerechtigheid in de praktijk brengen 3) Verification: criteria opstellen om het ontwerp te verifiëren Eventuele problemen Rechtvaardigheid kan voor verschillende mensen, verschillende dingen betekenen ➔ Normatieve onzekerheid 4.5 Normatieve onzekerheden Onzekerheid over wat goed of fout is Er zijn verschillende argumenten en ethische complexiteit Is cruciaal Normatieve onzekerheid moet erkend worden Anders ben je stiekem je eigen idee over wat goed is in het ontwerp aan het steken 34