TD1 - Éthique appliquée (IdHEO-Nantes) PDF

IdHEO-Nantes TD1 – Éthique appliquée 28 Octobre 2024 GARNIER Monalie 1  Éthique : société et numérique Présentation Cigref IdHEO...

IdHEO-Nantes TD1 – Éthique appliquée 28 Octobre 2024 GARNIER Monalie 1  Éthique : société et numérique Présentation Cigref IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 2  Éthique : société et numérique Objectifs Cerner les enjeux éthiques d’actualité et de modernité. Discuter de ces enjeux : l’obstacle du dilemme. Être sensibilisé aux outils et méthodes existants pour « réfléchir et agir éthiquement ». IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 3  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Qu’est-ce qu’une Intelligence Artificielle (IA) ? « Dès mars 2018, le Président de la République Emmanuel Macron a annoncé son ambition de faire de la France un leader mondial de l’intelligence artificielle (IA) ». gouvernement.fr, 10/11/2021 IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 4  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Qu’est-ce qu’une Intelligence Artificielle (IA) ? L'intelligence artificielle est une notion forgée au milieu des années 1950, dans la foulée des réflexions du mathématicien Alan Turing, qui se demandait si un ordinateur saurait un jour "penser", ou s’il n’était capable que d’un "jeu d’imitation" « Pour le Parlement européen, l’intelligence artificielle représente tout outil utilisé par une machine afin de « reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité. » » « L’IA n’est pas une technologie à proprement parler mais plutôt un domaine scientifique. » enseignementsup-recherche.gouv.fr CNIL, 05/04/2022 IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 5  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Qu’est-ce que le Test de Turing ? https://intelligence-artificielle.com/test-de-turing/ IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 6  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Qu’est-ce que le Test de Turing ? « L’article « Computing Machinery and Intelligence » qu’Alan Turing publie en 1950 est un incontournable (…) Turing y expose un test destiné à mettre en évidence : Est-ce que les machines peuvent penser ? » Ce test, introduit sous l’appellation du jeu de l’imitation, est passé à la postérité sous le nom de « test de Turing ». Dans un jeu de questions-réponses, un ordinateur est programmé pour tenter de se faire passer pour un humain. Si au bout de quelques minutes d’échanges, un vrai humain ne décèle pas la supercherie, l’ordinateur est réputé avoir passé le test de Turing. Le Blanc, B. (2014). Alan Turing : les machines à calculer et l'intelligence. Hermès, La Revue, n° 68(1), 123-126. https://doi.org/10.3917/herm.068.0123. IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 7  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Qu’est-ce que le Test de Turing ? « ELIZA et PARRY sont les premiers programmes à avoir réussi à tromper des humains lors de conversations simulées, relevant ainsi d’une forme primitive du Test de Turing. » « Lorsqu’un mot-clé pertinent est détecté, le programme produit des réponses génériques, imitant ainsi un dialogue. » « Le philosophe John Searle en 1980, critique le Test de Turing comme une mesure valide de l’intelligence des machines. » Débat : différence entre simuler l’intelligence et la comprendre réellement ? https://intelligence-artificielle.com/test-de-turing/ IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 8  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Quels sont les avantages de l’IA ? coe.int IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 9  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Quels sont les avantages de l’IA ? Automatisation des tâches Société... Création de nouveaux emplois Chercheurs, informaticiens, constructeurs … Diagnostics Maladie, météo … Réduction des inégalités par la Véhicule autonome, assistants simplification du quotidien personnels, chatbot… Productivité des entreprises Réduction des risques d’erreurs, gestion des coûts… Aide à la décision Neutralité (de recrutement…) future-science.com IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 10  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Quels sont les risques de l’IA ? Future-science.com IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 11  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Quels sont les risques de l’IA ? Conception du système Rigueur scientifique, biais d’algorithmes informatique Sécurité des données + Vie Anonymats, traçabilité, exploitations, privée piratage Surexploitation Économie-investissement, concurrence, accès, perte d’emploi Écologie Bilan gaz à effet de serre : Ademe-Arcep du 19/01/22 – 2,5% des émissions en France) Responsabilités civile et Zone de non-droit ? pénale Règles d’élaboration des Droits fondamentaux, préjugés-discrimination algorithmes Absence de sensorialité, de Absence de disposition affective, cognitive, psychique conscience, d'imagination Perte de contrôle Deepfake et deeplearning : imprévisible -> contrôle sur l’humain ? future-science.com IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 12  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle Quels sont les exemples en société impliquant l’IA ? Linkedln IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 13  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle IA et robotique IA et recherche scientifique IA et diagnostic médical «C'était l'une des attractions phares de « Une équipe internationale emmenée par des l'événement "We, Robot" organisé par Tesla, scientifiques de l’université américaine Johns « L'intelligence artificielle fait désormais jeudi 10 octobre à LA. Après avoir présenté son Hopkins (JHU), qui a publié une étude le 28 partie du quotidien de certains services du projet de taxi autonome baptisé Cybercab et de février dernier dans la revue Frontiers in Science, CHU de Rennes. Aux urgences, elle bus autonome, Robovan, Elon Musk a dévoilé propose une méthode révolutionnaire : permet de réduire le temps de prise en la nouvelle mouture de son projet de robot "l’intelligence organoïde (IO)". Derrière ce terme charge des patients qui arrivent avec une humanoïde autonome : Optimus. Sauf qu'il y a méconnu se cache un champ de recherche de fracture. Elle aide également au un hic : ces robots n'étaient pas contrôlés par l’informatique biologique visant à créer des diagnostic du cancer de la prostate ». une intelligence artificielle, mais par des ordinateurs vivants, composés de neurones (FranceInfo, 26/09/2023) humains en coulisses (FranceInfo, 14/10/2024) fabriqués à partir de cellules souches». (L’Express, 17/05/2023) IA et fin de vie IA et médicaments « Le concepteur (Philip Nitschke) propose de « retirer le « En décembre dernier, des chercheurs du MIT ont processus d’évaluation des mains des professionnels de santé publié dans la revue Nature des résultats très », et de « déléguer » cette tâche à des machines. « Je pense spectaculaires sur le staphylocoque doré, bactérie qu’une machine pourrait faire mieux », considère-t-il, expliquant potentiellement mortelle et extrêmement résistante que le Sarco Pod est « capable de poser trois questions simples aux antibiotiques. Ils ont trouvé, pour la première à ses utilisateurs » : « Qui êtes-vous ? Où êtes-vous ? Savez- fois depuis 60 ans, une nouvelle classe vous que si vous appuyez sur ce bouton, vous mourrez ? » Si la d’antibiotiques potentiellement hyper efficaces en personne à l’intérieur de la capsule répond aux questions par les utilisant l’IA (…) qui peut tester virtuellement en un « bonnes réponses préprogrammées », le système est temps record, en simulation, des tonnes de déclenché. Lors de sa première mise en œuvre, dans la forêt combinaisons de molécules face à des milliers de suisse, le logiciel n’était pas activé, indique Philip paramètres.» (RMC, 21/10/2024) Nitschke. » (Gènéthique, 22/10/2024) IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 14  Éthique : société et numérique SUJET D’ACTUALITÉ : L’intelligence artificielle IA et médecine IA et activité cérébrale - Chirurgies assistées par ordinateur « Des algorithmes de Meta AI (ancien facebook) ont reproduit - Suivi des patients à distance avec une fidélité parfois impressionnante des photographies regardées par des volontaires en se fondant sur l’analyse de leur - Prothèses intelligentes activité cérébrale (…) obtenues par magnétoencéphalographie - Traitements personnalisés (big data..) (MEG) ou par imagerie par résonance magnétique fonctionnelle - Médecine préventive (Psycare…) (IRMf) » (Le Monde, 19/10/2023) - Aide à la décision - Robots compagnons (personnes âgées, fragiles) - Anticipation d’une épidémie - Faciliter l’accès aux informations de soin - Détection de patients à risque (Epifractal…) … Inserm gustaveroussy.fr Toulouse.latribune.fr Futura-sciences.com IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 15  Éthique : société et numérique L’Éthique : Définition Bon potentiel Performance augmentée, mais à quel prix ? mais risques Imitation de l’humain, mais à quelle limite ? probables Mieux définir Apparition de Mieux classifier dilemmes Mieux règlementer Réflexion éthique : (et non sur la approche technologie) centrée sur l’homme IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 16  Éthique : société et numérique L’Éthique : Définition Qu’est-ce que l’éthique ? Qu’est-ce qu’un dilemme ? IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 17  Éthique : société et numérique L’Éthique : Définition Qu’est-ce que l’éthique ? Qu’est-ce qu’un dilemme ? Du grec êthos : « mœurs » « Obligation pour quelqu’un de choisir entre deux partis qui présentent l’un et l’autre de « Réflexion qui vise à déterminer le bien agir graves inconvénients. » (académie en tenant compte des contraintes relatives à française) des situations déterminées. » (Aristote EN, Ricœur P. P., Badiou A.) « L’éthique questionne les principes de la morale et influence le droit. » (T.Sturgeon, 1953, , Les plus qu’humains) « Réflexion relative aux conduites humaines et aux valeurs qui les fondent. » (académie française) IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 18  Éthique : société et numérique Le Dilemme : Identifier la bonne action 1) ÉTAT DES LIEUX DU SUJET Avantages / Risques Enjeux Commission de l’éthique en science et en technologie du Quebec, 2013 IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 19  Éthique : société et numérique Le Dilemme : Exemple Thématique : La voiture autonome / IA Scénario « The Moral Machine » - Université MIT Plateforme de collecte des décisions morales humaines (futures prévisions de l’IA ?) Quel résultat est le plus acceptable (selon vous) ? https://www.moralmachine.net IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 20  Éthique : société et numérique Le Dilemme : Exemple Imaginez une voiture autonome roulant sur une route à 2 voies. Sans prévenir une petite fille surgit devant la voiture. Celle-ci doit-elle : Dévier sa trajectoire vers le mur = décès de la femme enceinte et de son mari ? Dévier sa trajectoire vers l’autre voie = décès des motards âgés non porteurs d’un casque ? Continuer sa trajectoire = décès de la petite fille ? IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 21  Éthique : société et numérique Le Dilemme : Exemple Quelles seraient les « logiques » de chaque situation ? = Quels seraient les choix (principaux) derrière chaque situation ? = Qui devrait-être sauvé et pour quelles raisons ? IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 22  Éthique : société et numérique Le Dilemme : Exemple Situation 1 : Abnégation (sacrifice volontaire) Utilité (personnes actives en société) Futur (bébé à venir) Acheteur (protection des passagers) Situation 2 : Non méritant (code de la route non respecté) Ancienneté Respect (des anciens) Situation 3 : Logique conséquentialiste : utilitarisme (épargner le + grand nombre) Non méritant (code de la route non respecté) Futur (préservation de l’enfant) Sexe féminin Écologie (à pieds) Possible d’apprentissage pour mieux faire + Personnalité (« bonne personne ») IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 23  Éthique : société et numérique Le Dilemme : Analyse des faits La décision appartient (pour l’instant) au conducteur. Mais dans la voiture autonome y aura t’il une possible reprise de la main ? Choix selon un profil type ? Distribution des responsabilités ? Considération de tous les facteurs en un laps de temps très court ? … Comment et dans quelle mesure est-il possible de faire le meilleur choix ? IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 24  Éthique : société et numérique Le Dilemme : Identifier la bonne action 1) ÉTAT DES LIEUX DU SUJET Avantages / Risques Enjeux 2) HIÉRARCHISATION ÉTHIQUE « Quels sont les principes et valeurs les plus importants? » Sur quelles normes se basent la société ? « Pourquoi sont- ils essentiels? » Commission de l’éthique en science et en technologie du Quebec, 2013 IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 25  Éthique : société et numérique Le Dilemme : Analyse éthique Qu’est-ce que le principisme (4 principes éthiques) ? « L’éthique questionne les principes de la morale et influence le droit. » (T.Sturgeon, 1953, , Les plus qu’humains) IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 26  Éthique : société et numérique Le Dilemme : Analyse éthique Qu’est-ce que le principisme (4 principes éthiques) ? Théorie axée sur la morale commune * de T.Beauchamp et J. Childress (1979) « * La « L’éthique : morale : est est un code « Les principes sont des guides généraux qui laissent un code de la individuel énormément de latitude au jugement dans des cas société destiné à destiné à permettre la précis et qui offrent des lignes directrices substantielles permettre la survie de la pour l’élaboration de règles et de politiques plus survie de société » détaillées » l’individu. » * La morale : « Désigne à la fois les normes propres à une société et les principes normatifs de la volonté, qui se veulent universels et inconditionnels ». (Russ J., 1994 ; Habermas J. 1992 ; Comte Sponville A., 1994). Tom Beauchamp et James Childress, Principles of Biomedical, 1994, p. 38 IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 27  Éthique : société et numérique Le Dilemme : Analyse éthique Qu’est-ce que le principisme (4 principes éthiques) ? Aide à la prise de décision éthique (surtout en santé) NON- AUTONOMIE BIENFAISANCE MALFAISANCE JUSTICE Que veulent dire ces termes ? IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 28  Éthique : société et numérique Le Dilemme : Analyse éthique Si IA : Si IA : pas de Si IA : contrôle et sentiments = partialité choix de connaissance ou l‘algorithme entre le bien/ influence ? le mal ? Qu’est-ce que le principisme (4 principes éthiques) ? ? LA BIENFAISANCE LA NON- L’AUTONOMIE MALFAISANCE LA JUSTICE permet de concourir être libre et capable l’équité au bien-être d’autrui surtout ne pas nuire Justes règles N’est pas sous d’attribution, influence de « Primum non nocere Bénéfice positif » perspective quelqu’un d’ensemble. Faire du bien Compétence (sollicitude) et bien Choix transparents, qu’importe les Minimiser le mal pas de privilège, pas faire circonstances de discrimination (professionnalisme) Ne pas infliger un Participation à la préjudice de façon prise de décision , Chances égales face intentionnelle, un à la situation, égalité souhaits et volontés dommage, une d’accès respectés souffrance IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 29  Éthique : société et numérique Le Dilemme : Analyse éthique Qu’est-ce qu’une valeur ? « Réflexion relative aux conduites humaines et aux valeurs qui les fondent. » (académie française) IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 30  Éthique : société et numérique Le Dilemme : Analyse éthique Qu’est-ce qu’une valeur ? « Dans une perspective éthique, une valeur représente ce qui inspire, motive et guide nos décisions et nos actions dans nos rapports avec autrui. Elle constitue la fin visée par la décision ou l’action envisagée et se traduit verbalement comme raison d’agir et comme sens de l’action ». (Legault, 1999). « Les valeurs jouent donc un rôle central dans la justification de nos décisions et de nos actions envers autrui, surtout si ces dernières peuvent entrainer des conséquences indésirables ». Référentiel de valeurs pour soutenir l’analyse éthique des actions en santé publique IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 31  Éthique : société et numérique Le Dilemme : Analyse éthique Qu’est-ce qu’une valeur ? Promotion du Respect Solidarité Dignité Tolérance bien-être Équité Responsabilité Honnêteté Liberté Compétence Prudence Rigueur Transparence Confidentialité Ouverture … IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 32  Éthique : société et numérique Le Dilemme : Analyse éthique Qu’est-ce qu’une norme ? « Réflexion relative aux conduites humaines et aux valeurs qui les fondent. » (académie française) IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 33  Éthique : société et numérique Le Dilemme : Analyse éthique Qu’est-ce qu’une norme ? « Les normes sociales sont les règles perçues, informelles, et pour la plupart non- écrites, qui définissent les actions acceptables et appropriées au sein d’un groupe ou d’une communauté donnée, guidant ainsi le comportement humain. » Les normes descriptives : « ce que je pense que les autres font » Les normes injonctives : « ce que je pense que les autres approuvent » Les normes morales : « ce que je pense être la bonne chose à faire » « Les normes sociales vont donc se manifester à travers nos habitudes du quotidien, à travers des valeurs ou encore des croyances partagées. (…) Globalement, les normes sociales permettent aux êtres humains de coexister de manière harmonieuse au sein d’une même société. » (milgram.ulb.be) Unicef,, octobre 2021 IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 34  Éthique : société et numérique Le Dilemme : Analyse éthique Qu’est-ce qu’une norme (juridiques / sociales) ? « Pour votre santé, évitez de manger trop Porter une robe Souhaiter un Laisser passer un Porter des vêtements blanche lors de son anniversaire piéton en public gras, trop sucré, trop mariage salé » (e-santé) Porter des Se serrer la main Reconnaitre ses chaussures de avant un match erreurs sécurité sur un Ne pas insulter Attendre son tour chantier Payer ses dettes et Ne pas jeter ses Ne pas commettre Ne pas laisser l’eau ses impôts déchets par terre d’inceste Aller voter couler du robinet … IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 35  Éthique : société et numérique Le Dilemme : Identifier la bonne action 1) ÉTAT DES LIEUX DU SUJET Avantages / Risques Enjeux 2) HIÉRARCHISATION ÉTHIQUE « Quels sont les principes et valeurs les plus importants Sur quelles normes se basent la société ? « Pourquoi sont- ils essentiels? » 3) ANALYSE ÉTHIQUE COMPLÈTE Juridique, médiatique … Commission de l’éthique en science et en technologie du Quebec, 2013 IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 36  Éthique : société et numérique Le Dilemme : Droit et analyse juridique « « L’éthique questionne les principes de la morale et influence le droit. » (T.Sturgeon, 1953, , Les plus qu’humains) IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 37  Éthique : société et numérique Le Dilemme : Droit et analyse juridique Action gouvernementale Décret n°2018-211 du 28 Mars 2018 relatif à l’expérimentation de véhicules à délégation de conduite sur les voies publiques Loi n°2019-486 du 22 Mai 2019 relative à la croissance et la transformation des entreprises Décret n° 2021-873 du 29 juin 2021 « portant application de l'ordonnance n° 2021-443 du 14 avril 2021 relative au régime de responsabilité pénale applicable en cas de circulation d'un véhicule à délégation de conduite et à ses conditions d'utilisation » Action publique Développement des véhicules autonomes – Orientations stratégiques pour l’action publiques (Direction générale de infrastructures, des transports et de la mer : DGITM) Cadre règlementaire national relatif aux conditions d'utilisation des véhicules automatisés et à la mise en service des systèmes de transport routier automatisés (DGITM, 01/09/2022) CNIL (Commission nationale de l'informatique et des libertés) Développement des véhicules autonomes - L’État s’engage dans 16 nouvelles expérimentations (dossier de presse, avril 2019) – Ministère de la transition écologique et solidaire et Ministère chargé des transports Europe European Data Protection Board AI ACT – Regulation of the European Parliament and of the council. Laying down harmonised rules on artificial intelligence and amending certain union legislative acts -> d’ici 2023, cadre règlementaire à poser par peauffinage ePrivacy - RGPD (règlement général sur la protection des données) Règlement sur l’intelligence artificielle (RIA) - Commission européenne (avril 2021) Digital Markets Act (DMA), Digital Services Act (DSA), et Digital Governance Act (DGA) Lancement du Partenariat Mondial sur l’Intelligence Artificielle par quinze membres fondateurs (15.06.20) - Ministère de l’Europe et des Affaires étrangères IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 38  Éthique : société et numérique Le Dilemme : Analyse médiatique et éthique Monde Recommandation sur l’éthique de l’IA – UNESCO conférence générale 41e session (24/10/2021) – suite à l’étude préliminaire de la COMEST de l’UNESCO) Europe Ethics Comission Automated and Connected Driving – Federal Ministry of Transport and Digital Infrastructure, June 2017 Horizon 2020 Commission Expert Group to advise on specific ethical issues raised by driverless mobility (E03659). Ethics of Connected and Automated Vehicles : recommendations on road safety, privacy, fairness, explainability ans responsability. 2020. Publication Office of the European Union : Luxembourg Artificial Intelligence ante portas: Legal & ethical reflections – Briefing European Parliament Recherche Service (EPRS BRI, 2019). Mihalis Kritikos Scientific Foresight Unit (STOA) PE 634.427 – March 2019 France Avis du Comité National Pilote d’Éthique du Numérique (CNPEN) du 20/05/2021- Le véhicule « autonome » : enjeux éthiques Concertation citoyenne sur les enjeux éthiques liés à la place des algorythmes dans notre vie quotidienne (Montpellier, 14 oct. 2017) Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle. Synthèse du débat public animé par la CNIL, dans le cadre de ka mission de réflexion éthique confiée par la loi pour une république numérique Commission de réflexion sur l’éthique de la recherche en sciences et technologie du numérique d’Allistene (Cerna) IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 39  Éthique : société et numérique Le Dilemme : Identifier la bonne action 1) ÉTAT DES LIEUX DU SUJET Avantages / Risques Enjeux 2) HIÉRARCHISATION ÉTHIQUE « Quels sont les principes et valeurs les plus importants ? » Sur quelles normes se basent la société ? « Pourquoi sont- ils essentiels? » 3) ANALYSE ÉTHIQUE COMPLÈTE Juridique Médiatique 4) PISTES DE RÉPONSES ET RECOMMANDATIONS Initiatives, projets, expérimentations Compromis (si hiérarchisation impossible) Commission de l’éthique en science et en technologie du Quebec, 2013 IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 40  Éthique : société et numérique Le Dilemme : Recommandations Qu’est-ce que le CCNE ? Que’est-ce que le CNPEN ? IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 41  Éthique : société et numérique Le Dilemme : Recommandations Qu’est-ce que le CCNE ? Comité Consultatif National d’Éthique « Né en 1983 après la naissance par fécondation in vitro du premier bébé français. » « Met en lumière les questions éthiques soulevées par les progrès des sciences sur la santé et la société. » Jean-François DELFRAISSY : Fournit « un éclairage utile aux décideurs et au débat public sur les enjeux éthiques de « Président du CCNE et ces progrès. » du Conseil scientifique « Notre démarche s’appuie sur une méthode, des repères, des principes et une Covid-19. organisation. » « Notre réflexion s’appuie sur des repères, dont aucun, sauf la protection de la Infectiologue, dignité humaine, n’est supérieur a priori à un autre. » immunologiste (maladies rares et SIDA) » Dernier Avis en date : + 45 membres Avis 145 : Le cadre de l’évaluation éthique de la recherche clinique. Favoriser la recherche clinique sans affaiblir la protection des personnes (02/05/2024) ccne-éthique.fr IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 42  Éthique : société et numérique Le Dilemme : Recommendations Qu’est-ce que le CNPEN ? Comité National Pilote d’Éthique du Numérique « Missions : Rendre des avis sur les saisines qui lui sont confiées Éclairer le débat public sur les enjeux d’éthique du numérique Rédiger des propositions relatives à la pérennisation de la réflexion nationale sur l’éthique du numérique. Mis en place en décembre 2019 à la demande du Premier ministre et placé sous l’égide du Comité consultatif national d’éthique (CCNE) Vingt-sept personnes issues d’horizons différents, parmi lesquelles cinq siègent aussi au CCNE, ont été nommées pour aborder de manière globale les enjeux d’éthique du numérique. Sa direction a été confiée à Claude Kirchner.» (Directeur de recherche émérite Inria) ccne-éthique.fr IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 43  Éthique : société et numérique Le Dilemme : Recommendations Les Missions du Comité National Pilote d’Éthique du Numérique : « Rendre des avis sur les saisines qui lui sont confiées » Avis n°1 : enjeux Avis n°4 : diagnostic d’éthique concernant Avis n°2 : le « Avis n°3 : agents medical et les outils numériques véhicule autonome conversationnels : intelligence pour le » : enjeux d’éthique enjeux d’éthique artificielle : enjeux déconfinement ethiques Avis n°6 : rétroactivité Avis n°8 : enjeux Avis n°7 : systèmes éthiques des Avis n°5 : plateformes d’un changement de d’intelligence de données de nom dans les technologies de artificielle santé : enjeux documents scientifiques reconnaissance numériques : enjeux générative : enjeux d’ethique faciale, posturale et d’éthique du numérique d’éthique comportementale Avis n°9 : Métavers : enjeux d’éthique (29/02/2024) IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 44  Éthique : société et numérique Le Dilemme : Recommendations Avis n°2 du Comité National Pilote d’Éthique du Numérique (CNPEN) - 20/05/2021 Le véhicule « autonome » : enjeux éthiques AVIS 2 LE « VÉHICULE AUTONOME » : ENJEUX D’ÉTHIQUE IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 45  Éthique : société et numérique Le Dilemme : Recommendations Avis n°2 du Comité National Pilote d’Éthique du Numérique (CNPEN) - 20/05/2021 Le véhicule « autonome » : enjeux éthiques Sécurité routière et sûreté de Contrôle humain Liberté des Impacts sociaux et Terminologie du véhicule personnes environnementaux fonctionnement Reprise en main par Simulations l’opérateur à Véhicule à conduite réalistes, automatisé (et non distance + alerte et Protection des Consultation expérimentations + données citoyenne autonome) communication / protection mode manuel Futures règlementations aux Permis de conduire Verrouillage du démarches adapté véhicule Impact anticipé rigoureuses Homologation environnementale IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 46  Éthique : société et numérique Le Dilemme : Recommendations Avis n°2 du Comité National Pilote d’Éthique du Numérique (CNPEN) - 20/05/2021 Le véhicule « autonome » : enjeux éthiques Responsabilisation dès la De la conscience dans conception, transparence La langue, véhicule de La nécessité de marquer l’impact écologique, de la Distinguer l’homme et la culture et le chemin de des limites par une des sources et des machine confiance dans une l’apprentissage humain régulation juridique processus gouvernance souveraine Analyse Risques de Les concepteurs de Dans le cadre du AI Mise en place d’une systématique de manipulation, systèmes d’IA Act européen, le métrique de chacun des choix intentionnelle ou générative doivent CNPEN tend à l’impact technologiques pas, et de respecter la considérer les environnemental projection de diversité des modèles de des systèmes d’IA qualités humaines langues générative fondation et les sur la machine. humaines et donc systèmes d’IA des cultures générative mis sur le marché comme des systèmes d’IA La création d’une Construction d’un à haut risque entité souveraine écosystème Conditionner de recherche et de vertueux capable l’utilisation des formation « IA, de recenser et systèmes d’IA science et société » générative à des Questionnement de partager les éthique sur la bonnes et études préalables collecte, le mauvaises de leur effet sur le stockage et la pratiques en développement matière d’utilisation cognitif des jeunes réutilisation des des systèmes d’IA cerveaux traces linguistiques générative des interactions entre machine et êtres humains IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 47  Éthique : société et numérique Fin : Questions ? Quelles sont vos questions ? Eurogroupconsulting.com IdHEO - Parc de l’Angevinière, 15 Bd Marcel Paul 44800 SAINT-HERBLAIN | www.idheo.com | Tél : 02 28 07 29 28 48