Cours d'éthique : Ingénieur Civil Bac 1 - PDF

1 Table des matières Chapitre 1 : Introduction « Du normatif dans la technologie ».............................................................. 3 Parenthèse : distinction éthique / morale.......................................................................................... 3 Théorie de la médiation technologique :........................................................................................ 4 Chapitre 2 : Concepts : Risque & Expertise............................................................................................. 6 La connaissance par témoignage........................................................................................................ 6 Qu’est-ce qu’un risque ?..................................................................................................................... 8 Quelques petits sophismes ….............................................................................................................. 8 Modélisation...................................................................................................................................... 10 Chapitre 3 : Théorie éthique : Le conséquentialisme............................................................................ 11 Conséquentialisme............................................................................................................................ 11 Utilitarisme.................................................................................................................................... 11 Problèmes de l’utilitarisme........................................................................................................... 13 L’utilitarisme en contexte de risques............................................................................................ 14 Chapitre 4 : Code professionnel............................................................................................................ 16 Quels codes ?..................................................................................................................................... 16 Plusieurs fonctions............................................................................................................................ 16 Définition d’une profession : les caractéristiques............................................................................. 16 Code professionnel des ingénieurs : l’exemple du code de Unger................................................... 17 Chapitre 5 : Théorie éthique : Le déontologisme.................................................................................. 20 Familles de théories.......................................................................................................................... 20 3 catégories................................................................................................................................... 20 Doctrine du double effet............................................................................................................... 21 Critiques des théories agent-centrées.......................................................................................... 21 Les théories victimes-centrées...................................................................................................... 22 Emmanuel Kant (1724-1804)............................................................................................................. 22 Les problèmes............................................................................................................................... 23 Chapitre 6 : Valeurs & intérêts.............................................................................................................. 24 Contexte............................................................................................................................................ 24 Valeurs instrumentales & intrinsèques............................................................................................. 25 Monisme ou pluralisme des valeurs intrinsèques ?.......................................................................... 25 Valeur instrumentale ?...................................................................................................................... 25 Valeur dans l’usage........................................................................................................................ 26 Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 2 Moralité d’un artefact................................................................................................................... 26 Asymétrie entre le bien et le mal des artefacts............................................................................ 27 Chapitre 7 : Théorie éthique : L’éthique de la vertu............................................................................. 28 Définition de la vertu......................................................................................................................... 28 Aristote (4e S ACN)............................................................................................................................. 28 Vertu ?........................................................................................................................................... 28 Comment être vertueux ? La phronesis........................................................................................ 29 Deux formes d’éthiques de la vertu.............................................................................................. 29 Problèmes...................................................................................................................................... 29 Les vertus de l’ingénieur................................................................................................................... 30 Quid de l’intégrité ?....................................................................................................................... 31 Chapitre 8 : Concepts : Contexte & Complexité.................................................................................... 32 Sexisme.............................................................................................................................................. 32 Biais du standard............................................................................................................................... 32 Problème de l’accès........................................................................................................................... 32 Chapitre 9 : Théorie éthique : L’éthique du Care.................................................................................. 34 Le modèle critiqué : théorie du développement du jugement moral............................................... 34 Caractéristiques de la théorie du Care.............................................................................................. 35 Problèmes.......................................................................................................................................... 36 Care & Vertu...................................................................................................................................... 37 Quid de l’ingénieur émotif ?.............................................................................................................. 38 Chapitre 10 : Application : De la gouvernance algorithmique.............................................................. 39 Le cycle éthique................................................................................................................................. 39 La gouvernance algorithmique.......................................................................................................... 40 Les algorithmes, à bannir ?................................................................................................................ 43 Chapitre 11 : Application : Des drones & autres robots........................................................................ 45 Les lois de la robotique d’Asimov...................................................................................................... 45 Exemple des armes autonomes........................................................................................................ 45 Exemple des robots sociaux.............................................................................................................. 47 Autonomie sociale et Chinese Room................................................................................................ 47 Chapitre 12 : Application : Les énergies & le développement durable................................................. 49 Les éthiques environnementales...................................................................................................... 49 Les problèmes environnementaux.................................................................................................... 50 Que disent les éthiques traditionnelles quant aux défis du 21e siècle ?........................................... 51 Le développement durable............................................................................................................... 52 Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 3 Chapitre 1 : Introduction « Du normatif dans la technologie » La technologie est l'étude critique, la description des techniques (= des procédés) ; La technologie est donc théorique quand la technique se veut pratique. Le normatif c’est ce constitue une norme, établit des règles. Parenthèse : distinction éthique / morale. La morale est quelque chose d’individuel. Elle présuppose des convictions, par exemple la distinction entre le bien et le mal, qui vont guider dans nos comportements. Tandis que l’éthique, elle, s’inscrit dans un contexte de société, et repose sur des réflexions plus rationnelles. De plus, il s’agit souvent d’une discussion (ce n’est plus juste une règle que l’on s’impose seul de suivre). L’éthique est inductive (se base sur du concret) alors que la morale est déductive. Cependant une morale fait toujours l’objet d’une rediscussion, d’une adaptation dans le monde, dans un certain contexte, pour répondre à certaines questions. Et d’autre part, on ne peut jamais faire abstraction de sa morale, même quand on parle d’éthique. Donc morale et éthique sont très proches. 1 Exemple de la fusée qui explose. L’explosion était une conséquence inattendue. Mais si l’ingénieur n’est pas responsable des conséquences inattendues, est-ce que cela veut dire que l’utilisateur est responsable ? Que personne n’est responsable ? Le risque avait été annoncé par les ingénieurs, mais pas écouté par la hiérarchie, soit parce qu’elle était tenue par des obligations envers son client (besoin de fournir son produit à temps, il ne faut pas décevoir l’acheteur sinon on a plus d’argent…), soit parce qu’il y a un total manque d’échanges entre la direction et ses ingénieurs. L’ingénieur a de grands pouvoirs sur la société. Il peut réellement la changer. Il lui incombe donc de grandes responsabilités. « Pour une technologie réussie, la réalité doit primer sur les relations publiques, car la nature ne peut pas être trompée » « Là où il y a de grands pouvoirs, il y a de grandes responsabilités, Où il y a moins de puissance, il y a moins de responsabilités, Et où il n'y a pas de pouvoir, il n'y a pas de responsabilité » Churchill (ou Spiderman jsp) 1 https://www.youtube.com/watch?time_continue=2&v=wmvVtPYwtso Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 4 L’ingénieur est à la fois un créateur (c’est lui qui invente de nouvelles technologies), un gestionnaire (il en contrôle le fonctionnement, et contrôle une équipe de mains sous ses ordres) et un expert des technologies (il a un rôle d’expert, c’est lui qu’on interroge pour en savoir plus) (Opinion commune) La technologie permet de répondre à un besoin, de traiter un problème. La technologie est donc un instrument. Cela signifie qu’il y a donc d’abord un besoin / un problème, et qu’ensuite la technologie arrive. Dans cet ordre. Théorie de la médiation technologique : Et c’est en fait bien plus que cela. Tout le contexte dans lequel la technologie apparaît en ressort bouleversé. Les technologies redessinent notre manière de vivre. Elles changent totalement notre approche au monde, nos expériences. (Raisonnement commun) : Un objet n’a pas de statut moral. En effet, l’éthique est la question de ce que l’on devrait faire. Mais un objet, contrairement aux humains, ne se pose pas de question. Cependant, on peut argumenter contre cela. 1. Parce que les technologies ont des intentions Elles incarnent les intentions de leurs concepteurs (et possiblement des intentions inattendues). Exemple de l’échographie obstétricale Outre le fait d’apporter des soins, Elle aide constituer ce qu’est l’enfant pour les parents. (Ils peuvent se faire une image très précise de ce à quoi ressemble leur enfant, de le faire exister avant même la naissance) Elle contribue à isoler le foetus du corps de la mère. (La mère et le fœtus ne font plus un) Elle fait entrer le foetus dans un contexte de normes médicales. (Avec possibilité d’avortement) On voit donc que, probablement, ces conséquences n’avaient pas été imaginées par les ingénieurs qui ont créé le procédé. Mais cela n’empêche pas que celles-ci sont bien présentes. En elle-même, l’échographie possède des intentions, et dès lors, a des impacts, désirés ou non, qui vont plus loin que ce que la technique seule réalise. Nb : pragmatique = action concrète, pratique / herméneutique = interprétation / artefact = quelque chose créé par l’homme qui change une expérience. Les artefacts étant omniprésents, l’homme est en permanence sujet à la médiation technologique. Toutes les actions que l’homme veut accomplir sont influencées par les intentions implantées dans les technologies. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 5 2. Parce que la médiation technologique modifie le domaine du possible Certes, nous sommes responsables de nos actions, cependant, la technologie modifie le domaine de nos actions et donc notre responsabilité. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 6 Chapitre 2 : Concepts : Risque & Expertise Postulat de base : nous allons tous mourir. Notre mort est donc déjà planifiée et la société est pleine de risques. Exemple du remonte-pente en nouvel acier inoxydable : On doit faire appel à un expert pour évaluer si effectivement le risque d’accidents avec le nouvel acier est fortement diminué et donc ne nécessite plus autant d’inspections. → Le poids de l’expert est énorme. Il fait autorité (on ne peut pas le contredire puisque lui-seul est expert). Donc la prise de décision n’est certes pas sienne, mais son avis compte tellement que presque. Nb : On doit faire plus attention à un risque plus grand mais dont la probabilité d’arriver est plus faible qu’à un risque plus faible mais dont la probabilité d’arriver est plus grande ! La connaissance par témoignage Soit une proposition concernant un certain domaine d’expertise. Si A est expert dans ce domaine, alors il croit possiblement rationnellement que la proposition est bonne ou mauvaise Si B n’y connaît rien dans ce domaine mais qu’il a l’impression que la proposition est bonne ou mauvaise, il n’est pas rationnel dans sa prise de décision Si C n’y connaît rien dans ce domaine, mais pense que A est un expert pertinent pour la proposition et qu’il a de bonnes raisons de penser que la proposition est bonne ou mauvaise. Cela signifie donc que C croit sans aucune preuve concernant la proposition, il ne comprend même peut-être pas ce qu’elle implique et de quoi il en retourne. Nb : le verbe croire est utilisé comme « penser » C a plus de bonnes raisons de croire la proposition bonne ou mauvaise que B. A est comme une source, il semble y avoir de bonnes raisons pour lesquelles A est convaincu. Est-ce qu’on peut prendre des décisions sans être en pleine connaissance de tous les tenants et aboutissants ? Est-ce qu’on peut se fier aux autres ? Le problème, c’est qu’actuellement, tout le monde ne peut pas comprendre tout. Dans notre société techno-scientifique, énormément de connaissances reposent uniquement sur la confiance en d’autres sources. Et surtout dans les sciences. On croit que la Terre tourne autour du Soleil mais on ne l’a jamais observé et démontré nous-même. Nous faisons confiance au consensus scientifique sur le sujet. Et les scientifiques eux-mêmes se reposent sur d’autres scientifiques pour leurs travaux. Les autorités se font de plus en plus distantes, et finalement personne ne sait plus rien vérifier, tout le monde fait juste confiance. On fait confiance au fait que ça a été bien réalisé, qu’il n’y a pas eu d’erreurs, que les travaux ont été vérifié, et une fois que cela a été accepté comme vrai, on n’a plus besoin de le vérifier soi-même. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 7 ➔ Quasiment tout ce que les humains savent est su d’autres. Mais quand on n’y connaît rien, comment savoir à qui faire confiance ? Questionner la confiance que l’on porte envers l’expert (souvent on fait confiance à toute une catégorie de personnes (ex : les ingénieurs) jusqu’à preuve qu’on ne peut pas leur faire confiance. On ne se base pas sur la connaissance pure, mais sur la confiance) Evaluer les experts sur une base épistémologique (sur la connaissance) (comme pour juger une source d’information quelconque) Comment évaluer un expert ? 1. Analyser les arguments de part et d’autre 2. D’autres experts sont-ils d’accord ? 3. Evaluer les experts par des méta-experts / des institutions 4. Analyse des intérêts / des biais que l’expert pourrait avoir 5. Regarder les antécédents de l’expert Il ne faut donc pas utiliser les experts comme des oracles, on peut, même si on n’y connaît rien dans ledit sujet, tester la fiabilité. (Personne ne prend le temps de faire ce genre de choses …) Problème des pots pour bébés contenant un conservateur néfaste On n’est pas trop sûr du risque, on ne sait même pas s’il y a un effet. ➔ Il faut pouvoir évaluer la gravité de la situation ! Exemple du pistolet pas chargé mais on ne sait jamais quoi ➔ Le fait que la conséquence soit très grave pèse lourdement dans la décision de prendre le risque. Alors on n’est plus convaincu que l’expert soit omniscient, on se dit qu’il peut y avoir des inconnues-inconnues « Comme nous le savons, il y a des connaissances connues ; il y a des choses que nous savons que nous savons. Nous savons aussi qu'il y a des inconnus connus ; c'est-à-dire que nous savons qu'il y a des choses que nous ne savons pas. Mais il y a aussi des inconnus inconnus, c'est-à-dire que nous savons qu'il y a des choses que nous ne connaissons pas » Secrétaire d’état à la Défense Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 8 Qu’est-ce qu’un risque ? 1. Un évènement non souhaité qui pourrait se produire. (Cancer = risque auquel s’exposent les fumeurs) 2. La cause d’un évènement non souhaité qui pourrait se produire (Fumer = le risque majeur d’avoir un cancer) 3. Probabilité qu’un évènement non souhaité se produise (Risque qu’un fumeur meurt du cancer = 50%) 4. Espérance mathématique d’un évènement non souhaité. (Probabilité * nocivité de la conséquence) 5. Fait qu’une décision soit prise sous la condition de probabilités connues (« décision sous risque » opposé de « décision sous incertitude ») Quelques petits sophismes … A. Un risque naturel devrait être accepté Naturel ne veut pas dire que ce n’est pas nocif pour l’humain (nb : seulement dans le contexte écologique, l’argument naturel peut-être accepté) L’éthique ne caractérise pas comment le monde est, mais cherche à savoir comment le monde devrait être. On a le devoir de transformer le monde en fonction de comment on pense qu’il devrait être. (On peut penser qu’on devrait vivre dans un monde dans lequel on aurait exterminé les maladies, même si c’est naturel. Le naturel n’intervient donc pas dans la décision) B. Il n’y a pas de preuves scientifiques que quelque chose est dangereux, donc aucune action pour l’éliminer ne doit être prise Les scientifiques font parfois des erreurs, et la logique scientifique sous-estime souvent le risque. Les scientifiques préfèrent sous-estimer un phénomène plutôt que de faire de faux-positif, parce que cela contaminerait la recherche future puisque les scientifiques fonctionnent de manière empirique, s’utilisant les recherches des uns et des autres pour avancer. Cependant, il y a une grande discordance avec la gestion de prise de risque. En effet, on peut vivre avec des faux-positifs. (Ça ne dérange pas de surestimer un risque, alors que si on le sous-estime, c’est beaucoup plus grave.) La logique de l’ingénieur est donc très différente de la logique scientifique Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 9 C. Si quelque chose n’implique pas de risque détectable, alors c’est qu’il n’implique pas de risques inacceptables Les risques peuvent être dans une situation qu’on ne va jamais imaginer, alors que ça peut arriver. Il s’agit d’inconnues-inconnues, et on devrait donc utiliser le principe de précaution (voir après), même si c’est un frein à l’innovation. Tant qu’il y a des inconnues-inconnues, il est dangereux de mettre une technologie sur le marché. D. Si un risque Y est plus petit qu’un risque x acceptable, alors Y devrait être acceptable On ne peut pas comparer des risques, car chaque risque possède une dimension contextuelle, temporelle, … Exemple de fumeur/non-fumeur : La non-fumeuse ne se connait pas en tant que fumeuse, elle doit donc mettre une probabilité. La fumeuse en revanche connait la situation. Elle est motivée, et elle est dans l’intérêt d’arrêter. C’est plus rationnel de prendre la décision sans mettre de probabilité, pour être sûr d’y arriver Exemple d’Ulysse : Le Ulysse de maintenant ne fait pas confiance à Ulysse du futur. Le Ulysse de maintenant travaille activement contre le Ulysse futur, car le Ulysse futur, s’il était un humain libre, déciderait de sauter à l’eau. Mais le Ulysse de maintenant sait qu’il va devenir X, il prend donc les mesures pour annuler le risque de X va prendre. Il anticipe qui il sera dans le futur en mettant une probabilité. Dans la situation de la non-fumeuse qui veut tester, c’est le cas, mais dans la situation de la fumeuse qui veut arrêter, c’est l’inverse, les raisons de maintenant doivent rester valable ! Les ingénieurs de maintenant doivent limiter les risques pour le futur, en présumant que les gens du futur seront d’accord avec eux (même si ce ne sera peut-être pas le cas) Dès lors, garde-t-on toute la responsabilité de ce qu’il va se passer dans le futur, en bloquant la possibilité que le futur ait à faire ce choix, ou alors laisse-t-on les gens du futur faire la décision ? Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 10 Modélisation Quel poids donner aux données par rapport aux prédictions ? (Si je jette un dé 100 fois et que je tombe 100 fois sur 6, je vais penser que la probabilité de faire 6 est 1, alors qu’elle est vraiment de 1/6. Mais comment savoir si je ne me suis pas trompé dans mon calcul de proba) Les risques technologiques : deux types de sécurité : 1. Sécurité inhérente : on élimine le danger (je m’arrange pour qu’il n’y ait rien d’inflammable) 2. Prévention secondaire : on diminue le risque du danger (je m’arrange pour qu’il n’y ait pas de gaz) Pour compenser la prise de risque technologique, on établit un coefficient de sécurité, qui est le rapport entre le maximum que l’on peut atteindre sans atteindre une défaillance et l’utilisation prévue par l’usager. Il permet de créer une marge d’erreur afin de prémunir de facteurs comme : une utilisation plus conséquente que prévue, des matériaux moins bons que prévus, un modèle imparfait de fonctionnement, une panne in-imaginée, une erreur humaine. Il faut donc pouvoir avoir des systèmes de « backup ». C’est-à dire que l’on doit pouvoir prévoir quelque chose en secours au cas où quelque chose d’imprévu arrive. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 11 Chapitre 3 : Théorie éthique : Le conséquentialisme Un jugement descriptif porte sur ce qui est (l’actuel), ce qui a été (le passé) ou ce qui sera (l’avenir). Sa valeur de vérité dépend de ce qu’est le monde. Par exemple, « Bruxelles est actuellement la capitale de la Belgique ». Un jugement normatif porte sur ce qui devrait ou ce qui ne devrait pas être, en particulier sur ce qui est désirable ou pas. Par exemple, « Tuer un être humain est mal » ou encore « Cette peinture est belle ». Les normes sont des règles qui prescrivent quelles actions sont requises, permises ou interdites. Elles sont le cadre de la vie sociale. L’éthique est l’étude de ce que le doit faire. L’éthique normative est l’étude des règles à adopter pour faire ce que l’on doit faire. ➔ En éthique on essaye de justifier un comportement par la morale, pas par les lois. Ce qui signifie qu’on espère que ce qui est légal est éthique, mais l’inverse n’est pas vrai, ce qui est éthique n’est pas forcément légal. Conséquentialisme Le comment de l’action n’est pas pertinent, seulement la conséquence compte Une action n’est jamais bonne ou mauvaise en soi, ce sont les conséquences de l’action qui font que c’est bien ou mal. Tuer quelqu’un peut être bien en fonctions des circonstances, et donc des conséquences que cela va avoir. Dès lors, comment mesurer les conséquences, comment les évaluer ? Utilitarisme L’action qui doit être faite est celle qui maximise le bien-être du plus grand nombre. Comment évaluer le bien-être ? a. L’hédonisme : Balance plaisir/douleur de l’action b. L’utilitarisme des préférences : Satisfaction des préférences de la communauté Le calcul doit prendre en compte tous les gens touchés par l’action. L’humanité tout entière peut- être, et même les animaux si on les considère comme capable de souffrance. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 12 Cette théorie rend l’éthique beaucoup plus objective : il ‘suffit’ de faire la balance du bien et du mal, et la morale de l’agent n’entre plus en compte Dilemme du tram D’un point de vue utilitariste, actionner un levier pour tuer une seule personne ou pousser une personne qui arrêterait le tram ne sont pas deux actions équivalentes. En effet, l’effet sur la personne qui effectue l’action n’est pas le même. Dans le choix 2, il tue vraiment quelqu’un, ce qui est plus traumatisant. L’évaluation des conséquences doit avoir un maximum de données pertinentes. Elle doit contenir le maximum de conséquences possibles. Nb : il ne faut pas oublier que l’agent moral ne fera pas forcément ce qui est le plus éthique, car cela est dur d’influer et de causer la mort de quelqu’un Nb : il ne faut pas oublier non plus de prendre toutes les conséquences de l’action : si par exemple on se retrouvait avec Mandela à balancer du pont. Il faut prendre en compte non pas les valeurs intrinsèques, mais les conséquences que cette action aura. (Les autres théorie éthiques prennent en compte des valeurs intrinsèques, le conséquentialisme non. Ils défendent le fait que chacun recherche le plaisir et fuis le bonheur. C’est universel. Avec certaines nuances en fonction des cultures mais c’est tout le temps la même chose) Un calcul utilitariste tient en compte de tous les humains de façon égale. (Donc si on devait appliquer cette théorie, tout l’argent de l’occident devrait aller aux pays du sud, puisque l’effet de cela aurait un effet tellement énorme sur leur bonheur que ce serait plus ‘rentable’ que d’investir dans les pauvres ici) Comment réussir à pondérer cette balance du bien-être ? 1. La liberté : « On est libre de faire ce que l’on veut aussi longtemps que nous ne portons pas atteinte aux autres » Le bien-être, et donc sa maximisation, présuppose de l’existence de la liberté, c’est-à-dire l’existence d’un contexte social qui permet aux gens de possiblement atteindre leurs préférences. Les sociétés liberticides ne peuvent pas satisfaire le bien être du plus grand nombre. Cela dénote donc d’une tendance libérale ! Nb : liberté pas indispensable strictement : on peut mettre quelqu’un en prison. Il faut le mettre là où il fera le moins de dommages possibles à la société, afin de maximiser le bien-être du plus grand nombre ! (Même si maximiser la liberté des gens c’est un principe de base, même si dans certaines circonstances, on devra aller contre) Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 13 2. Qualité distincte D’un point de vue hédoniste, la souffrance et le plaisir viennent en qualité distincte (plus qu’en quantité distincte). Cela signifie donc que l’on ne peut pas comparer des douleurs et des plaisirs qui sont de types différents (comment comparer le plaisir de bien manger et de lire de la poésie, de la peine de perdre un proche et la douleur physique) Problèmes de l’utilitarisme Paradoxe de Nozick (problème de fond) Si on offre à une personne la possibilité de se brancher de manière définitive à une machine simulant des expériences heureuses en continu, elle dirait probablement non. Cela signifie que soit il y a un problème dans l’axiome des utilitaristes : il n’est pas souhaitable de maximiser le bonheur (plot twist), soit que tes préférences seraient de ne pas vivre dans un monde artificiel. (Utilitarisme des préférences). → Ce n’est pas la vraie vie Interchangeables (problème de fond) L’utilitarisme n’accorde aucune importance à l’être humain, ils les considèrent tous comme interchangeables. Dans le dilemme du tram, on ne prête même pas attention à qui on tue. Tous les humains sont donc des pions, et le but du jeu est de maximiser le bonheur du plus grand nombre. Conséquences imprévues (problème technique) On doit être capables d’anticiper toutes les conséquences. Or, il y a toujours des inconnues- inconnues dont on doit tenir compte. (On doit choisir dans le spectre des actions possibles celle qui aura les meilleures conséquences. Mais on ne connait même pas toutes les actions possibles, ni toutes les conséquences) On peut alors se dire qu’il faut aplanir les conséquences, comme avec les préférences. Mais cela ne règle pas le souci : on ne peut toujours pas prendre une décision car on ne connait pas la structure de préférences de chacun nb : Il y a un devoir d’explorer toutes les conséquences de nos actions, proportionnellement au pouvoir que l’on a. (Plus une action a de grandes conséquences, au plus il est nécessaire d’explorer les conséquences possibles de l’action) Comparaison (problème technique) Tous les bien-être et toutes les préférences varient d’un individu à l’autre et dans des mesures et nuances différentes. Il est impossible de comparer pour chacun quel bonheur est mieux qu’un autre, ou quelle souffrance est moins pire qu’une autre. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 14 Justice distributive (problème de fond) Comme sus-noté, l’utilitarisme traite la société comme un tout (interchangeables). Cependant, il est probable que la plupart des actions qu’on prend fera souffrir certaines personnes. Et cela va à l’encontre de la justice humaine. On ne peut tolérer des inégalités que si elles sont justifiées par un principe suprême. On ne peut pas tolérer des inégalités dues à la classe sociale, le sexe, la religion, etc. Ce serait inéquitable et donc injuste. Le risque que l’on fait courir devrait, selon la notion de justice, être portée sur l’ensemble de la population de manière égalitaire. Mais selon, un calcul utilitariste, on a plus intérêt à le porter sur une minorité → injustice. Relations personnelles (problème de fond) Ce qui compte, c’est le bien-être total, pas le bien-être de telle ou telle personne. Dès lors, en tant qu’humain, nos relations d’amitié et familiales risquent d’entrer en conflit constant avec l’éthique utilitariste. Il ne faut pas non plus oublier que dans les relations inégales, il y a une responsabilité du fort envers le faible (mère/enfant), qui est totalement absente dans l’utilitarisme. Actes (problème de fond) Un ingénieur qui juge qu’un action spécifique interdite est bénéfique devrait la faire. Mais si tout le monde faisait des calculs utilitaristes, ce serait l’anomie. Dans la réalité, un utilitarisme des règles est appliqué, on s’éloigne du principe même de la théorie pour gagner en pragmatisme. Exemple de la Ford Pinto Le calcul proposé par Ford montre qu’il est plus rentable de ne rien faire car cela revient moins cher. Il présente un argument de style utilitariste. Mais ce n’est pas le cas. Ils prétendent qu’argent et bien- être sont corrélés, et qu’en investissant l’argent économisé, le bien-être sera maximisé. Rien n’est moins sûr. L’utilitarisme en contexte de risques Actualisme L'utilité d'un ensemble probabiliste de conséquences potentielles est égale à l'utilité du résultat qui se matérialise réellement. Pour illustrer l'approche actualiste, examinons la décision d'un ingénieur de renforcer ou non un pont avant qu'il ne soit utilisé pour un seul transport très lourd. Il y a un risque de 50 % que le pont s'effondre s'il n'est pas renforcé. Supposons qu'elle décide de ne pas renforcer le pont et que tout se passe bien ; le pont n'est pas endommagé. Selon l'approche actualiste, ce qu'elle a fait était juste. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 15 Ce qui compte est donc ce qui arrive réellement, on ne peut juger si l’action est bonne qu’après- coup. L’utilité attendue L'utilité d'un ensemble probabiliste de conséquences est égale à la valeur de la moyenne pondérées des utilités de ces conséquences par les probabilités. C'est une solution beaucoup plus crédible, et elle a l'avantage important de maximiser le résultat à long terme. Supposons, par exemple, que le nombre attendu de décès dans les accidents de la circulation dans une région sera de 300 par an si le port de la ceinture de sécurité est obligatoire et 400 $ par année s'ils sont facultatifs. Si ces calculs sont corrects, environ 100 personnes de plus par an seront tuées dans ce dernier cas plutôt que dans le premier. Nous savons que lorsque l'on choisit une de ces options, qu'elles entraînent moins ou plus de décès que l'autre option. Si nous visons de réduire le nombre de victimes de la route, alors cela peut, en raison de la loi des grands nombres, être en maximisant l'utilité prévue (c’est-à-dire en minimisant le nombre de décès prévus). Toutefois, cet argument n'est pas valable pour les décisions prises au cas par cas sur des événements. Supposons, par exemple, que nous ayons le choix entre une probabilité de 0,001 d'un événement qui tuera 50 personnes et une probabilité de 0,1 d'un événement qui tuera une personne. Les effets ne seront pas nivelés comme dans le cas de la ceinture de sécurité. En d'autres termes, nous ne savons pas, quand choisir l'une des options, qu'elle entraîne ou non moins de décès que l'autre option. Dans un tel cas, pris isolément, il n'y a pas de raison impérieuse de maximiser l'utilité attendue. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 16 Chapitre 4 : Code professionnel Quels codes ? a. Code de conduite Un code dans lequel une organisation établit les règles de conduite visant au comportement responsable de ses membres. b. Code professionnel Un code de conduite formulé par une association professionnelle, il donne un cadre moral/éthique à respecter pour toute une profession. c. Code corporatif Un code de conduite formulé par une entreprise. Il règle la responsabilité des entreprises envers leurs actionnaires et la société. Plusieurs fonctions a. Code aspirationnel Code qui décrit les valeurs morales d’une profession ou d’une entreprise. Il définit un modèle à suivre, une aspiration auquel tous les membres de la profession devraient tendre. b. Code consultatif Code visant à aider les membres d’une organisation à exercer leur jugement moral dans des situations concrètes. c. Code disciplinaire Code qui a pour objectif de forcer les membres d’une organisation à agir conformément à des valeurs ou normes, avec des sanctions à la clé. Définition d’une profession : les caractéristiques Une profession est un certain type de métier. Certains métiers ont tendance à devoir prendre des décisions éthiques plus souvent que d’autres, et ont donc une responsabilité envers la société qui est proportionnelle à l’importance de la décision éthique dans celle-ci. Caractéristiques d’une profession : 1. Usage d’un savoir et de techniques spécialisés. Cela signifie qu’il ne s’agit pas d’un métier standard, les personnes qui font cette profession sont des experts. 2. Un monopole sur l’occupation. Ils sont les seuls à pouvoir exercer ce métier. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 17 3. Une évaluation et un contrôle nécessitant les pairs. Comme ils sont des experts, seuls d’autres experts de la profession peuvent les contrôler. 4. Production de biens, services ou valeurs utiles à la société. Ils ont un statut « prioritaire » 5. Pratiques soumises à des standards éthiques. Le poids des actes est grand, car chacun entraîne des conséquences lourdes Code professionnel des ingénieurs : l’exemple du code de Unger Préambule La première préoccupation de l’ingénieur doit toujours être la qualité de vie des individus : le bien du public est le bien suprême. Il faut se conduire de manière honorable (il faut être honorable pour mériter la confiance et le respect, car s’il y en a plus, il n’y a plus d’ingénieurs) L’ingénieur a une responsabilité envers : la société, l’employeur, le client, les collègues/ subordonnés Article 1 : La responsabilité envers la société est une responsabilité suprême 1.1) Dans le design, on doit anticiper comment le produit va être utilisé, et toutes les conséquences directes et indirectes. On doit donc s’informer de manière appropriée (pas trop mais pas trop peu) et informer les autres. 1.2) Orienter son comportement en fonction des valeurs morales, en balançant avec le fait que la société doit rester le bien suprême. En tant qu’ingénieur, on ne peut pas juste dire « j’ai obéi, je ne savais pas ». Nb : il est compliqué d’envisager toutes les manières dont une technologie va être utilisée car elle peut l’être de plein de manières, mais cette évaluation DOIT être faite. 1.3) La sécurité, la santé, et le bien-être du public passent avant tout. Dès lors, si un projet d’un autre ingénieur va à l’encontre de cela, je dois lui faire remarquer, proposer une solution, avertir le public. L’ingénieur n’est pas un simple exécutant. 1.4) L’ingénieur a aussi une fonction d’expert. Il a dès lors une responsabilité d’informer le public en ce qui concerne les nouvelles technologies ( → implique que l’on doit se tenir au courant) 1.5) Il est souhaitable qu’une partie du métier d’ingénieur soit en dehors de la sphère économique et s’engage dans des causes qui en valent la peine → il est important de s’engager pour la société civile. (Pendant une époque, il était interdit pour un ingénieur de NE PAS vendre ses services, il va donc à contre-courant de cela) Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 18 → On sent une tendance libérale démocrate : le public doit pouvoir prendre ses propres décisions pour lui-même, et pour cela il doit être informé. Article 2 : Relation client L’ingénieur doit s’impliquer dans des entreprises honorables qui veulent le bien du public 2.1) L’ingénieur doit être au courant des choses du monde, techniques mais aussi sociétales, politiques, … qui sont pertinents dans son travail. 2.2) L’ingénieur doit être honnête et ne pas falsifier des données (car sinon le public sera mal informé, et il perdrait la confiance envers l’ingénieur ➔ confiance = vertu, conséquentialisme). 2.3) L’ingénieur ne doit pas exagérer ses compétences (pour les mêmes raisons) Article 3 : Relation employeur / client 3.1) L’ingénieur doit agir comme un agent digne de confiance, loyal, SAUF s’il lui est demandé de faire des choses qui vont à l’encontre d’un autre point du code. Si dans une situation particulière, une société lui demande de falsifier des données, de faire quelque chose qui va à l’encontre du bien de la société, la loyauté passe après. 3.2) Garder les informations confidentielles jusqu’à ce que ce soit approprié qu’elles soient rendues publiques. (Si une info à laquelle on a accès menace le bien du public par exemple, ou va à l’encontre d’un autre point du code, il est de notre devoir de la révéler dans une certaine mesure). 3.3) Dans toutes circonstances où il POURRAIT y avoir conflit d’intérêt, on doit le rendre public. S’il y a juste une apparence de conflit, elle doit quand même être combattue, puisque les ingénieurs doivent être dignes de confiance en toute circonstances. 3.4) Les pots de vins sont interdits car cela nuit à la confiance Article 4 : Collègues / Subordonnés 4.1) Accepter la critique et rendre crédit aux gens qui ont fait les choses. (Les humains ont une valeur en soi, on ne peut pas les trahir → réciprocité qui fait partie des relations entre égaux ➔ KANT) 4.2) Les autres doivent être jugés uniquement pour leurs qualités techniques, leur jugement, leur morale, … D’autres facteurs que ceux-là ne rentrent pas dans le cadre des relations professionnelles. Et on respecte la vie privée Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 19 4.3) Les aider à grandir professionnellement. (Pas juste ne pas leur nuire, mais vraiment les aider à se développer car ce ne sont pas que des outils ➔ CARE) 4.4) L’ingénieur doit disséminer l’information librement car c’est le propre d’une société libre (sauf si cela va à l’encontre d’un autre point du code) 4.5) Promouvoir la santé et la sécurité dans les conditions de travail (➔CARE) Nb : Rien n’est dit quant à la protection de la profession (interdiction en public de critiquer la profession, interdiction de travailler avec des gens de mauvaise réputation, etc.) → Il sous-entend que si tous les ingénieurs respectent le code, ils sont tous honorables, et il n’y a pas besoin de protéger la profession. Protéger la profession est un aveu de faiblesse : c’est l’anticipation que les membres de la profession feront des choses qui vont lui nuire. La difficulté d’un code, c’est qu’il dit vers où pointer. On doit être capable d’équilibrer les différents points de celui-ci. On doit porter l’attention sur différentes choses en même temps qui se contredisent parfois. Mais le code n’est pas un algorithme, il présente juste un idéal. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 20 Chapitre 5 : Théorie éthique : Le déontologisme Contrairement au conséquentialisme, le déontologisme accorde de la valeur aux caractéristiques de l’action elle-même, et les intentions avec lesquelles elle est réalisée. Familles de théories Agent-centrées Un agent a la permission ou l’obligation d’agir sur base de raisons qui lui sont propres Exemple : un parent a le devoir de s’occuper de son enfant Victime-centrées Basé sur le droit plutôt que sur le devoir 3 catégories Emphase sur les intentions des agents Si les intentions étaient bonnes, on va avoir tendance à ne pas faire attention aux conséquences néfastes. Emphase sur les actions des agents Si l’action en elle-même est bonne, on va moins faire attention à pourquoi on les a faites. Exemple : les 10 commandements Emphase à la fois sur les intentions et sur les actions Fais la balance des deux. 1. Agent-centrées, emphase sur l’intention On ne peut agir mal intentionnellement, même si finalement, le but est bénéfique. Si les intentions sont mauvaises, alors l’action est mauvaise, et si les intentions ne sont pas mauvaises, alors l’action n’est pas mauvaise. Mais même si la conséquence finale est positive, c’est mal d’agir avec des mauvaises intentions. Attention cependant à la distinction de ce qu’est une intention. Pour cela, il faut différencier le « croire », « risquer », « causer ». Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 21 - « Croire » : prévoir une conséquence néfaste à notre action ne veut pas nécessairement dire que nous avons l’intention de causer cette conséquence. - « Risquer » : Risquer ou causer le mal est distinct d’avoir l’intention de faire le mal. - « Causer » : On peut avoir l’intention de tuer quelqu’un et ne pas causer sa mort. Doctrine du double effet Avoir l’intention de faire une action néfaste, même si cela diminue le nombre d’actions néfastes futures par d’autres agents ou soi-même, est toujours néfaste et donc interdit. Par contraste, si seulement nous risquons, causons ou prédisons que notre action pourrait avoir des conséquences sur de tels actes futurs, alors on pourrait être en mesure de justifier l’action, car on n’avait pas l’intention de mal faire Ce sont des dommages collatéraux. 2. Agent-centrées, emphase sur l’action Nous sommes responsables de nos actions mais pas de nos intentions, même si nos actions néfastes résultent souvent d’intentions spécifiques. L’action en elle-même est moralement injustifiable, peu importe les intentions qui peuvent être bonnes. Exemple : tu ne tueras pas d’innocent. Nb : L’inaction n’est pas une action à part, sauf quand il s’agit de devoirs que l’on n’honore pas. Il y a une différence en tuer et laisser mourir, causer et permettre n’est pas la même chose. 3. Agent-centrées, emphase sur l’intention et l’action On met l’emphase sur les actions causées intentionnellement. L’important est la coordination entre l’intention et l’action Exemple : l’obligation du respect de la vie humaine n’est pas de ne pas tuer ou de ne pas avoir l’intention de tuer, mais bien de ne pas commettre de meurtre (tuer intentionnellement) Critiques des théories agent-centrées a. Le point de vue de la victime n’est jamais pris en compte b. Le double effet est les nuances des intentions (intention ou prédire, intention ou permettre, intention ou omettre, causer ou accélérer) sont des outils conceptuels pour justifier le mal. Comme on n’a jamais accès aux véritables intentions, on peut tout justifier. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 22 Les théories victimes-centrées Basées sur le droit plutôt que sur le devoir ! Exemple du tram où on pousse quelqu’un : L’homme a le droit de ne pas être utilisé pour le bien d’un autre sans son consentement. Il se fait utiliser comme un outil, ce qui viole ses droits. → Il arrive souvent que l’on doit violer les droits de certains afin de garantir ceux d’autres. Comment peut-on éthiquement le justifier ? On pourrait argumenter que tous les droits ne sont pas toujours égaux. C’est toujours contextuel, au cas par cas. Emmanuel Kant (1724-1804) Kant a essayé de trouver une façon de bien agir, d’être bon, mais en se basant uniquement sur la raison et l’intelligence humaine, jamais sur la religion. Point de départ de la réflexion de Kant : je m’attribue une valeur qui m’est intrinsèque. Je me reconnais donc des droits. Les obligations morales viennent de là : la réciprocité. Si je me reconnais des droits, alors je dois en reconnaître aux autres. S’en suit logiquement l’égalité de droits entre les Hommes. En effet, si je considère les gens comme des choses, je nie leur humanité, donc la mienne par conséquent. De plus, les lois morales permettent de fonder des revendications, qui sont nos raisons d’agir. Kant considère que les humains sont des fins en soi, notre vie est un bien absolu. Cela nous donne donc des obligations envers nous-mêmes et envers les autres selon le principe de réciprocité Faut-il la réciprocité absolue pour faire les droits et les devoirs ? Pas vraiment : on a prolongé les devoirs aux personnes handicapées, aux enfants, aux animaux. Kant arrive donc à l’impératif catégorique, fondement de tout jugement moral, venant de la Raison (cela implique que le contexte n’importe pas) Première formulation : principe d’universalité « Agis seulement d'après la maxime grâce à laquelle tu peux vouloir qu'elle devienne une loi universelle » Toute action est bonne si elle est universalisable Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 23 L’universalité se couple avec le fait que chaque humain a un droit absolu. → Seconde formulation : principe de réciprocité « Agis de façon telle que tu traites l'humanité, aussi bien dans ta personne que dans toute autre, toujours comme fin, et jamais simplement comme moyen » Nb : parle de relation aux autres mais aussi à nous-mêmes, il est donc de notre devoir de prendre soin de soi, afin de réaliser notre pleine humanité. Retour sur l’exemple de la Ford Pinto : Ford a considéré ses consommateurs comme des moyens de faire de l’argent et non comme une fin en soi. Appliquer le déontologisme Kantien est coûteux pour une entreprise : il nécessite une totale transparence, l’information sur les défauts, de traiter ses employés et ses consommateurs comme des fins en soi. Les problèmes Les utilitaristes disent qu’il a toujours une solution : celle qui maximise le bien-être. Pour Kant, il n’y a pas toujours de bons choix. Parfois les droits entre en contradiction. Il faut alors choisir le moins mauvais choix. Alors, on réduit la force catégorique d’un devoir quand il entre en conflit avec un autre. On en fait un devoir prima facie : le devoir n’est plus absolu, il l’est juste à première vue, mais en cas de contradiction, on peut le transgresser. Chez Kant, aucune importance n’est portée à la conséquence de l’action. Une action peut alors être jugée bonne même si les conséquences sont catastrophiques. Et tout le monde a des droits, même ceux qui ne le méritent pas. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 24 Chapitre 6 : Valeurs & intérêts Contexte Il faut différentier la notion de valeur en fonction du contexte. 1. Le plaisir c’est bien (le plaisir est une ou la valeur) → Attribution morale 2. C’est bien que tu sois venu → la conséquence de l’action est positive (conséquentialisme) 3. Il est bon pour lui qu’elle lui parle → contextuel 4. Ceci est un bon couteau → attribution instrumentale Est-ce que la notion de bien est toujours contextuelle ? Est-ce que cela est relatif au point de vue, à l’agent ? Si l’objectif est placé par l’agent, alors la valeur (bon/mauvais) est l’adéquation entre les caractéristiques de l’objet/de l’action et les objectifs poursuivis. (Un couteau sera bon pour couper mais mauvais pour boire) Quid de « Le plaisir c’est bien », par rapport à « Patrick est un bon acteur » Soit on soutient que les assertions (ce que l’on déclare comme une vérité) sur les valeurs morales sont quelque chose de spécial, des biens absolus. Soit on dit que tout peut se ramener à des jugements de l’agent → On peut alors tout mesurer. La différence entre les biens absolus et les ‘biens pour’ est inexistante. Des biens absolus ne peuvent pas être comparés, mais on peut comparer des choses factuelles. Exemple : quand on dit que Jon est meilleur sprinter que Jan, on ne dit pas que Jan est un mauvais sprinter. La valeur « bon sprinter » ne peut être comparée, puisque c’est un bien absolu, partagé par les deux, alors que le sprint en lui-même peut être comparé, sur base du temps par exemple. Question méta-éthique : Est-ce que le mal est l’absence de bien ? Son inverse ? Des extremums sur une échelle ? → Dénote de la difficulté à toujours ramener à un contexte, et à voir dans l’absolu. Il en ressort néanmoins que les valeurs éthiques semblent être différentes que d’autres valeurs. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 25 Valeurs instrumentales & intrinsèques a. Valeur instrumentale : la valeur est bien seulement pour ce à quoi elle mène. Exemple : l’argent. b. Valeur intrinsèque : la valeur n’est bien pas juste en fonction de ce à quoi elle mène. Le mot intrinsèque a été choisi car ce seraient les propriétés intrinsèques qui seraient clefs en éthiques. Toutes les valeurs instrumentales mèneraient-elles à une valeur intrinsèque ? Exemple : Si je veux de l’argent, ce n’est pas pour l’argent en soi, c’est pour m’acheter quelque chose et donc en avoir le plaisir, plaisir qui est une valeur intrinsèque. Nb : Il est avantageux de convaincre qu’il s’agit d’une valeur intrinsèque parce que cela soumet. En effet, une valeur instrumentale peut être remise en cause, en disant qu’elle sert un but qui peut changer,... Monisme ou pluralisme des valeurs intrinsèques ? D’après l’utilitarisme, il n’y aurait qu’une seule valeur : le plaisir. Tout le reste serait valeur instrumentale. D’autres argument qu’il en existe plusieurs, ce qui mène à des conflits insolvables puisque deux biens absolus ne peuvent être comparés. Mais ne pourrait-on pas essayer de placer les différents biens absolus sur une échelle d’importance ? Valeur instrumentale ? Peut-on attribuer une valeur morale à un objet éthique ? Posons quelques bases : > L’agentivité est ouverte aux jugements normatifs (Un jugement de l’agentivité qui serait valable universellement) C’est-à-dire qu’on présuppose que les agents savent faire des jugements de valeur. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 26 > Dans le monde il y a des faits, donc pas de normes. Nous, agents, sommes la source de ce que l’on devrait faire. C’est une relation entre les faits et les devrait faire Faisons d’abord une approche fonctionnelle : un type d’objet est bon par rapport à la fonction qui lui est attribuée. Bon signifie donc « qui remplit bien sa fonction ». L’objet en lui-même n’est pas « bon », c’est par rapport à ses propriétés normatives, c’est-à-dire l’usage que les agents en font, qu’on peut le qualifier de « bon ». La question est donc : existe-t-il des cas où la valeur n’est pas uniquement instrumentale ? Y a-t-il des objets techniques « intrinsèquement bons » ? ATTENTION : la question ici ne touche pas les objets ‘en particulier’ auxquels on peut attribuer une valeur affective par exemple, mais plutôt à un « type » d’artefacts. Valeur dans l’usage On peut se demander si la valeur ne viendrait pas uniquement dans l’usage. Est-ce que ce n’est pas l’usage que l’on fait d’un artefact qui le rend moralement néfaste plutôt que l’artefact en lui-même ? Et en effet, il est difficile d’imaginer un artefact qui n’aurait absolument aucun usage positif. Exemple : le nucléaire certes sert à faire des bombes de morts de masse, mais fournit aussi de l’énergie dans nos centrales. L’usage fait qu’il est parfois bon et parfois mauvais. Mais il n’est pas fondamentalement et intrinsèquement mauvais. En revanche, on peut définir la notion de « pauvre » instrument. On entend par là qu’il est mauvais dans un usage particulier. Exemple : un couteau ne sera pas génial pour faire des opérations à cœur ouvert. Dans cet usage, il est pauvre. Moralité d’un artefact La réponse à notre question de départ, à savoir « Peut-on attribuer une valeur morale à un objet éthique ? » trouve une réponse : il y a de la moralité dans le design. « Un artefact est mauvais si nous avons de bonnes raisons de croire qu’il n’aurait pas dû exister, car il a été explicitement conçu pour un usage néfaste. » L’artefact n’est mauvais pas par les propriétés, pas par l’usage mais dans les intentions du concepteur. Parler de valeur intrinsèque d’une technologie revient à parler des intentions du concepteur. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 27 Le concepteur peut être dépassé par sa propre machine, il peut mettre des intentions mauvaises même inconsciemment. Il peut aussi arriver que les concepteurs n’aient pas de mauvaises intentions mais que l’objet soit mauvais en soi. Si les intentions explicites ne sont pas mauvaises, peut-être que l’objet est déviant, le concepteur a été négligeant, n’a pas anticipé les usages, … Nb : s’il n’y a pas d’agent dans la conception, la définition ne tient plus. Exemple : si une machine, non-agent, crée une technologie, on ne pourra pas dire qu’elle est mauvaise par ses intentions puisqu’il n’y en avait aucune. Nb : la définition n’exclut pas que les usages puissent être bons ou mauvais → on dit d’habitude que la technologie est neutre, et que c’est l’usage qui est mauvais. Franssen dit juste que certains objets sont intrinsèquement mauvais car ils n’auraient pas dû être. Asymétrie entre le bien et le mal des artefacts Alors qu’il y avait des objets néfastes, qui n’auraient pas dû être fabriqués, il n’y a pas d’artefact pour lequel nous avons une obligation morale de les concevoir et fabriquer. Cela est différent d’un artefact bon, dans le sens où il y avait une raison de les fabriquer (ils le sont quasiment tous). On parle ici d’obligation morale. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 28 Chapitre 7 : Théorie éthique : L’éthique de la vertu Définition de la vertu Selon les conséquentialistes, une vertu est un trait qui produit de bonnes conséquences Selon les déontologistes, une vertu est un trait qui, lorsqu’on le possède, nous permet de faire de manière fiable notre devoir Selon les éthiciens de la vertu, une vertu ne peut pas être définie en d’autres concepts : c’est une notion fondamentale, de base. Aristote (4e S ACN) Vertu ? Aristote va définir 3 concepts : L’arété L’arété est un trait d’excellence, d’ « adaptation parfaite ». L’arété désigne donc l'aptitude à faire quelque chose, le pouvoir de remplir parfaitement une fonction ou d’accomplir une tâche jusqu'à l'excellence Exemple : la force et la santé sont l’arété du corps, l'intelligence et la perspicacité, celle de l'esprit. La phronesis La phronesis est quelque chose qui nous pousse à choisir ce qui est vertueux. La phronesis est une disposition pratique, une manière d'être habituelle, capable d'agir dans la sphère de ce qui est bon ou mauvais pour l'être humain. L’eudaimonia C’est le bonheur, que l’on obtient en vivant une bonne vie. Aristote va donc définir ce qu’est une vertu. Pour lui, c’est un trait de caractère, une disposition. Cela signifie donc que c’est une tendance de l’être humain, qui peut arriver et repartir. (Ce n’est pas quelque chose que l’on a puis point final.) On possède donc une vertu avec un certain degré. Celui qui l’a complètement agit vertueusement sans jamais entrer en conflit avec ses désirs (puisque ses désirs sont d’agir vertueusement), alors que celui qui ne l’a qu’à moitié sera tenté d’agir autrement pour suivre d’autres désirs. De plus, on peut simuler la vertu, mais cela ne sera jamais la vraie vertu, il faut que la vertu soit le seul moteur de l’action. Sinon, cela ne permettra pas d’atteindre l’eudaimonia. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 29 Exemple, je peux agir de manière a priori vertueuse mais juste parce que j’y suis contraint, ce n’est alors pas de la vertu à proprement dit. Aussi, la vertu doit devenir une réelle motivation. Quelque chose qui guide notre vie et dont on veut alors faire la promotion aux autres. Comment être vertueux ? La phronesis Pour être vertueux, il faut être équilibré. Par exemple, la compassion est une vertu mais si je désire à tout prix ne pas faire de peine à quelqu’un, je peux me comporter de manière non-vertueuse. Ce qui permet d’être équilibré et d’empêcher les excès est la phronesis. Le principal rôle de l’éducation est donc, dès le plus jeune âge, de développer le phronesis. En effet, le phronesis ne s’acquiert qu’avec le temps, grâce aux expériences vécues. Ce n’est pas quelque chose de théorique. Et les enfants ne le possèdent donc pas encore. Il faut donc essayer de les mettre en situation pour savoir ce qu’il ferait si ce type de situation arrivait vraiment. La phronesis permet aussi de sélectionner les éléments pertinents d’un problème éthique. Elle permet donc de voir quels intérêts sont importants, et quels sont futiles, évitant la compétition des intérêts. Deux formes d’éthiques de la vertu Basées sur l’eudaimonia Les vertus vont être choisies en fonction de si elles mènent à une bonne vie, une vie qui vaut la peine d’être vécue. Cette « bonne vie » est une conception morale de l’existence. Exemplaristes On regarde ceux qui ont agis de bonne façon et ils deviennent des exemples de vertu. La norme est expliquée par des qualités et motivations de certains agents, des modèles. Problèmes a. Cette théorie ne possède pas de principes, pas de code. S’il n’y a pas de principes, on ne sait pas l’appliquer ! Mais ça c’est la vie, tout ce qu’on peut faire c’est favoriser l’éducation et questionner les gens sur quels types de personne ils veulent devenir. C’est plus axé sur le développement personnel. Il n’y a pas d’obligation moral, il y a juste l’objectif de devenir une personne vertueuse. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 30 b. Cette théorie ne caractérise pas ce qu’est une action juste Mais le but de l’éthique est de savoir qui il faut être et non pas ce qu’il faut faire. c. Cette théorie varie en fonction du contexte. Une vertu dans un certain lieu à un certain moment ne serait pas la même que dans un autre. Cela pose un problème pour identifier l’ensemble des vertus pertinentes ! Cependant, s’il existe un modèle à suivre, peu importe le contexte, on sait ce que le modèle est. d. Cette théorie ne permet pas de résoudre des dilemmes moraux Si on n’est pas capable de choisir entre deux vertus, c’est qu’on n’est pas encore assez vertueux, c’est donc qu’il faut encore expérimenter, et développer sa phronesis. Les vertus de l’ingénieur Version vertus à suivre Exemple de vertus : le professionnalisme, la communication, la coopération, la disposition à faire des compromis, l’objectivité, l’ouverture à la critique, l’endurance, la créativité, le sens du détail, Version modèle à suivre Exemple : William Le Messurier Il se rend compte que sa création n’est pas solide et décide d’en informer tout le monde. Il devient donc un modèle de vertu. Il écoute une étudiante, il a été vertueux puisqu’il a placé la sécurité des autres devant. C’était la bonne façon d’être un ingénieur (vertueux). Il a agi avec courage indépendamment des conséquences pour sa carrière. nb : il a agi de la sorte car il avait la vision de ce qu’était un ingénieur idéal. Et cela est défini par la vertu et non pas par le conséquentialisme ou le déontologisme. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 31 Quid de l’intégrité ? Tout le monde devrait être intègre (≈ honnêteté, être en accord avec ses valeurs et refuse les compromis) mais pour l’ingénieur c’est compliqué. - Il a des obligations envers ses clients mais aussi envers la société - Les échecs sont publics et ont plusieurs causes - Contraintes institutionnelles et financières - L’ingénieur conçoit uniquement le design, il ne fabrique pas l’objet Exemple de l’autoroute qui a peu d’impacts environnementaux mais qui coupe un quartier défavorisé L’intégrité ne peut être partielle. On ne peut pas juste enlever sa casquette de citoyen et devenir juste ingénieur, ou inversement. Donc parfois, on est amené à des choix qui mettent en difficulté ses valeurs personnelles. Comment rester intègre ? Exemple de Kiri et de l’eau usée Kiri est cheffe d’une tribu. En cette qualité elle doit respecter l’avis de son peuple. Si son peuple l’a élue, c’est parce que c’est un modèle de vertu. Elle ne peut donc pas se permettre de ne pas être intègre. Elle doit donc être contre toutes déversions dans la rivière. Cependant, elle n’obtiendra probablement rien de la sorte. Alors que si elle argumente pour un traitement des eaux, qu’elle peut obtenir, la pollution sera bien moins pire. Est-ce qu’elle doit faire un compromis ? Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 32 Chapitre 8 : Concepts : Contexte & Complexité Définition : Le I-design est une technique qui consiste à élaborer le design d’un objet technique en prenant comme client paradigmatique soi-même (on s’imagine être le client lambda). Sexisme Quand on a développé les technologies domestiques, (machine à laver, etc.) des conséquences inattendues se sont produites : le métier de serviteur payé à disparu, et à la place, les mères de famille ont récupéré ce travail, mais sans être payées. Les designers de ces technologies n’avaient pas imaginé de telles conséquences. Cependant, cela dénote de quelque chose : alors que les machines vendues « pour les hommes » sont complexes et demandent des formations, les machines « pour les femmes » sont extrêmement simples. Le message envoyé est clair : les femmes sont cons et on doit leur rendre la vie plus simple. Biais du standard Exemple du crash test dummies pour les airbargs On a calibré ces dummies uniquement sur les dimensions de l’homme moyen. Cela signifiait que les airbags étaient super bien adaptés si vous étiez un homme basique, mais très mal adaptés si vous étiez une femme. Il s’agit d’un biais, c’est-à-dire qu’il engendre des erreurs. Ici, on considère quelque chose de non- standard comme l’étant, puisque l’on a cette idée constante que c’est un homme qui va conduire, alors que ce n’est pas forcément le cas. Problème de l’accès Exemple des cockpits de l’armée Le design du cockpit n’a pas été imaginé pour être piloté par des femmes : il n’y a pas de paramètres ajustables. On n’y a pas pensé parce qu’on ne l’avait jamais fait. On avait cette idée constante que c’était un homme qui allait piloter et donc on n’a pas imaginé une conception qui allait aussi convenir aux femmes, alors que cela était totalement faisable. On n’y a juste pas pensé. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 33 Exemple de la taille des téléphones Les grands téléphones ne sont pas adaptés aux femmes (mains plus courtes, plus petites poches, etc.) Si les téléphones sont conçus de la sorte, c’est parce qu’ils répondent à une certaine demande. Dès lors, est-ce que le rôle de l’ingénieur est de strictement suivre la demande C’est une position confortable de baser ses technologies sur des normes sociales actuelles, de données agglomérées, et qui répond donc à la demande (il a des obligations financières envers son patron de faire des produits qui marchent, même s’ils sont le fruit de biais) ou alors doit-il aller contre la demande pour innover, et créer un nouveau marché, une nouvelle demande en anticipant les futures normes (prenant le risque que cela ne marche pas) ? Exemple de la reconnaissance vocale La linguistique dit que les voix de femmes devraient être plus facilement reconnaissables (grâce au timbre) alors que dans nos appareils électroniques, ce n’est pas le cas, car les algorithmes sont entrainés en grande majorité avec des voix masculines Parfois les biais ne sont pas facilement visibles ! Exemple du déneigement En Suède, on déneigeait d’abord les artères principales, puis secondaires, puis les trottoirs. Mais il est interdit de faire des lois discriminantes. On s’est alors rendu compte qu’en moyenne, les hommes font des voyages directs tandis que les femmes vont plein de petits trajets à la chaîne. En moyenne, les femmes prennent plus les transports en commun et sont plus souvent sur les trottoirs. Or, il y a beaucoup de blessures sur les trottoirs. Conclusion : cette manière de déneiger avantage donc ceux qui font des trajets directs, c’est-à-dire une majorité d’hommes. La manière de déneiger était donc soumises à des biais, invisibles à première vue. A quoi cela est dû ? En fait, les données agglomérées ne font pas de différentiations entre les gens. L’ingénieur considère donc que tout le monde est pareil, et donc comme lui. Mais il y a une majorité d’ingénieur cis-hétéro blanc boomer de la cinquantaine et riches. Donc tout un tas de catégorie de gens ne sont pas pris en compte. Faire partie de la minorité est un facteur discriminatoire. Ne pas ressembler à l’ingénieur fait qu’il ne pensera probablement pas à vous. Cependant, les ingénieurs ne sont pas des gens qui suivent simplement un ordre donné. Ils se doivent de suivre une éthique, et dès lors, d’avoir une certaine ouverture d’esprit et une empathie. Venir d’une certaine classe sociale, d’un certain genre, d’une certaine sexualité, fait qui vous êtes, ce qui n’empêche pas de penser à d’autres cas, aux minorités, et de concevoir des technologies qui leur conviendra aussi. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 34 Chapitre 9 : Théorie éthique : L’éthique du Care L’éthique du Care est arrivée en critique des éthiques traditionnelles, en particulier l’utilitarisme et le déontologisme, car elle considère que ces théories négligent des aspects éthiques pertinents comme les valeurs, les relations humaines, l’asymétrie des relations, etc. Le Care se définit plus par ce qu’il rejette que par ce qu’il propose. Le modèle critiqué : théorie du développement du jugement moral Cette théorie décrit comment le jugement moral se développe avec le temps. - Niveau 1 (5-12 ans) : préconventionnel Axé sur le bien-être personnel par l’évitement de la punition et l’obtention de la récompense STADE 1) La loi du plus fort : j’obéis parce que je n’ai pas le choix STADE 2) Début de réciprocité mais satisfaction des besoins personnels - Niveau 2 (13-20 ans) : morale conventionnelle Axé sur les règles sociales et les lois STADE 3) Chercher l’approbation à plaire (concordance interpersonnelle) STADE 4) Obéissance aux lois établies (pas de question sur la légitimité de celles-ci) - Niveau 3 (25ans +) : morale postconventionnelle Axé sur les principes moraux STADE 5) Pour le bien commun, le contrat social (utilitariste) STADE 6) Principes déterminant le bien et le mal d’éthique universelle, qui peuvent contredire des principes égocentriques et juridiques (déontologiste) Selon l’auteur de cette grille, presqu’aucune femme n’arrive aux stades 5 et 6. Les femmes ou leur éducation serait-elle moins bonne ? Ou alors la grille n’est simplement pas bonne ? Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 35 Les éthiciens revisitent alors la grille et constitue la suivante, sans jugement, juste descriptive : - Niveau 1 : j’agis dans mon propre intérêt - Niveau 2 : j’agis dans l’intérêt des autres - Niveau 3 : j’agis dans l’intérêt des autres et de moi-même L’éthique du Care est une éthique qui se veut plus proche de ce que les gens font, qui prend en compte les véritables facteurs pertinents dans la prise de décision. Les autres éthiques ont été construites complètement indépendamment de ce que les gens pensent. Caractéristiques de la théorie du Care La responsabilité envers les plus faibles force des devoirs éthiques Le principe de base du Care est la saillance morale évidente qu’il faut prendre soin des autres et qu’il faut répondre aux besoins des individus dont on a la responsabilité. En effet, s’il n’y a pas de responsabilité, il n’y a pas d’éthique. Il faut que des gens soient dépendants pour qu’il puisse se poser des choix éthiques. On assume donc ici que les relations ne se font pas entre égaux, ce qui va à l’encontre de ce que disait les utilitaristes et le déontologisme ! En effet, dans la vie réelle, nous ne sommes pas égaux en termes de connaissances, de pouvoir, … ➔ Ce qui fait que l’action est bonne est qu’elle est bienveillante. Pour mettre en exergue le fait que les relations ne sont pas entre égaux, on prend comme cas paroxyste la relation parent/enfant (relation la plus asymétrique en termes de pouvoir) La dépendance force des devoirs pour le parent, le parent doit être humble, gai, observer critiquement. Il doit protéger son enfant, mais aussi encourager son développement, comme le conformisme (pouvoir s’intégrer au groupe) et l’esprit critique (pouvoir se rebeller du groupe) Les émotions ont une valeur L’éthique du Care accorde une valeur aux émotions plutôt que de les rejeter. Exemple : L’empathie, la sympathie, la sensibilité, même la colère (en tant qu’indignation morale) L’émotion n’est pas la source de la moralité en tant que tel. Mais elle constitue un facteur pertinent. Elle joue un rôle clé dans la prise de décisions éthiques. Tout ne se fonde donc pas sur rationnel uniquement, comme dans les autres théories éthiques. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 36 Le cas par cas > L’abstraction Dans les autres théories éthiques, tout est basé sur l’abstraction, sur les cas généraux, car ils permettent d’éviter les biais et ainsi d’être impartial. L’éthique du Care critique la prétendue portée des lois soi-disant « universelles » (elles ne le sont pas). On ne doit dès lors pas se distancer dans la situation à évaluer mais au contraire, comprendre vraiment tous les tenants et aboutissants de chaque situation très particulière, toujours différente d’une autre. Les relations ne sont pas les mêmes, la nécessité morale n’est donc pas la même, etc. Sphère privé = sphère publique Les autres théories éthiques excluent la sphère privée de l’éthique, car c’est la sphère des relations émotives, et l’émotion ne joue pas de rôle dans la prise de décisions éthiques selon elles. L’éthique n’intervient que dans des relations entre étrangers. Mais l’éthique du Care considère que la sphère privée et la sphère publique ne sont pas distinctes : tout ce qui est privé est toujours politique, et donc public. Exemple : mariage, avortement, héritage, … Anti-libéralisme individuel Le Care met l’accent sur la relation plutôt que sur l’individu libre. Une société où chacun est libre, comme cela est entendu par les autres théories éthiques, n’est pas souhaitable car cela implique qu’on en arriverait à une collection d’individus sans liens, et cela est pauvre. Les autres théories sortent tout droit du moment où les peuples se soulevaient contre leurs dirigeants. Ils visent donc la liberté individuelle. Si on pousse le raisonnement au max, la société idéale est une collection d’individu où l’on est tous intégralement libre → plus de relation Mais selon l’éthique du Care, nous sommes des animaux (profondément) sociaux. Viser la liberté individuelle est donc une erreur. Problèmes Incompatible avec la justice Une éthique de la justice se concentre sur l’équité, l’égalité, les droits individuels, les principes abstraits et la consistante application de ces derniers. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 37 L’éthique du Care, quant à elle, se concentre sur l’attention, la confiance, la réponse aux besoins, le narratif et le développement des relations bienveillantes. L’éthique du Care part de l’inégalité pour construire sa théorie éthique. La justice protège l’égalité et la liberté. La care encourage les liens sociaux et la coopération. Les considérations de justice semblent fondamentales (égalité des droits, des possibilités, etc.) Mais ceux du Care aussi. Les deux, bien qu’apparemment très opposées, doivent être gardées. Le Care n’est pas un théorie générale basée sur des principes abstraits, il faut donc pouvoir l’utiliser au cas par cas. Inefficacité L’éthique du Care n’est pas en mesure de donner des réponses définitives à ce que l’on doit faire (contrairement à l’utilitarisme ou au déontologisme) à cause de son fondement de base même : le cas par cas. Mais l’efficacité n’est pas forcément juste. Si l’algorithme donne des mauvaises réponses, il n’est quand même pas utile, bien qu’efficace. Le Care part donc du principe qu’une perte d’efficacité, dû au manque de théorie générale (car chaque situation est unique, avec des individus uniques qui ont des relations uniques) qui permet d’arriver à la bonne solution est souhaitable. Cette théorie ne pourra donc pas justifier des abus, comme celle de Kant par exemple Cas extrême La vertu, comme le Care, peut être néfaste si elle est poussée jusqu’au bout. Le Care absolu peut parfois donc mener à des choses peu éthiques. Exemple de la femme du directeur d’Auschwitz La femme a pris soin de son mari. S’il n’avait pas eu la stabilité de sa femme, il aurait probablement fait une dépression et n’aurait pas fait cela. Care & Vertu Être bienveillant serait une vertu ? Le Care est un cas particulier de l’éthique de la vertu ? Il y a en effet de grandes ressemblances entre ces deux théories éthiques. Les deux examinent les pratiques et les valeurs morales qu’elles incarnent Les deux considèrent que le progrès moral se fera en changeant nos pratiques plutôt qu’en changeant nos raisonnements abstraits (ne pas rester dans le cas abstrait absolu) Les deux considèrent que la moralité implique des habilités que l’on doit apprendre et cultiver. (Être moral s’apprend tout au long de sa vie, par l’expérience) Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 38 Cependant, les éthiciens du Care définisse le Care dans une relation, il n’y pas cette notion relationnelle dans la vertu, puisqu’elle se concentre sur la motivation, l’attitude, les traits de caractère. (Le Care ressemble à une vertu mais ne peut pas se restreindre à cela) (ex : courage = faire face aux actions en ignorant la peur, peu importe la relation en question). Il y a donc une différence de nature entre la vertu et le Care. Quid de l’ingénieur émotif ? On peut penser qu’il faut éliminer toutes émotion pour être juste rationnel. Mais certaines émotions permettent la perception des risques (par exemple l’empathie : sans émotion, on peut être bon pour évaluer la probabilité que quelque chose arrive, mais pas pour percevoir si le risque en vaut la peine parce qu’on ne percevra pas si c’est un gros risque ou pas, le risque ne se limite pas à une probabilité, il faut aussi prendre en compte la probabilité), et doivent être inclues dans le design ! Les émotions morales sont nécessaires pour anticiper des conséquences du design. Pendant sa formation, l’ingénieur doit donc développer son sens des émotions pour comprendre ce que l’autre trouve acceptable ou non, pas pour soi-même. Il doit donc imaginer les types de situations qui pourraient arriver (inconnues connues) Attention à distinguer les deux rôles des émotions - Rôle rétroactif : permet d’attribuer la responsabilité Exemple : La honte, la culpabilité, le ressentiment, le blâme - Rôle prospectif : permet d’aller de l’avant Exemple : La sympathie, l’empathie, la compassion Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 39 Chapitre 10 : Application : De la gouvernance algorithmique Le cycle éthique Il s’agit d’un outil pour structurer et aider à la décision éthique MAIS ce n’est pas un algorithme dans le sens où deux personnes qui appliquent celui-ci pourraient très bien arriver à des conclusions différentes. Phase 1 : Formulation du problème moral 3 conditions pour bien formuler un problème moral : 1. Le problème doit être clairement énoncé 2. On doit identifier qui agit → Qui est l’agent moral ? 3. L’aspect moral du problème doit être articulé aux autres aspects de la situation → Contexte ? Phase 2 : Analyse du problème 3 éléments à identifier correctement 1. Les parties et leurs intérêts → Quels sont les acteurs et qu’est-ce qui les motive (attention, il y a une différence entre l’intérêt que quelqu’un s’attribue et l’intérêt qu’on lui attribue) 2. Les valeurs morales pertinentes 3. Les faits pertinents → Cela doit être une base commune pour travailler, les faits sont les faits. Phase 3 : Les options d’action Que peut-on faire ? 1. Stratégie noire et blanche. Seulement deux options sont envisagées : faire une action ou ne pas la faire. 2. Stratégie de coopération. Faire appel aux parties intéressées. 3. Dénonciation. Informer les médias ou le public de ce que fait l’une des parties. 4. Etc. → Il faut dresser le spectre de toutes les actions possibles Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 40 Phase 4 : L’évaluation éthique Il faut analyser les possibilités selon les différentes théories éthiques. Souvent, toutes les approches ne vont pas converger vers une décision. Il faut voir quels arguments sont les meilleurs. Il faut éviter de ne retenir que les arguments qui vont dans notre sens : il faut savoir voir les contre-arguments. On analyse selon : Le sens commun Le code professionnel en vigueur Conséquentialisme : Utilitarisme des préférences, hédonisme… Déontologisme : Théorie de Kant : principe d’universalité, principe de réciprocité… Éthique de la vertu Éthique du Care Phase 5 : Réflexion critique Rendre cohérent les jugements moraux, les principes moraux et les théories d’arrière-plan (éthique, psychologique, sociologique…). On doit être capable de faire une balance de tout pour prendre la décision la plus équilibrée et la plus sensée possible au niveau éthique. La gouvernance algorithmique (Opinion) : « Nous vivons aujourd'hui dans un monde où les algorithmes, et les données qui les alimentent, jugent un large éventail de décisions dans nos vies : pas seulement les moteurs de recherche et les systèmes d'information en ligne personnalisés, mais aussi les évaluations éducatives, le fonctionnement des marchés et des campagnes politiques, la conception des espaces publics urbains, et même la gestion des services sociaux comme le bien-être et la sécurité publique. Mais on peut soutenir que les algorithmes peuvent faire des erreurs et fonctionner avec des préjugés. L'opacité des algorithmes techniquement complexes fonctionnant à l'échelle les rend difficiles à examiner, ce qui entraîne un manque de clarté pour le public quant à la manière dont ils exercent leur pouvoir et leur influence. » Quid des algorithmes de prise de décision ? Ceux-ci font des choix moraux, cela implique-t-il qu’ils deviennent eux-mêmes des agents moraux, déchargeant de facto les concepteurs de la machine de la responsabilité des choix pris ? Donc la conception ne doit pas être injuste ! Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 41 Les questions posées par la gouvernance algorithmique sont les suivantes : 1. Dans quelle mesure une machine est un agent ? 2. Comment fonctionnent ces algorithmes ? (Opacité épistémique : plus la complexité de la machine est grande et moins la compréhension de celle-ci est efficace) 3. Quelle place dans la prise de décision éthique et politique doivent-ils occuper ? Doivent-ils avoir un pouvoir de décision, de conseil, ou aucun pouvoir ? Exemple de l’algorithme de détection dans un aéroport : il doit aider les humains à surveiller, donc sélectionner ce qui est pertinent. Il montre à un humain ses alertes, et celui-ci décide si c’est pertinent ou non. Cela étant, tout est supprimé. Problèmes potentiels : - Peut contenir des biais inconnus - Capacité d’apprendre fait que le fonctionnement devient opaque (autonome) Le machine learning est totalement incompréhensible pour les humains. On ne sait pas comment fonctionne la machine. Si elle est raciste, on en a aucune idée, ce qui pose évidemment des problèmes éthiques. On pourrait recalibrer régulièrement la machine, mais cela coûterait extrêmement cher, et donc enlèverait l’avantage d’avoir une telle machine. ➔ On doit anticiper dans le design les problèmes éthiques qu’elle peut poser De plus, pour pouvoir se fier à un tel algorithme, on doit porter à notre regard : - Les éléments de preuve non concluants (menant à des actions injustifiées) : si la machine ne se base pas sur des données bonnes L’algorithme doit faire la différence entre corrélation et causalité, mais parfois les données sont bonnes mais pas assez fines. De plus, l’algorithme peut généraliser des informations et donc se tromper pour un sous-groupe. Le remède à cela est la transparence. Cependant, si le mode de fonctionnement de l’algorithme est public, on peut le manipuler de façon malveillante. - Les éléments de preuve opaques (menant à une opacité de la décision) : si le raisonnement entre les données entrées et la conclusion est traçable ou non Généralement, on désire que les algorithmes soient transparents car cela permet l’évaluation et le contrôle du processus de décision. La transparence comprend l’accessibilité et la compréhensibilité. Il est fort possible que les algorithmes aient des biais non moraux. Mais dans le cas du machine learning, la transparence n’est plus possible. Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 42 Nb : les biais sont probablement non intentionnels, mais parfois certaines informations sont corrélées, et donc soumettent des biais à l’algorithme. Exemple : l’adresse est corrélée avec l’ethnie - Les éléments de preuves malavisés (menant à un biais) : « Garbage in – Garbage out ». Si les données entrées sont mauvaises, même un bon algorithme va rendre une décision mauvaise. Les algorithmes, eux aussi, sont soumis à des biais, ils ne sont pas 100% neutre. Les biais peuvent venir des institutions d’où l’algorithme émerge, des contraintes techniques, du contexte d’usage, etc. - Résultats inéquitables (menant à une discrimination) : Quand bien même l’algorithme fonctionne bien, il peut mener à des décisions que l’on considérerait comme immorales Le biais peut-être directement intégré dans le programme. On peut cependant éviter ce problème en contrôlant les anomalies dans les données d’entraînement (ce qu’on cherche à éviter avec le machine-learning), en intégrant des critères anti-discrimination dans le programme, en utilisant des modèles de classification après le processus, en modifiant les résultats en fonction de la discrimination subie par chaque groupe. Le problème est que cela amène des coûts plus importants. Or le client ne sait pas comment fonctionne la machine, donc on ne pourra pas lui reprocher à lui de prendre des décisions inéquitables, alors pourquoi accepterait-il de payer plus cher pour quelque chose dont il n’est pas responsable ? - Effets transformateurs : Froid et rationnel ne veut pas dire moral. Veut-on refléter la société ou l’améliorer ? Est-ce qu’on veut exclure tout ce qui n’est pas purement rationnel comme l’empathie ? a. Engendre des problèmes pour l’autonomie Quand l’utilisateur est submergé d’informations, les algorithmes trient le pertinent de ce qui ne l’est pas. (Comparateurs, prises de décisions pour un juge (prendre en compte toutes les données sociologiques,...) Ce genre d’algorithme façonne de facto les choix. L’algorithme qui est là juste pour aider l’utilisateur, finit par façonner ses choix, ses préférences, et construire des choix qui n’étaient pas envisagé avant. Cela transforme donc totalement la responsabilité des individus ! Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 43 b. Engendre des problèmes pour le contrôle des données personnelles Un individu devrait avoir la capacité de contrôler l’information à son propos, sauf si cette information est d’intérêt public, ce qui est rare. Or, l’opacité des algorithmes rend ce contrôle extrêmement difficile. Les théories éthiques (déontologisme, utilitarisme, …) considèrent chaque personne comme citoyen, unique. Mais on voudrait classer les gens de manière rapide et efficace, ce qui va à l’encontre de la notion d’individu. L’algorithme nous range d’office dans des cases, ce qui déshumanise totalement la personne. - Traçabilité (menant à la responsabilité morale) : Qui est responsable en cas problème ? La machine, le concepteur, le législateur, l’utilisateur, … ? Les programmateurs n’ont plus le contrôle total de leur algorithme, beaucoup de parties deviennent opaques, il y a trop de paramètres ajustables pour contrôler, … A terme, on ne pourra plus imputer la responsabilité d’un problème à l’ingénieur, mais cela serait abscons d’accuser un algorithme ! La responsabilité se dissout. Les algorithmes, à bannir ? 1) L’argument de l’(in)efficacité « Les algorithmes sont inefficaces, diminuent le bien-être et peut-être détruisent la valeur. » C’est vrai mais ce n’est pas pour cela qu’on ne peut pas améliorer la finesse des informations. De plus, les alogrithmes ne font pas forcément pire que les humains. Solution ? On pourrait permettre aux individus d’avoir accès aux informations servant de base de travail de l’algorithme. Cependant, cela n’augmentera pas forcément l’efficacité et cela coûte cher. De plus, si l’algorithme est public, on peut tricher en manipulant les données clés. 2) L’argument de l’équité Même s’il est efficace, l’algorithme pourrait classer les individus de manière inéquitable (immoral) 3 types d’inéquité : Cours d’éthique : ingénieur civil bac 1 – Augustin Crespin 44 a. Transfert inéquitable des richesses Il pourrait y avoir de l’abus du côté du détenteur de l’algorithme. La transparence permettrait alors d’éduquer le consommateur et de permettre la concurrence. Il pourrait y avoir des inégalités si seulement une partie des consommateurs sont en mesure de comprendre comment fonctionne l’algorithme, et de facto comment le manipuler. La transparence pourrait permettre de mieux manipuler le système, exacerbant les inégalités puisque les classes les plus éduquées y parviendraient mieux. Il pourrait y avoir inégalité entre les groupes protégés et le groupe dominant. Pour éviter cel

Cours d'éthique : Ingénieur Civil Bac 1 - PDF

Document Details

Tags

Related

Summary

Full Transcript