Ethik und Dilemmata in der Informatik

Podcast

Play an AI-generated podcast conversation about this lesson

Questions and Answers

Was beschreibt ein Dilemma?

Eine Entscheidung zwischen zwei Handlungen, die beide moralisch richtig sind.

Eine individuelle Entscheidung, die auf persönlichen Werten basiert.

Die Suche nach dem größten Glück für alle.

Eine Situation, in der zwei Handlungen sich gegenseitig ausschließen. (correct)

Was ist das Hauptziel des Utilitarismus?

Die Festlegung von festen Regeln für moralisches Verhalten.

Die Maximierung des Glücks für die meisten Menschen. (correct)

Die Erhaltung von Tugenden wie Tapferkeit.

Die Schaffung eines Gesellschaftsvertrags.

Wie definiert die Deontologie moralisches Handeln?

Durch vertragliche Vereinbarungen innerhalb einer Gesellschaft.

Durch die Absicht, das größte Glück zu erzeugen.

Durch die Entwicklung eines tugendvollen Charakters.

Durch die Vernunft einer Regel und ihre Prinzipien. (correct)

Was bedeutet 'Ambiguitätstoleranz'?

Das Bewusstsein für die Mehrdeutigkeit von Begriffen. Signup and view all the answers

Was ist das Wesentliche an der Tugendethik?

Sie fördert die Entwicklung eines tugendhaften Charakters durch Handlungen. Signup and view all the answers

Was stellt einen moralischen Akteur dar?

Ein System, das interaktiv, autonom und adaptiv ist. Signup and view all the answers

Was versteht man unter einem Konzept?

Ein Baustein von Gedanken, der mit anderen Begriffen in Beziehung steht. Signup and view all the answers

Welches Prinzip beschreibt die kontraktualistische Moral?

Moralisch gut ist, wer sich an die Regeln der Gesellschaft hält. Signup and view all the answers

Welche Aussage beschreibt am besten die Einleitung in einem ED oder IS?

Sie vermittelt eine kurze Beschreibung der Software oder der Forschungsarbeit. Signup and view all the answers

Welches Element gehört nicht zur Folgenabschätzung?

Marktforschung Signup and view all the answers

Was ist das Ziel der Mittelanalyse in einem ED oder IS?

Die Bewertung der ethischen Problematik der verwendeten Mittel Signup and view all the answers

Welches der folgenden Elemente ist Teil der Wertekonflikte und Dilemmata Analyse?

Identifikation von Wertekonflikten aus der Forschung Signup and view all the answers

Was ist eine zentrale Frage in der Zielanalyse?

Rechtfertigt der Zweck die Mittel? Signup and view all the answers

Was sind Lösungsvorschläge im Zusammenhang mit einem ED oder IS?

Strategien zur Behebung identifizierter ethischer Probleme Signup and view all the answers

Was beinhaltet die abschließende Bemerkung im ED oder IS?

Eine Schlussfolgerung, ob das Projekt weiterverfolgt werden soll Signup and view all the answers

Welches Ziel verfolgt das GERD-Modell?

Förderung von Diversität und Geschlechtergleichheit in der Forschung Signup and view all the answers

Welches Handlungsprinzip von Value-based Engineering bezieht sich auf die Einbindung der Unternehmensführung in die Priorisierung von Werten?

Einbindung der Unternehmensführung in die Priorisierung von Werten Signup and view all the answers

Was versteht man unter Dark Patterns?

Missbrauch von Nudging, um Nutzer gegen ihre Interessen handeln zu lassen Signup and view all the answers

Welche Methode hilft dabei, die Lesbarkeit für Menschen mit Sehbehinderungen in digitalen Inhalten zu erhöhen?

Wahl von Schrift und Kontrasten für gute Lesbarkeit Signup and view all the answers

Welches Prinzip beschreibt die Bereitschaft, die eigene Wertestrategie offenzulegen?

Bereitschaft, die eigene Wertestrategie offen zu legen Signup and view all the answers

Welche der folgenden Maßnahmen trägt zur Barrierefreiheit im digitalen Raum bei?

Wahl leicht verständlicher Sprache mit kurzen Sätzen Signup and view all the answers

Was führt bei Gamification möglicherweise zu Dark Patterns?

Infantilisierung der Nutzer durch übermäßige Spielmechaniken Signup and view all the answers

Was ist das Ziel der konzeptionellen Analyse von Werten?

Werte in der Tiefe zu verstehen Signup and view all the answers

Welche Aussage beschreibt am besten die Bereitschaft, auf ein System zu verzichten?

Bereitschaft, auf das System zu verzichten, wenn es ethische Bedenken auslöst Signup and view all the answers

Was beschreibt das Nudge-Konzept in Kahnemanns Modell der Informationsverarbeitung?

Eine subtile Beeinflussung des Verhaltens durch kleine Impulse. Signup and view all the answers

Welche der folgenden Aussagen ist eine Regel für das Nudging?

Es sollte einfach sein, sich gegen den Nudge zu entscheiden. Signup and view all the answers

Was ist das Hauptziel von Value-based Engineering?

Die Identifizierung und Priorisierung relevanter Werte für eine Anwendung. Signup and view all the answers

Welche Frage wird nicht von dem Projektteam im Rahmen des Value-based Engineering gestellt?

Wie hoch sind die Produktionskosten der Anwendung? Signup and view all the answers

Was bedeutet es, wenn Werte-Qualitäten in Kernwerte umgewandelt werden?

Sie werden priorisiert und in ethische Wertanforderungen übersetzt. Signup and view all the answers

Welches der folgenden ist ein Beispiel für die Implementierung von Ethischen Wertanforderungen (EVRs)?

Strategische Maßnahmen zur Vermeidung von EVR-Verletzungen. Signup and view all the answers

Welcher Aspekt des Systems 1 ist relevant in Kahnemanns Modell?

Schnelle, instinktive und emotionale Reaktionen. Signup and view all the answers

Welches Ziel verfolgen die drei Fragen, die das Projektteam im Rahmen des Value-based Engineering stellt?

Sie sollen zu einem ersten Konzept führen. Signup and view all the answers

Was beschreibt den Begriff Bias in maschinellem Lernen (ML)?

Unfaire Ausgaben gegenüber einzelnen oder mehreren Gruppen. Signup and view all the answers

Was ist Präferenzstarrheit in Bezug auf ML-Modelle?

Ein Zustand, in dem die Vorlieben der Nutzer im Zeitverlauf unverändert bleiben. Signup and view all the answers

Was beschreibt die Sinnfrage bei der Entwicklung datengetriebener Lösungen?

Ob die Lösung durch Technologie effizienter ist als traditionelle Methoden. Signup and view all the answers

Welche der folgenden Phasen gehört zur Entwicklung einer Anwendung nach Rawls?

Befragung von direkt betroffenen Personen über die Anwendung. Signup and view all the answers

Was ist eine mögliche Konsequenz von Bias in einem ML-Modell?

Selbstverstärkende Effekte, die zu noch schlimmeren Vorhersagen führen. Signup and view all the answers

Was ist eine 'Model Card' in der Dokumentation von ML-Modelle?

Ein Dokument zur Erklärung und Transparenz des Modells. Signup and view all the answers

Welches dieser Ziele wird durch die Dokumentation von Anwendungen unterstützt?

Schaffung von Transparenz und Verständlichkeit. Signup and view all the answers

Warum könnte es schwierig sein, Bias in Daten vollständig zu verhindern?

Datenlieferanten haben eigene Werte und Perspektiven. Signup and view all the answers

Study Notes

Dilemmata

Ein Dilemma ist eine Konfliktsituation, in der zwei mögliche Handlungen, die sich gegenseitig ausschließen, eine perfekte moralische Handlung unmöglich machen.

Ethik in der Informatik

Utilitarismus: Ziel ist es, das meiste Glück für die meisten Menschen zu erreichen.
Deontologie: Handlungsprinzipien basieren auf Vernunft und Regeln.
Tugendethik: Ziel ist es, einen "tugendvollen" Charakter zu entwickeln.
Kontraktualismus: Moralisch gut ist, wer sich so verhält, wie es die Mitglieder einer Gesellschaft wechselseitig voneinander fordern.

Begriffe

Ein Begriff repräsentiert ein Konzept und ist ein Baustein von Gedanken. Ein Konzept kann aus mehreren Konzepten bestehen, und ein Begriff muss immer im Bezug zu anderen Begriffen stehen.
Ambiguität: Ein Begriff kann mehrere verschiedene und nicht miteinander verwandte Konzepte oder Interpretationen haben.
Ambiguitätstoleranz: Sich der Ambiguität von Begriffen bewusst sein.
Moralischer Akteur: Ein System ist ein moralischer Akteur, wenn es interaktiv, autonom und adaptiv ist.
Concept Map: Ein hierarchischer gerichteter Graph, der mittels Verben zwischen Begriffen ein großes Konzept erläutert.
Werte: Orientierungen für menschliches Verhalten. Sie bestimmen den Sinn von Handlungen.

Algorithmen und Bias

Bias (Verzerrung): Wenn ein Algorithmus unfair gegenüber einzelnen oder mehreren Gruppen ist.
Präferenzstarrheit: Wenn ein Modell das zukünftige Kaufverhalten eines Nutzers anhand seines vergangenen Verhaltens prognostiziert und seine Präferenzen als starr betrachtet.
Sinnfrage: Ob eine datengetriebene Lösung tatsächlich einen gesellschaftlichen Bedarf erfüllt und einen Mehrwert gegenüber konventionellen Lösungen bietet.

Ethisches Design

Rawls' Prinzipien (für die Entwicklung einer Anwendung):
- Analysiere, wer und in welcher Rolle von der Anwendung betroffen ist.
- Betrachte die Anwendung unvoreingenommen aus jeder Rolle und beobachte, ob sie anders entwickelt werden sollte.
- Wende diese Methode im Team an, befrage Menschen aus den Rollen und Experten von außerhalb.
Dokumentation von Anwendungen: Schafft Transparenz und Verständlichkeit.
Model Cards: Methode zur Dokumentation von ML-Modellen.
Ethik-Dokumentation (ED) und Informationsblatt (IS): Zwei Textformen, die sich durch ihren Kontext unterscheiden.
- ED wird für Softwareanwendungen und IS für die Forschung geschrieben.
- Beide beinhalten Einleitung, Folgenabschätzung, Lösungsvorschläge und Abschließende Bemerkungen.
GERD-Modell (Gender Extended Research and Development-Model): System zum ethischen Design, das sich für Diversität und Geschlechtergleichheit einsetzt.

Informationsverarbeitung

System 1 (Kahnemann, 2011): Schnell, instinktiv, emotional.
System 2 (Kahnemann, 2011): Langsam, reflektiert, logisch.
Nudge: Leichte Beeinflussung menschlichen Verhaltens durch umgehbare Impulse, ohne System 2 auszuschalten.
Ethische Probleme bei Nudging: Transparente und nicht irreführende Gestaltung, leicht abzulehnen, einen guten Grund für das Wohlbefinden des Nutzers.
Value-based Engineering: Methode zur Identifizierung, Priorisierung und Übersetzung von Werten in Wertanforderungen.

Value-based Engineering

Drei Fragen zum ersten Konzept:
- Welche Werte sind durch das System tangiert?
- Wie wirkt sich die Technik langfristig auf den Charakter der Betroffenen aus?
- Welche persönlichen Maxime oder Wertprioritäten sieht das Projektteam durch den Service betroffen?
Wert-Qualitäten (WQ): Werte, Normen oder Wert-Qualitäten, die in Kernwerte konvertiert, nach Priorität sortiert und in ethische Wertanforderungen übersetzt werden.
Ethische Wertanforderungen (EVRs): Organisations- und strategische Maßnahmen, die vor, während oder im Entwicklungsprozess integriert werden.
Handlungs-Prinzipien von Value-based Engineering:
- Verantwortung für die Systemlandschaft übernehmen.
- Stakeholder ehrlich integrieren.
- Die Systementfaltung beobachten und antizipieren.
- Ethische Prinzipien nutzen.
- Werte analysieren.
- Unternehmensführung in die Priorisierung einbinden.
- Gesetze und Abkommen reflektieren.
- Auf das System verzichten, wenn es ethische Bedenken gibt.
- Die eigene Wertestrategie offenlegen.
- Wertzielen in die Product Roadmap integrieren.

Dark Patterns

Missbrauch von Nudging oder anderen Tricks, um Nutzer gegen ihr eigenes Interesse handeln zu lassen.
Beispiel: Schwerere Abwahl von Cookies und personalisierter Werbung.

Gamification

Verwendung von spielähnlichen Aspekten oder Verhalten in nicht spielerischen Kontexten.
Beispiel: Duolingo’s Streaks
Kann durch mögliche Infantilisierung zu Dark Patterns führen.

Barrierefreiheit

Im digitalen Raum schwer vollständig zu realisieren, aber es gibt verschiedene Leitpfaden für eine gewisse allgemeine Barrierefreiheit.
Vorschläge von Aktion Mensch:
- Gute Lesbarkeit durch Schrift und Kontraste.
- Große Bedienflächen für mobile Nutzung.
- Alternativtexte für Bildinhalte.
- Leicht verständliche Sprache.
- Semantische Aufzeichnung der Website-Struktur.

Studying That Suits You

Use AI to generate personalized quizzes and flashcards to suit your learning preferences.

Description

Dieses Quiz untersucht die verschiedenen ethischen Theorien wie Utilitarismus, Deontologie und Tugendethik und deren Anwendung auf Dilemmata in der Informatik. Es wird auch auf die Bedeutung von Begriffen und Ambiguität in der ethischen Diskussion eingegangen. Teste dein Wissen über diese komplexen Themen!