Ubung 10 - Informationssysteme und Ethik - Loesung PDF

GRUNDLAGEN DER WIRTSCHAFTSINFORMATIK Übung 10: Informationssysteme und Ethik Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | Wintersemester 2024/25 | Dr. Katharina Drechsler 1 Themen Informationssysteme Datenmanagement und Nachhaltigkeit Informationssysteme Internet der Dinge und Digitalisierung Geschäftsprozess- Künstliche Intelligenz management Informationssysteme Systementwicklung und Organisationen Enterprise Systems & Informationssysteme Business Intelligence und Ethik Digitale Infrastruktur Digitale und Plattformen Geschäftsmodelle Informations- Metaverse management Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 2 Wintersemester 24/25 | Dr. Katharina Drechsler Veranstaltungsübersicht Datum Mittwoch 08:00-09:30 Donnerstag 12:00-13:30 09./10.10.24 Krankheitsbedingt entfallen Krankheitsbedingt entfallen 16./17.10.24 Krankheitsbedingt entfallen VL1 - Informationssysteme und Digitalisierung 23./24.10.24 Ü1 - Informationssysteme und Digitalisierung VL2 - Informationssysteme und Organisationen 30./31.10.24 VL3 - Digitale Infrastruktur und Plattformen VL4 - Datenmanagement 06./07.11.24 Ü2 - Informationssysteme und Organisationen Ü3 - Digitale Infrastruktur und Plattformen 13./14.11.24 Ü4 - Datenmanagement VL5 - Geschäftsprozessmanagement 20./21.11.24 Ü5 - Geschäftsprozessmanagement VL6 - Enterprise Systems und Business Intelligence 27./28.11.24 Ü6 - Enterprise Systems und Business Intelligence VL7 - Informationsmanagement 04./05.12.24 Ü7 - Informationsmanagement VL8 - Informationssysteme und Nachhaltigkeit 11./12.12.24 Ü8 - Informationssysteme und Nachhaltigkeit und Q&A VL9 - Künstliche Intelligenz 18./19.12.24 Ü9 - Internet der Dinge (Online: Videos) VL10 - Metaverse (Online: Videos) 08./09.01.25 Ü10 - Künstliche Intelligenz VL11 - Informationssysteme und Ethik 15./16.01.25 Ü11 - Informationssysteme und Ethik VL12 - Systementwicklung 22./23.01.25 Ü12 - Systementwicklung und Probeklausur VL13 - Digitale Geschäftsmodelle 29./30.01.25 Ü13 - Digitale Geschäftsmodelle und Q&A VL14 – Überblick Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 3 Wintersemester 24/25 | Prof. Dr. Stefan Seidel & Dr. Katharina Drechsler Literatur Laudon, K. C., Laudon, J. P., Schoder, D. (2015). Wirtschaftsinformatik - Eine Einführung (3. Auflage). Pearson: München, Deutschland. Kapitel 4 Rainer, K. R., Prince, B., (2021). Introduction to Information Systems. 9th Edition. Wiley Chapter 3 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 4 Wintersemester 2024/25 | Dr. Katharina Drechsler Q&A und Klausurvorbereitung – 29.01.25 Bitte senden Sie mir Ihre Fragen zur Vorlesung und Übung bis Montag, 27.01.25 18 Uhr zu! ([email protected]) Formulieren Sie Fragen bitte möglichst spezifisch (z.B. nicht: Können Sie nochmal auf das Thema XY eingehen.) Nächste Woche werden wir Fragen besprechen, die Sie zur Probeklausur haben. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 5 Wintersemester 2024/25 | Dr. Katharina Drechsler Agenda 1 Klausuraufgabe 2 Übungsaufgaben 3 Fallstudien 4 Kahoot-Quiz Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 6 Wintersemester 2024/25 | Dr. Katharina Drechsler Recap Ethik Ethik - Traditionelle gesellschaftliche Prinzipien einer guten Lebensführung und des richtigen Handelns, die den Menschen eine Orientierungshilfe für ihr Verhalten sein können. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 7 Wintersemester 2024/25 | Dr. Katharina Drechsler Klausuraufgabe 1 Sie haben ein Modell kennengelernt, mit dem man Kontroversen rund um den Einsatz von Informationssystemen analysieren kann. a) Ergänzen Sie die Bestandteile des Modells (1 - 7) (2 Punkte / 2 Minuten) 4.? 3.? 2.? 1.? 5.? 6.? 7.? Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 8 Wintersemester 2024/25 | Dr. Katharina Drechsler Klausuraufgabe 1 Sie haben ein Modell kennengelernt, mit dem man Kontroversen rund um den Einsatz von Informationssystemen analysieren kann. a) Ergänzen Sie die Bestandteile des Modells (1 - 7) (2 Punkte / 2 Minuten) Politische Fragen Soziale Fragen Ethische Fragen Informations- technik und -systeme Einzelner Quelle: Laudon et al. (2015) Gesellschaft Gemeinwesen Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 9 Wintersemester 2024/25 | Dr. Katharina Drechsler Klausuraufgabe 1 Sie haben ein Modell kennengelernt, mit dem man Kontroversen rund um den Einsatz von Informationssystemen analysieren kann. b) Erklären Sie die Logik dieses Modells (die Leserichtung des Modells), in dem Sie die Nutzung des Modells im Zusammenhang mit einer Kontroverse diskutieren. (5 Punkte / 5 Minuten) Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 10 Wintersemester 2024/25 | Dr. Katharina Drechsler Klausuraufgabe 1 Sie haben ein Modell kennengelernt, mit dem man Kontroversen rund um den Einsatz von Informationssystemen analysieren kann. b) Erklären Sie die Logik dieses Modells (die Leserichtung des Modells), in dem Sie die Nutzung des Modells im Zusammenhang mit einer Kontroverse diskutieren. (5 Punkte / 5 Minuten) Leserichtung des Modells ist von innen nach außen Einführung eines neuen Informationssystems erzeugt auf der Ebene des Einzelnen ethische Fragen Ethische Fragen erzeugen dann soziale Fragen auf der gesellschaftlichen Ebene Anschließend treffen politische Fragen in Form von Gesetzen und Regularien auf, die das Gemeinwesen betreffen. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 11 Wintersemester 2024/25 | Dr. Katharina Drechsler Klausuraufgabe 1 Sie haben ein Modell kennengelernt, mit dem man Kontroversen rund um den Einsatz von Informationssystemen analysieren kann. b) Erklären Sie die Logik dieses Modells (die Leserichtung des Modells), in dem Sie die Nutzung des Modells im Zusammenhang mit einer Kontroverse diskutieren. (5 Punkte / 5 Minuten) Beispiel: Freie Meinungsäußerung in sozialen Netzwerken Soziale Netzwerke ermöglichen, dass anonyme Äußerungen im Internet möglich sind. Eine einzelne Beleidigung einer Person erzeugt die ethische Frage, ob diese einzelne Äußerung akzeptabel ist. Das Muster an wiederkehrenden Beleidigungen erzeugt soziale Fragen. Später treten politische Fragen über potentielle Regulierung von sozialen Netzwerken auf. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 12 Wintersemester 2024/25 | Dr. Katharina Drechsler Agenda 1 Klausuraufgabe 2 Übungsaufgaben 3 Fallstudien 4 Kahoot-Quiz Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 13 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 1 Geben Sie jeweils zwei Beispiele für ethische, soziale und politische Fragen, die durch den Einsatz von Informationstechnologie, insbesondere künstliche Intelligenz, entstehen! Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 14 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 1 Geben Sie jeweils zwei Beispiele für ethische, soziale und politische Fragen, die durch den Einsatz von Informationstechnologie, insbesondere künstliche Intelligenz, entstehen! ▪ Ethische Fragen: ▪ Darf sich eine künstliche Intelligenz als Mensch ausgeben? (z.B. Chatbots) ▪ Wer trägt die Verantwortung für falsche oder irreführende Inhalte durch Chatbots? ▪ Soziale Fragen: ▪ Wie beeinflusst der algorithmische Entscheidungsprozess von künstlicher Intelligenz soziale Beziehungen und Interaktionen? ▪ Wie können wir sicherstellen, dass der Einsatz von künstlicher Intelligenz gerecht ist und dass niemand aufgrund von technologischen Unterschieden benachteiligt wird? Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 15 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 1 Geben Sie jeweils zwei Beispiele für ethische, soziale und politische Fragen, die durch den Einsatz von Informationstechnologie, insbesondere künstliche Intelligenz, entstehen! ▪ Politische Fragen: ▪ Welche Gesetze und Vorschriften sollten implementiert werden, um die Privatsphäre zu wahren und den Missbrauch von Daten zu verhindern? ▪ Wie sollten staatliche Regulierungen und Gesetze den Einsatz von künstlicher Intelligenz und Informationstechnologie steuern und überwachen? Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 16 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 2 Nennen Sie fünf Themenfelder, bei denen der Einsatz von IT zu kontroversen Diskussionen bezüglich Sozialfragen, Ethik oder Politik führt! Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 17 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 2 Nennen Sie fünf Themenfelder, bei denen der Einsatz von IT zu kontroversen Diskussionen bezüglich Sozialfragen, Ethik oder Politik führt! ▪ Informationsschutzrechte ▪ Eigentumsrechte ▪ Systemqualität ▪ Lebensqualität ▪ Zurechenbarkeit und Kontrolle Quelle: Laudon et al. (2015) Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 18 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 2 Nennen Sie fünf Themenfelder, bei denen der Einsatz von IT zu kontroversen Diskussionen bezüglich Sozialfragen, Ethik oder Politik führt! ▪ Informationsschutzrechte: Welche Rechte haben Einzelne und Organisationen in Bezug auf Informationen über sich selbst? ▪ Eigentumsrechte: Wie können die traditionellen Rechte an geistigem Eigentum in einer Informationsgesellschaft geschützt werden? ▪ Zurechenbarkeit und Kontrolle: Wer kann für Schäden verantwortlich und haftbar gemacht werden, die Einzelnen oder Organisationen durch die Verletzung von Rechten im Umgang mit Information und Eigentum entstehen? ▪ Systemqualität: Welche Standards bezüglich der Qualität von Daten und Systemen sollten vorgeschrieben sein, um die Rechte des Einzelnen und die Sicherheit der Gesellschaft zu schützen? ▪ Lebensqualität: Welche Werte sollten in einer Informations- und Wissensgesellschaft bewahrt werden? Quelle: Laudon et al. (2015) Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 19 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 3 Worin unterscheiden sich Verantwortung, Zurechenbarkeit und Haftung? Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 20 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 3 Worin unterscheiden sich Verantwortung, Zurechenbarkeit und Haftung? Verantwortung: Verpflichtung, bei der Ausübung von Rechten und Pflichten gewissenhafte Entscheidungen zu treffen und für die Folgen dieser Entscheidung einzustehen. Zurechenbarkeit: Vorhandensein von Mechanismen, mit deren Hilfe eindeutig bestimmt werden kann, wer die Verantwortung für Entscheidungen und deren Umsetzung trägt. → Voraussetzung, um Probleme ethisch analysieren und ethisch angemessen handeln zu können Haftung: Gesetzlich geregelte Verantwortung einer Person oder einer Organisation für die Verletzung von Rechten anderer einzustehen und daraus resultierende Schäden zu beheben → Stellt sicher, dass gültiges Recht tatsächlich angewendet wird Quelle: Laudon et al. (2015) Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 21 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 4 Welche fünf Schritte umfasst eine ethische Analyse? Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 22 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 4 Welche fünf Schritte umfasst eine ethische Analyse? 2. Konflikt oder 5. Potenzielle 4. Vernünftige 1. Fakten Dilemma klar 3. Folgen der Handlungs- identifizieren und definieren und die Interessensgruppen Handlungs- alternativen beschreiben betroffenen Werte identifizieren alternativen formulieren identifizieren identifizieren Quelle: Laudon et al. (2015) Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 23 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 5 – Richtig oder Falsch? Descartes‘ Änderungsregel besagt, dass eine Handlung nur dann ethisch angemessen ist, wenn sie wiederholt eine positive Änderung der Situation herbeiführen würde. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 24 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 5 – Richtig oder Falsch? Descartes‘ Änderungsregel besagt, dass eine Handlung nur dann ethisch angemessen ist, wenn sie wiederholt eine positive Änderung der Situation herbeiführen würde. Descartes‘ Änderungsregel besagt, dass eine Handlung nur dann ethisch angemessen ist, wenn sie wiederholt ausgeführt werden kann, ohne eine negative Änderung der Situation herbeizuführen. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 25 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 6 Benennen und beschreiben Sie fünf weitere ethische Grundsätze. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 26 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 6 Benennen und beschreiben Sie fünf weitere ethische Grundsätze. Dem kategorischen Imperativ Kants zufolge soll Nach dem Prinzip der Risikovermeidung soll man man nur nach derjenigen Maxime handeln, von der sich für das Vorgehen entscheiden, das potenziell am man zugleich will, dass sie ein allgemeingültiges wenigsten schadet bzw. die geringsten Kosten Gesetz wird. verursacht. Die Alles-hat-seinen-Preis-Regel ist die Annahme, „Was du nicht willst, dass man dir tu, das füg‘ dass alle materiellen und immateriellen Güter jemand auch keinem anderen zu!“ - Goldene Regel anderem gehören, sofern nicht ausdrücklich etwas anderes festgelegt ist, und dass der Besitzer für deren Nutzung entlohnt werden möchte. Das utilitaristische Prinzip sieht diejenige Handlung als ethisch angemessen an, durch die der größte Nutzen für alle Betroffenen erzielt werden Quelle: Laudon et al. (2015) kann. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 27 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 7 Warum sind der Schutz personenbezogener Daten und der Schutz geistigen Eigentums durch die moderne Informationstechnik gefährdet? Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 28 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 7 Warum sind der Schutz personenbezogener Daten und der Schutz geistigen Eigentums durch die moderne Informationstechnik gefährdet? Moderne IT, einschließlich des Internets, stellt die vorhandenen Regelungen zum Schutz der Privatsphäre, der personenbezogenen Daten und des geistigen Eigentums infrage Datenspeicher- und Datenanalysetechniken ermöglichen es Unternehmen personenbezogene Daten aus vielen verschiedenen Quellen zusammentragen und diese Daten analysieren, um detaillierte Profile über einzelne Personen zu erstellen. Verhalten von Website-Besucher kann mithilfe von „Cookies“ und anderen Überwachungstechniken verfolgt werden Nutzer teilen bereitwillig personenbezogene Daten in sozialen Netzwerken Internet erschwert die Durchsetzung von Urheberrecht, da Werke einfach kopiert und verteilt werden können Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 29 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 8 Erklären Sie, warum die aus dem Einsatz der Deep Fakes mögliche resultierende Kontroversen in der heutigen Zeit ein großes Ausmaß annehmen können. Gehen Sie dabei explizit auf Techniktrends ein, die das ermöglichen. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 30 Wintersemester 2024/25 | Dr. Katharina Drechsler Übungsaufgabe 8 Erklären Sie, warum die aus dem Einsatz der Deep Fakes mögliche resultierende Kontroversen in der heutigen Zeit ein großes Ausmaß annehmen können. Gehen Sie dabei explizit auf Techniktrends ein, die das ermöglichen. Deep Fakes sind computergenerierte Imitationen anderer Personen in Form von Fotos, Video oder Audio, die für ungeschulte Augen kaum von realen Bildmaterialien der jeweiligen Person zu unterscheiden sind. Für die Umsetzung sind komplexe, rechenaufwendige Machine-Learning-Modelle erforderlich. Diese sind durch Fortschritte im Bereich der Datenanalyse möglich geworden. Durch höhere Rechenleistung (Moore‘s Law) und Cloud Computing wird die Erzeugung von Deep Fakes auch zunehmend für Privatanwender möglich. Fortschritte im Bereich des Internets und der Netzwerktechnik sowie die zunehmende Nutzung von mobilen Endgeräten sozialen Netzwerken ermöglichen die schnellere Verbreitung von durch Deep Fakes erzeugten Medien. Während es legitime Einsatzzwecke für Deep Fakes gibt (Beispiel Luke Skywalker), sind Deep Fakes vor allem im Zusammenhang mit der Verbreitung von Fake News in den Fokus der öffentlichen Aufmerksamkeit geraten. Die steigende Qualität von Deep Fakes führt dazu, dass Foto-, Video-, und Audioaufnahmen (zumindest für Laien) nicht mehr als eindeutiger Beweis dienen, dass jemand etwas wirklich gesagt oder getan hat. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 31 Wintersemester 2024/25 | Dr. Katharina Drechsler Deep Fakes: Luke Skywalker Original (1983) Deep Fake (2020) Deep Fake (2022) Lucasfilm/Disney https://www.bbc.co.uk/newsround/60303929 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 32 Wintersemester 2024/25 | Dr. Katharina Drechsler „Selenskyj kapituliert – aber Video ist nur ein Deep Fake“ https://t3n.de/news/deepfake-video-selenskyj-hacker-ukraine-1459750/ Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 33 Wintersemester 2024/25 | Dr. Katharina Drechsler Agenda 1 Klausuraufgabe 2 Übungsaufgaben 3 Fallstudien 4 Kahoot-Quiz Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 34 Wintersemester 2024/25 | Dr. Katharina Drechsler Clearview AI - Fallstudie Gesichtserkennungstechnologie war schon immer umstritten, da sie zu einem Verlust der Privatsphäre beiträgt. Gesichtserkennungsalgorithmen sind in den letzten Jahren genauer geworden und Unternehmen wie z.B. Facebook und Clearview AI haben Anwendungen zur Gesichtserkennung entwickelt. Clearview AI entwickelte eine neue Gesichtserkennungssoftware o Datenbank mit mehr als 3 Milliarden Bildern von Webseiten wie Facebook, Youtube, Twitter etc. o Benutzer können ein Foto von einer Person machen, es hochladen und öffentliche Fotos dieser Person zusammen mit Links zu den Orten, an denen diese Fotos erschienen sind, sehen. o Clearview verwendet ein neuronales Netz, um alle Bilder in mathematische Formeln umzuwandeln, die auf verschiedenen Maßen der Gesichtsgeometrie (z.B. Abstand der Augen) basieren. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 35 Wintersemester 2024/25 | Dr. Katharina Drechsler Clearview AI - Fallstudie Forscher haben herausgefunden, dass Clearview seine Gesichtserkennungssoftware an mehr als 2.200 Bundesbehörden - darunter das FBI, die Einwanderungs- und Zollbehörde (ICE), Polizeidienststellen, Privatunternehmen (z. B. Macy's, Best Buy und Kohl's) geliefert hat. Es gibt Hinweise darauf, dass das Unternehmen seine Technologie auch Nutzern in Saudi- Arabien und den Vereinigten Arabischen Emiraten zur Verfügung gestellt hat. Das Unternehmen hat außerdem wohlhabenden Personen, wie Clearview-Investoren und Freunden, die Nutzung seiner App erlaubt. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 36 Wintersemester 2024/25 | Dr. Katharina Drechsler Clearview AI Fallstudie Was sehen Sie als positive und negative Aspekte von Gesichtserkennungssoftware wie Clearview AI? Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 37 Wintersemester 2024/25 | Dr. Katharina Drechsler Clearview AI Fallstudie Positive Aspekte: Clearview verweist darauf, dass Organisationen seine App verwendet haben, um verschiedene Fälle von Kriminalität zu lösen. Eine Polizeibehörde konnte mithilfe der Clearview-App einen Mordfall aufklären. In einem anderen Fall wurde eine Person, die des sexuellen Missbrauchs eines Kindes beschuldigt wurde, durch die Spiegelung ihres Gesichts auf einem Fitnessstudio-Foto einer anderen Person identifiziert. Clearview wurde auch zur Identifizierung von Verdächtigen in Fällen von Identitätsbetrug bei mehreren Banken eingesetzt. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 38 Wintersemester 2024/25 | Dr. Katharina Drechsler Clearview AI Fallstudie Negative Aspekte: Leistung: Die Clearview-App funktioniert nicht immer, insbesondere bei Fotos von Überwachungskameras. Außerdem neigt die App dazu, bei Frauen und People of Color falsche Treffer zu liefern. Genauigkeit: Clearview berichtet nicht konsequent über die Genauigkeit seiner App. In einem Fall behauptete das Unternehmen, dass seine App in bis zu 75 Prozent der Fälle Übereinstimmungen findet. In einem anderen Bericht wurde behauptet, dass die App in fast 99 % der Fälle eine Übereinstimmung unter 1 Million Gesichtern finde. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 39 Wintersemester 2024/25 | Dr. Katharina Drechsler Clearview AI Fallstudie Negative Aspekte: Rechtliche Fragen: Vertreter zahlreicher Organisationen, insbesondere von Social-Media- Websites, haben erklärt, dass ihre Richtlinien das Scraping von Bildern verbieten. Große Internetplattformen, darunter LinkedIn, Twitter, Facebook, Venmo, Google und YouTube, haben Clearview Unterlassungserklärungen geschickt.. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 40 Wintersemester 2024/25 | Dr. Katharina Drechsler Clearview AI Fallstudie - Diskussion Erörtern Sie die ethische und rechtliche Zulässigkeit der Gesichtserkennungssoftware von Clearview AI, indem sie eine ethische Analyse durchführen. Überwiegen Ihrer Meinung nach die Vorteile von Gesichtserkennungssystemen die Gefahren für Ihre Privatsphäre? Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 41 Wintersemester 2024/25 | Dr. Katharina Drechsler Ethische Analyse: Clearview AI (1/2) 1 2 3 Fakten identifizieren Konflikt/Dilemma und Interessensgruppen betroffene Werte definieren identifizieren ▪ Einsatz von KI zur Gesichts- ▪ Dilemma: ▪ Bevölkerung erkennung basierend auf rießiger o Recht auf Privatsphäre vs. o Kriminelle Menge an Bildern in sozialen Sicherheit o Rechtschaffende Netzwerken o Unklare Performance und Genauigkeit → Gefahr der Falschidentifizierung von ▪ Staatliche Behörden und ▪ Nutzung der Gesichts- Unternehmen unschuldigen Personen erkennungssoftware durch Bundesbehörden und o Fragen bezüglich der Legalität des Vorgehens ▪ Unternehmen „Clearview AI“ Unternehmen in den USA ▪ Werte: ▪ Lösung von Kriminalfällen durch o Transparenz Clearview AI o Nachvollziehbarkeit o Gerechtigkeit ▪ Rechtliche Fragestellungen offen o Alles-hat-seinen-Preis-Regel Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 42 Wintersemester 2024/25 | Dr. Katharina Drechsler 42 Ethische Analyse: Clearview AI (2/2) 4 5 Handlungsalternativen formulieren Potentielle Folgen identifizieren Zum Beispiel: ▪ Geschichtserkennung nur unter starker Regulierung → Schwierigkeiten in dringen Fällen oder unklarer erlauben (z.B. bestimmter Kontext, richterlicher Beschluss) Faktenlage den Beschluss zu erhalten. ▪ Algorithmus von unabhängiger Stelle überprüfen lassen, → Genauigkeit kann stark schwanken je nach Kontext und um Performance und Genauigkeit festzustellen Qualität der Bilder. ▪ Auslieferung der Software an autoritäre Regime und Privatpersonen verbieten ▪ Löschung von illegal bzw. ohne Einwilligung erhaltener → Deutliche Performanceeinbußen des Algorithmus (→ Bilder anordnen Auswirkungen auf innere Sicherheit?) Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 43 Wintersemester 2024/25 | Dr. Katharina Drechsler 43 Fallstudie: Eignungsfeststellungsverfahren (1/5) Emily ist mit ihrem Informatik-Bachelor an der TU fast fertig. Im vergangenen Semester hat sie ein Praktikum im Ausland gemacht, um ihre Fremdsprachenkenntnisse sowie ihre Schlüsselqualifikationen zu verbessern Insbesondere autonome Autos haben ihr Interesse geweckt, weshalb sie in ihrem Praktikum mehr über die verschiedenen KI-Technologien und Werkzeuge in autonomen Autos lernen wollte. Sie lernt das Deep Learning als Teilbereich des Machine Learning eine wichtige Methode und Grundlage für die Entwicklung autonomer Autos darstellt. Die Autos verarbeiten viele verschiedene Daten, erkennen Muster auf Basis von Bild- und Sensordaten und treffen Entscheidungen auf Grundlage von KI-Algorithmen. Während des Praktikums wird ihr klar, dass bereits kleine Fehler im Code und damit in der Software zu einer Vielzahl von Unfällen führen können Quelle: Informatik Spektrum, 42(4), 2019, S. 304-306 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 44 Wintersemester 2024/25 | Dr. Katharina Drechsler Fallstudie: Eignungsfeststellungsverfahren (2/5) Auch in der Personalabteilung, sind ihr verschiedene Anwendungen von Künstlicher Intelligenz begegnet: Roboter Recruiting zur Personalauswahl und automatisierte Durchführung von Bewerbungsgespräch KI-basierte Software analysiert dabei Mimik, Stimme und Inhalt genau, um anschließend zu ermitteln, ob sich der Bewerber für den Job eignet oder nicht. Sie hat erfahren, dass die Firma mithilfe von Roboter Recruiting bereits erfolgreich Mitarbeiter einstellen konnte, und dass die Trefferquote ebenfalls sehr hoch sei. Inspiriert von ihrem Praktikum beschließt sie, sich tiefgehender mit den Methoden und Werkzeugen der KI zu beschäftigen und meldet sich an der Universität in einer Projektgruppe zu KI an. Emily überlegt, welche KI-Verfahren sie in ihrem Praktikum am meisten begeistert haben, und inwiefern man diese in einem eigenen Projekt in den nächsten Wochen erforschen und realisieren könnte. Quelle: Informatik Spektrum, 42(4), 2019, S. 304-306 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 45 Wintersemester 2024/25 | Dr. Katharina Drechsler Fallstudie: Eignungsfeststellungsverfahren (3/5) Emily erzählt den restlichen Teilnehmern von dem Verfahren des Roboter Recruitings, das die Firma aus den USA bereits erfolgreich eingesetzt hat. Sie hat die Idee, dieses oder ein ähnliches Verfahren auch für das Eignungsfeststellungsverfahren (EFV) im Bewerbungsprozess bei Studierenden anzuwenden. Die erste Stufe des EFV ist hierbei bereits digitalisiert: Anhand der eingesendeten Bewerbungsunterlagen wird digital festgestellt, welche von den Fakultäten definierten Punktegrenzen jeweils erreicht sind. Die zweite Stufe des EFV, also das Gespräch mit dem Professor, ist derzeit allerdings noch nicht digitalisiert Der Projektleiter und die anderen Teilnehmer sind begeistert von ihrer Idee, dieses Gespräch auch zu digitalisieren. weshalb sie sich schließlich für dieses Projekt entscheiden. Quelle: Informatik Spektrum, 42(4), 2019, S. 304-306 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 46 Wintersemester 2024/25 | Dr. Katharina Drechsler Fallstudie: Eignungsfeststellungsverfahren (4/5) Damit die KI am Ende sinnvolle Ergebnisse liefert, ist es wichtig, die künstlichen neuronalen Netze mit möglichst vielen qualitativ hochwertigen Daten zu trainieren. Deshalb sammeln Emily und die anderen Gruppenmitglieder über das gesamte Semester Daten von erfolgreichen Studienabsolventen, um die KI damit zu trainieren. Eines Abends, als Emily bei ihrer Tante und ihrem Onkel zu Besuch ist, berichtet sie ihnen begeistert von ihrem Projekt und seinem stetigen Fortschritt. o Ihre Tante, die sich kaum mit Technik und Informatik auskennt, ist skeptisch und fragt sich, ob die Entscheidung über einen Studienplatz wirklich von einer Maschine getroffen werden kann. o Auch ihr Onkel, der sich mit Informatik auskennt, sieht das Projekt teilweise kritisch. Er erzählt Emily von einem Fall bei Amazon, bei dem die KI Frauen bei der Personalauswahl benachteiligt hat. Schuld waren die Trainingsdaten für die KI, die auf den vergangenen Bewerbungen basierten und vorwiegend von Männern stammten. Das KI-System folgerte daraus folgerte, dass das Unternehmen bevorzugt Männer einstelle. Quelle: Informatik Spektrum, 42(4), 2019, S. 304-306 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 47 Wintersemester 2024/25 | Dr. Katharina Drechsler Fallstudie: Eignungsfeststellungsverfahren (5/5) Als Emily an diesem Abend nach Hause geht, wird ihr bewusst, dass ihr Projekt eventuell auch Schattenseiten besitzt, über die sie sich bis jetzt keine Gedanken gemacht hat und fängt an, ihr Projekt kritisch zu hinterfragen. Zwei Wochen später ist die Arbeit an ihrem Projekt fertiggestellt, und erste Tests mit freiwilligen Studienbewerbern werden durchgeführt. Die Teilnehmer kritisieren, dass man eine von einem KI-basierten System getroffene Entscheidung nicht nachvollziehen könne. Schließlich trifft die KI die Entscheidung auf Grundlage von verknüpften Daten und von Wissen, über das kein direkter Zugriff besteht. Außerdem geben einige Testpersonen an, dass sie sich bei dem Gespräch unwohl gefühlt haben und nicht wussten, wie sie sich verhalten sollen. Vielen fehlte auch einfach das Persönliche, das so ein Gespräch doch irgendwie ausmache. Obwohl Emily mit Kritik gerechnet hat, ist sie nun doch etwas schockiert. Als schließlich auch noch ihre Befürchtungen wahr werden und die Testergebnisse zeigen, dass nur Männer im Informatikstudiengang zugelassen worden wären, ist ihr klar, dass ihr Verfahren noch lange nicht ausgereift ist. Quelle: Informatik Spektrum, 42(4), 2019, S. 304-306 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 48 Wintersemester 2024/25 | Dr. Katharina Drechsler Fallstudie: Eignungsfeststellungsverfahren Bitte führen Sie eine ethische Analyse für den beschriebenen Fall durch! 2. Konflikt oder 5. Potenzielle 4. Vernünftige 1. Fakten Dilemma klar 3. Folgen der Handlungs- identifizieren und definieren und die Interessengruppen Handlungs- alternativen beschreiben betroffenen Werte identifizieren alternativen formulieren identifizieren identifizieren Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 49 Wintersemester 2024/25 | Dr. Katharina Drechsler Ethische Analyse: „Eignungsfeststellungsverfahren“ 1 2 3 Fakten identifizieren Konflikt/Dilemma und Interessensgruppen betroffene Werte definieren identifizieren ▪ Der Versuch Auswahlgespräche an ▪ Konflikte/Dilemma: ▪ Professor:innen der Uni mit Hilfe von KI zu o Geringerer Aufwand vs. o Zeitersparnis digitalisieren Unpersönliches Verfahren o Kontrollverlust ▪ Daten von erfolgreichen o Auswahl der Studierenden ist frei Studienabsolventen wurden von Vorurteilen der Professoren vs. Algorithmus entwickelte eigene ▪ Bewerber:innen Trainingsdaten benutzt o zugelassene Vorurteile ▪ Nach Ausarbeitung des Deep o Algorithmus liefert keine o nicht zugelassene Learning Prozesses wurde dieser Begründungen für Entscheidungen zunächst an freiwilligen ▪ Werte: ▪ Entwickler:innen Studienbewerbern getestet o Chancengleichheit o interessiert an möglichst guter ▪ Ergebnis: Wäre der Prozess im Performance des Algorithmus realen Vergabeverfahren eingesetzt o Transparenz worden, wären nur männliche o Nachvollziehbarkeit Studierende zugelassen worden. o Gerechtigkeit Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 50 Wintersemester 2024/25 | Dr. Katharina Drechsler 50 Ethische Analyse: „Eignungsfeststellungsverfahren“ 4 5 Handlungsalternativen formulieren Potentielle Folgen identifizieren Zum Beispiel: ▪ Bewerbungsgespräche weiter analog führen und den → Entscheidung unterliegt weiterhin menschlichen entwickelten Algorithmus verwerfen. Vorurteilen und potentiellen individuellen Agenden der Professor:innen ▪ Den Algorithmus verwenden und bestimmte Merkmale der → Wer trifft Entscheidungen darüber, welche Merkmale Bewerber:innen, die nicht in die Entscheidung einbezogen verwendet werden dürfen? Das Problem der fehlenden werden sollen, „schwärzen“. Begründungen bleibt bestehen. ▪ Nur Vorauswahl durch den Algorithmus treffen → Auch bei der Vorauswahl könnten diskriminierende Entscheidungen getroffen werden. Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 51 Wintersemester 2024/25 | Dr. Katharina Drechsler 51 Fallstudie: Eignungsfeststellungsverfahren - Diskussion Wie beurteilen Sie die Nutzung von KI für Eignungsfeststellungsverfahren? Die folgenden Fragen können hier einen Denkanstoß liefern. Was sind qualitativ hochwertige Daten für das Training der neuronalen Netze im Hinblick auf die Digitalisierung der zweiten Stufe des EFV? Inwieweit kann man sicherstellen, dass die Daten frei von Vorurteilen sind bzw. ist das überhaupt möglich? Wie sieht es bezüglich des Datenschutzes aus? Inwiefern ist eine Dokumentation der Daten, die für das Training der KI verwendet werden, notwendig? Quelle: Informatik Spektrum, 42(4), 2019, S. 304-306 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 52 Wintersemester 2024/25 | Dr. Katharina Drechsler Fallstudie: „Killbot“ (1/2) Ansgar stellt nach Abschluss seines Informatik-Masters bei einer Rüstungsfirma an zu arbeiten, obwohl er keine Vorliebe für das Militär hat. Sein Arbeitgeber stellt Kettenfahrzeuge mit Abwehrwaffen her. Es sind defensive Systeme, die darauf programmiert sind, Zivilisten, aber auch Tiere als Ziele sicher zu vermeiden, jedoch feindliche Fahrzeuge abzuwehren. Die Firma liefert Hard- und Software zwar hauptsächlich an das Militär, hat aber mittlerweile sehr viel mehr Umsatz. im zivilen Bereich. Denn die Softwarevarianten der Systeme eignen sich auch hervorragend für optische Analyse und Objekterkennung. Ansgar hat während seines Studiums – zusammen mit seinen Kollegen Sabine und Ingo - eine Software entwickelt, die unter Nutzung von künstlicher Intelligenz Objekte optisch erkennen kann. Quelle: Informatik Spektrum, 41(1), 2018, S. 65-66 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 53 Wintersemester 2024/25 | Dr. Katharina Drechsler Fallstudie: „Killbot“ (2/2) Die Firma möchte nun, dass diese Software direkt mit den Waffensystemen verbunden wird, sodass die Waffen automatisch lösen können. Sabine ist dagegen und möchte nicht an einem solchen System (Lethal Autonomous Weapon System) mitarbeiten. Sie stellt einen Antrag in die zivile Sparte der Firma zu wechseln. Ingo glaubt, dass die Software bessere Ergebnisse liefert als ein Mensch und den Schutz von Zivilisten und Tieren verbessern kann. Er sieht allerdings erheblichen Forschungs- und Diskussionsbedarf, um abzuklären, unter welchen Bedingungen ein automatischer Schuss auszulösen ist. Ansgar findet die Bedenken der Kollegen und Kolleginnen unbegründet und glaubt an die Zukunft von Software- gesteuerten Systemen Quelle: Informatik Spektrum, 41(1), 2018, S. 65-66 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 54 Wintersemester 2024/25 | Dr. Katharina Drechsler Fallstudie: „Killbot“ Bitte führen Sie eine ethische Analyse für den beschriebenen Fall durch! 2. Konflikt oder 5. Potenzielle 4. Vernünftige 1. Fakten Dilemma klar 3. Folgen der Handlungs- identifizieren und definieren und die Interessengruppen Handlungs- alternativen beschreiben betroffenen Werte identifizieren alternativen formulieren identifizieren identifizieren Quelle: Informatik Spektrum, 41(1), 2018, S. 65-66 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 55 Wintersemester 2024/25 | Dr. Katharina Drechsler Ethische Analyse: „Killbot“ (1/2) 1 2 3 Fakten identifizieren Konflikt/Dilemma und Interessensgruppen betroffene Werte definieren identifizieren ▪ Unternehmen in der ▪ Dilemma: ▪ Zivilisten (und Tiere) in Rüstungsindustrie o Objekterkennung soll ohne mensch- Einsatzgebieten liche Einflussnahme direkt mit der Schussvorrichtung des Waffen- ▪ Militärische und (mittlerweile systems verknüpft werden (Lethal ▪ Militärisches Personal überwiegend) zivile Kunden Autonomous Weapon System). o Aber: Wer sollte potenziell über ▪ Herstellendes Unternehmen ▪ Produktangebot: Leben und Tod entscheiden – ein Mensch oder ein System, das dem o Hardware: Kettenfahrzeuge mit ▪ Involvierte Mitarbeiter:innen Menschen in der zuverlässigen festmontierten Abwehrwaffen, Objekterkennung überlegen ist? defensive Systeme o KI-basierte Software: optische ▪ u.U. internationale Regierungen Analyse und Erkennung vorab ▪ Mögliche ethische Prinzipien: und Institutionen definierter Objekte und Echtzeit- o Prinzip der Risikovermeidung Übermittlung an Systemnutzer o Kategorischer Imperativ Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 56 Wintersemester 2024/25 | Dr. Katharina Drechsler 56 Ethische Analyse: „Killbot“ (2/2) 4 5 Handlungsalternativen formulieren Potentielle Folgen identifizieren Zum Beispiel: ▪ Das System feuert erst ab einer vorab zu definierenden, → Zu einem sehr geringen Prozentsatz werden Zielobjekte sehr hohen Wahrscheinlichkeit (z.B. >99,995%), dass es u.U. falsch identifiziert; aber: viele “feindliche Objekte” sich beim Zielobjekt nicht um Zivilisten oder Tiere handelt, werden nicht mit ausreichend hoher Wahrscheinlichkeit ohne menschliche Einwirkung. identifiziert, sodass kein Schuss ausgelöst wird und der Defensivmechanismus nicht greift. ▪ Um einen Schuss auszulösen, muss immer ein Mensch → Zu einem sehr geringen Prozentsatz werden Zielobjekte eingreifen. Der Mechanismus kann erst ausgelöst werden, u.U. falsch identifiziert; in Notfällen wäre die Vorrichtung wenn die optischen Sensoren zu einer sehr hohen unter bestimmten Voraussetzungen nicht nutzbar, wenn Wahrscheinlichkeit ein zuvor definiertes Objekt (z.B. ein die Objekterkennung kein eindeutiges Ergebnis liefert. militärisches Fahrzeug) identifizieren. ▪ … →… Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 57 Wintersemester 2024/25 | Dr. Katharina Drechsler 57 Fallstudie: „Killbot“ - Diskussion Wie beurteilen Sie die Nutzung von KI im militärischen Kontext? Die folgenden Fragen können hier einen Denkanstoß liefern. Ist es sinnvoll, KI-Methoden von als Assistenzsystemkonzipierter Software auf tatsächlich autonome Schießvorrichtungen anzuwenden? Ist es vertretbar, dass eine KI Software über Leben und Tod entscheidet, wenn die bisher gemessenen Erkennungsraten weit über menschlichen Fähigkeiten liegen und damit vielleicht Leben von Zivilisten oder Tieren gerettet würden? Ansgar ist neu im Job. Er weiß, dass er diese Arbeitsstelle braucht und dass er eine schlechtere Position als die erfahrenen Kollegen hat. Wie beeinflusst das seine Entscheidung? Quelle: Informatik Spektrum, 41(1), 2018, S. 65-66 Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 58 Wintersemester 2024/25 | Dr. Katharina Drechsler Zusammenfassung – Was muss ich wissen? ▪ Ethische, soziale und politische Fragen stehen in engem Zusammenhang zueinander –> Techniktrends der letzten Jahre führen zu neuen Kontroversen ▪ Modell der ethischen Analyse ▪ Beispiele für ethische Prinzipien o Kants Kategorischer Imperativ o Goldene Regel o Descartes‘ Änderungsregel o Utilitaristisches Prinzip o Prinzip der Risikovermeidung o Alles-hat-seinen-Preis-Regel ▪ Grundkonzepte der Ethik: Verantwortung, Zurechenbarkeit, Haftung Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 59 Wintersemester 2024/25 | Dr. Katharina Drechsler Agenda 1 Klausuraufgabe 2 Übungsaufgaben 3 Fallstudien 4 Kahoot-Quiz Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 60 Wintersemester 2024/25 | Dr. Katharina Drechsler Kontakt Cologne Institute for Information Systems (CIIS) Professur für Informationssysteme (www.is4.uni-koeln.de) Dr. Katharina Drechsler [email protected] Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 61 Wintersemester 2024/25 | Dr. Katharina Drechsler 61 Quellen Laudon, K. C., Laudon, J. P., Schoder, D. (2015). Wirtschaftsinformatik - Eine Einführung (3. Auflage). Pearson: München, Deutschland (Kapitel 4). Rainer, K. R., Prince, B., (2021). Introduction to Information Systems. 9th Edition. Wiley (Chapter 3) Kölner Institut für Wirtschaftsinformatik (KIWI) | Grundlagen der Wirtschaftsinformatik | 62 Wintersemester 2024/25 | Dr. Katharina Drechsler 62

Ubung 10 - Informationssysteme und Ethik - Loesung PDF

Document Details

Tags

Related

Summary

Full Transcript