EU AI Act: Schutz und Innovation

### EU AI Act

• Der EU AI Act soll Grundrechte, Demokratie und Rechtsstaatlichkeit schützen und gleichzeitig Innovationen fördern.
• Verbot bestimmter KI-Anwendungen, die die Bürgerrechte bedrohen, wie z.B. biometrische Fernidentifizierung, Emotionserkennung am Arbeitsplatz und in Schulen sowie die Bewertung von sozialem Verhalten.
• Anforderungen an Hochrisiko-KI-Systeme.
• Transparenzanforderungen, z.B. Kennzeichnung von Deepfakes.
• Maßnahmen zur Förderung von Innovationen, z.B. durch Reallabore und Testzentren.
• Zusätzliche Anforderungen für leistungsstarke KI-Modelle, die systemische Risiken bergen könnten, wie z.B. Modelbewertungen, Risikobewertungen und Risikominderung.
• Meldung von Vorfällen im Zusammenhang mit diesen Systemen.

Einordnung

• Die Abgeordneten sehen das Gesetz als weltweit erste verbindliche Regulierung von KI, um Risiken zu reduzieren, Chancen zu schaffen und Diskriminierung zu bekämpfen.
• Das Gesetz soll als Ausgangspunkt für ein neues Modell der Regierungsführung dienen, das auf Technologie aufbaut und den Gesellschaftsvertrag neu denkt.
• Das Gesetz ist eine direkte Antwort auf Vorschläge der Konferenz zur Zukunft Europas, insbesondere zu Wettbewerbsfähigkeit, Sicherheit, digitaler Innovation und Bürgerzugang.

Nächste Schritte

• Das Gesetz muss noch von Rechts- und Sprachsachverständigen überprüft werden und erhält dann die formale Zustimmung des Rates.
• Nach Inkrafttreten gibt es gestaffelte Übergangsfristen für verschiedene Teile des Gesetzes, bis es uneingeschränkt anwendbar ist.

### Ethikkomitees in Unternehmen

• Technische Universität München:
  • Interdisziplinärer KI-Ethikrat mit Vertreter:innen aus Wissenschaft, Recht und Gesellschaft.
  • Leitlinien für den verantwortungsvollen Einsatz von KI in Lehre und Forschung.
  • Whistleblower-Hotline.
  • Regelmäßige Informationsveranstaltungen und Schulungen zum Thema KI-Ethik.
• Universität von Kalifornien, Berkeley:
  • KI-Ethik-Komitee mit Vertreter:innen aus verschiedenen Fakultäten.
  • Use-Case-Richtlinien zur frühzeitigen Erkennung ethischer Risiken.
  • Öffentliche Berichterstattung über behandelte Beschwerdefälle und Lösungsansätze.

Beispiele für Beschwerdefälle

• Technische Universität München:
  • Verbot von Emotion-Recognition-Technologie in Lehrveranstaltungen aufgrund von Beschwerden.
  • Aussetzung von KI-Systemen zur Leistungsbeurteilung nach einem Whistleblower-Hinweis.
• Universität von Kalifornien, Berkeley:
  • Anpassungen bei Trainingsdaten und Algorithmen aufgrund von Beschwerden über fehlerhafte Vorhersagen eines KI-gesteuerten Tutorensystems.
  • Unabhängiger Audit und Erweiterung der Informations- und Beteiligungsrechte der Studierenden aufgrund von Meldungen über mangelnde Transparenz bei einem KI-Projekt.

Weitere Maßnahmen für Ethikgremien

• Entwicklung von Ethikrichtlinien und -kodizes.
• Risikoanalyse und Folgenabschätzung.
• Überwachung und Kontrolle des KI-Einsatzes.

Multiple-Choice-Fragen

• Was versteht man unter dem Begriff "Bias" in der KI?
  • Eine Voreingenommenheit, die zu unfairen Ergebnissen führt.
• Welche Rolle spielt Transparenz bei der ethischen Bewertung von KI?
  • Transparenz hilft, die Entscheidungsprozesse der KI nachzuvollziehen und Vertrauen aufzubauen.
• Warum ist es wichtig, dass KI-Systeme erklärbar sind?
  • Damit Nutzer und Entwickler die Entscheidungen der KI verstehen und hinterfragen können.
• Welche Verantwortung trägt ein Ethikkomitee in Bezug auf KI?
  • Es bewertet und überwacht die ethischen Implikationen der KI-Nutzung.
• Was versteht man unter "Fairness" in KI-Systemen?
  • Die faire und gerechte Behandlung aller Nutzer und Gruppen durch das KI-System.
• Was ist ein "Black Box"-Problem in der KI?
  • Ein Problem, bei dem die internen Entscheidungsprozesse der KI nicht nachvollziehbar sind.
• Warum sollte die Diversität der Entwicklerteams bei der KI-Entwicklung gefördert werden?
  • Um eine breitere Perspektive und inklusivere Ergebnisse zu gewährleisten.
• Was ist das Ziel eines Impact Assessments in der KI?
  • Die potenziellen Auswirkungen und Risiken der KI auf die Gesellschaft zu bewerten.
• Was bedeutet der Begriff "Autonomie" in Bezug auf KI?
  • Dass die KI immer menschliche Kontrolle benötigt.

Schulungsplan für Ethikkomitees

• Thema 6: Verantwortung und Haftung
  • Definitionen von Verantwortung und Haftung.
  • Verantwortlichkeiten von Entwicklern und Nutzern.
  • Rechtliche Aspekte und Haftungsfragen.
  • Fallbeispiel: Haftungsfragen bei autonomes Fahren.

Zusammenfassung

• Beschwerdemechanismen können dazu beitragen, Fehlentwicklungen und unbeabsichtigte negative Auswirkungen des KI-Einsatzes in Bildungseinrichtungen frühzeitig zu erkennen und zu korrigieren.
• Ethikgremien in Bildungseinrichtungen sollten neben der Einrichtung von Beschwerdemechanismen weitere Maßnahmen ergreifen, um den Einsatz von KI-Systemen zu überwachen und verantwortungsvoll zu gestalten.

Kernpunkte des Schulungsplans

• Definitionen von Verantwortung und Haftung
• Verantwortlichkeiten von Entwicklern und Nutzern
• Rechtliche Aspekte und Haftungsfragen
• Bedeutung von Ethikkomitees
• Aufgaben, Struktur und Herausforderungen von Ethikkomitees
• Ethikprüfung von KI-Projekten
• Wie können Ethikkomitees zur Förderung einer ethischen Nutzung von KI beitragen?
• Welche Maßnahmen können ergriffen werden, um die Unabhängigkeit und Effektivität eines Ethikkomitees sicherzustellen?