EU AI Act: Schutz und Innovation
40 Questions
49 Views

Choose a study mode

Play Quiz
Study Flashcards
Spaced Repetition
Chat to lesson

Podcast

Play an AI-generated podcast conversation about this lesson

Questions and Answers

Was ist ein Hauptziel des Gesetzes über künstliche Intelligenz?

  • Erhöhung der Sicherheit
  • Schutz der Umwelt
  • Förderung von Innovationen (correct)
  • Steigerung der Wettbewerbsfähigkeit

    • Welche der folgenden KI-Anwendungen sind durch das Gesetz verboten?

  • Künstliche Intelligenz zur Optimierung von Suchmaschinen
  • Biometrische Fernidentifizierung (correct)
  • Chatbots zur Kundenbetreuung
  • Emotionserkennung am Arbeitsplatz (correct)

    • Welche Verpflichtungen gelten für Hochrisiko-KI-Systeme laut dem Gesetz?

  • Modellbewertungen müssen durchgeführt werden (correct)
  • Anwendungen müssen werbefrei sein
  • Innovationen müssen gefördert werden
  • Es müssen regelmäßig Schulungen für Mitarbeiter stattfinden

    • Was müssen künstlich erzeugte oder bearbeitete Bilder in Zukunft eindeutig kennzeichnen?

    <p>Dass es sich um Deepfakes handelt</p> Signup and view all the answers

    Welche Maßnahme wird zur Förderung von Innovationen vorgeschlagen?

    <p>Errichtung von Testzentren</p> Signup and view all the answers

    Wie lange nach Veröffentlichung tritt das Gesetz in Kraft?

    <p>20 Tage</p> Signup and view all the answers

    Welches Gremium muss das Gesetz noch überprüfen, bevor es formell genehmigt wird?

    <p>Rechts- und Sprachsachverständige</p> Signup and view all the answers

    Was sehen die Abgeordneten in Bezug auf das Gesetz als bedeutend an?

    <p>Es ist die erste verbindliche Regulierung von KI weltweit</p> Signup and view all the answers

    Was ist eine der Hauptaufgaben des interdisziplinären KI-Ethikrats an der Technischen Universität München?

    <p>Entwicklung von Leitlinien für den verantwortungsvollen Einsatz von KI</p> Signup and view all the answers

    Welches Verfahren wurde empfohlen, nachdem Beschwerden über KI-Systeme zur Leistungsbeurteilung eingegangen waren?

    <p>Das Aussetzen der Anwendung und Erprobung alternativer Verfahren</p> Signup and view all the answers

    Welche Maßnahme wurde an der Universität von Kalifornien, Berkeley, eingeführt, um ethische Risiken frühzeitig zu erkennen?

    <p>Entwicklung von Use-Case-Richtlinien</p> Signup and view all the answers

    Welche Art von Hotline wurde an der Technischen Universität München eingerichtet?

    <p>Whistleblower-Hotline für anonyme Meldungen von Missständen</p> Signup and view all the answers

    Was geschah nach Beschwerden über fehlerhafte Vorhersagen des KI-gesteuerten Tutorensystems an der Universität von Kalifornien, Berkeley?

    <p>Ein Audit der verwendeten Daten und Algorithmen wurde durchgeführt.</p> Signup and view all the answers

    Welche der folgenden Maßnahmen gehört nicht zu den empfohlenen Maßnahmen für Ethikgremien in Bildungseinrichtungen?

    <p>Mitarbeit an internationalen politischen Kampagnen</p> Signup and view all the answers

    Welche Information wurde als wichtig erachtet, um die Transparenz bei der Verbesserung der Studierendenmotivation zu erhöhen?

    <p>Ausweitung der Informations- und Beteiligungsrechte der Studierenden</p> Signup and view all the answers

    Was war ein Ergebnis der Beschwerden über den Einsatz von Emotion-Recognition-Technologie in Lehrveranstaltungen an der Technischen Universität München?

    <p>Der Gebrauch solcher Systeme wurde verboten.</p> Signup and view all the answers

    Was beschreibt den Begriff "Bias" in der Künstlichen Intelligenz?

    <p>Eine Voreingenommenheit, die zu unfairen Ergebnissen führt</p> Signup and view all the answers

    Welche Funktion hat Transparenz bei der ethischen Bewertung von KI?

    <p>Transparenz hilft, die Entscheidungsprozesse der KI nachvollziehen und Vertrauen aufzubauen</p> Signup and view all the answers

    Warum ist es entscheidend, dass KI-Systeme erklärbar sind?

    <p>Damit Nutzer und Entwickler die Entscheidungen der KI verstehen und hinterfragen können</p> Signup and view all the answers

    Welche Aufgabe hat ein Ethikkomitee im Kontext der KI?

    <p>Es bewertet und überwacht die ethischen Implikationen der KI-Nutzung</p> Signup and view all the answers

    Wie wird "Fairness" in KI-Systemen definiert?

    <p>Die faire und gerechte Behandlung aller Nutzer und Gruppen durch das KI-System</p> Signup and view all the answers

    Was bedeutet das "Black Box"-Problem in der KI?

    <p>Ein Problem, bei dem die internen Entscheidungsprozesse der KI nicht nachvollziehbar sind</p> Signup and view all the answers

    Warum sollte die Diversität in Entwicklerteams bei der KI-Entwicklung gefördert werden?

    <p>Um eine breitere Perspektive und inklusivere Ergebnisse zu gewährleisten</p> Signup and view all the answers

    Was ist das Hauptziel eines Impact Assessments in der KI?

    <p>Die potenziellen Auswirkungen und Risiken der KI auf die Gesellschaft zu bewerten</p> Signup and view all the answers

    Was versteht man unter Verantwortung in Bezug auf Künstliche Intelligenz?

    <p>Die Pflicht zur ethischen und rechtlichen Verantwortung für KI-Systeme.</p> Signup and view all the answers

    Welche Verantwortung tragen Entwickler von KI-Systemen?

    <p>Die Verantwortung für die Entwicklung ethisch und rechtlich verträglicher Systeme.</p> Signup and view all the answers

    Wie wird Haftung im Zusammenhang mit KI-Systemen definiert?

    <p>Die rechtliche Verantwortlichkeit für Schäden von KI-Systemen.</p> Signup and view all the answers

    Was beschreibt der Begriff 'Produkthaftung' im Kontext von KI?

    <p>Die Anwendung bestehender Haftungsgesetze auf KI-Systeme.</p> Signup and view all the answers

    Welche der folgenden Aussagen beschreibt eine mögliche Haftung bei der Nutzung von KI?

    <p>Schadenersatz kann für fehlerhafte Nutzung von KI-Systemen gefordert werden.</p> Signup and view all the answers

    Was ist eine der Herausforderungen im Bereich autonomes Fahren hinsichtlich der Haftung?

    <p>Die Klärung von Verantwortlichkeiten bei Unfällen.</p> Signup and view all the answers

    Welche regulatorischen Anforderungen müssen bei der Entwicklung von KI-Technologien berücksichtigt werden?

    <p>Einhaltung von spezifischen Gesetzen, wie der KI-Gesetzgebung.</p> Signup and view all the answers

    Was sind mögliche Versicherungsfragen im Zusammenhang mit KI?

    <p>Anpassungen von Richtlinien an neue Technologien.</p> Signup and view all the answers

    Was ist das Hauptziel eines Ethikkomitees für algorithmische Entscheidungsfindung?

    <p>Die Gewährleistung fairer und transparenter Entscheidungen in der Kreditvergabe.</p> Signup and view all the answers

    Welche der folgenden Aufgaben gehört nicht zu den Verantwortlichkeiten eines Ethikkomitees?

    <p>Entwicklung kommerzieller Software.</p> Signup and view all the answers

    Was sind häufige Herausforderungen für Ethikkomitees?

    <p>Komplexität von KI und Interessenkonflikte.</p> Signup and view all the answers

    Warum ist Ethikprüfung wichtig im Kontext von Künstlicher Intelligenz?

    <p>Um ethisch verantwortliche Entwicklung und Nutzung zu gewährleisten.</p> Signup and view all the answers

    Welche Maßnahme kann ergriffen werden, um die Unabhängigkeit eines Ethikkomitees zu fördern?

    <p>Die Einbeziehung externer Experten ohne Interessenkonflikte.</p> Signup and view all the answers

    Wie können Ethikkomitees die Fairness bei der Kreditvergabe verbessern?

    <p>Durch Überprüfung von Algorithmen auf Diskriminierung.</p> Signup and view all the answers

    Was bezeichnet man als die Komplexität von KI im Kontext von Ethikkomitees?

    <p>Die Schwierigkeit, allgemeine ethische Prinzipien anzuwenden.</p> Signup and view all the answers

    Was umfasst der Prozess der Ethikprüfung von KI-Projekten?

    <p>Eine gründliche Untersuchung der ethischen Implikationen.</p> Signup and view all the answers

    Study Notes

    ### EU AI Act

    • Der EU AI Act soll Grundrechte, Demokratie und Rechtsstaatlichkeit schützen und gleichzeitig Innovationen fördern.
    • Verbot bestimmter KI-Anwendungen, die die Bürgerrechte bedrohen, wie z.B. biometrische Fernidentifizierung, Emotionserkennung am Arbeitsplatz und in Schulen sowie die Bewertung von sozialem Verhalten.
    • Anforderungen an Hochrisiko-KI-Systeme.
    • Transparenzanforderungen, z.B. Kennzeichnung von Deepfakes.
    • Maßnahmen zur Förderung von Innovationen, z.B. durch Reallabore und Testzentren.
    • Zusätzliche Anforderungen für leistungsstarke KI-Modelle, die systemische Risiken bergen könnten, wie z.B. Modelbewertungen, Risikobewertungen und Risikominderung.
    • Meldung von Vorfällen im Zusammenhang mit diesen Systemen.

    Einordnung

    • Die Abgeordneten sehen das Gesetz als weltweit erste verbindliche Regulierung von KI, um Risiken zu reduzieren, Chancen zu schaffen und Diskriminierung zu bekämpfen.
    • Das Gesetz soll als Ausgangspunkt für ein neues Modell der Regierungsführung dienen, das auf Technologie aufbaut und den Gesellschaftsvertrag neu denkt.
    • Das Gesetz ist eine direkte Antwort auf Vorschläge der Konferenz zur Zukunft Europas, insbesondere zu Wettbewerbsfähigkeit, Sicherheit, digitaler Innovation und Bürgerzugang.

    Nächste Schritte

    • Das Gesetz muss noch von Rechts- und Sprachsachverständigen überprüft werden und erhält dann die formale Zustimmung des Rates.
    • Nach Inkrafttreten gibt es gestaffelte Übergangsfristen für verschiedene Teile des Gesetzes, bis es uneingeschränkt anwendbar ist.

    ### Ethikkomitees in Unternehmen

    • Technische Universität München:
      • Interdisziplinärer KI-Ethikrat mit Vertreter:innen aus Wissenschaft, Recht und Gesellschaft.
      • Leitlinien für den verantwortungsvollen Einsatz von KI in Lehre und Forschung.
      • Whistleblower-Hotline.
      • Regelmäßige Informationsveranstaltungen und Schulungen zum Thema KI-Ethik.
    • Universität von Kalifornien, Berkeley:
      • KI-Ethik-Komitee mit Vertreter:innen aus verschiedenen Fakultäten.
      • Use-Case-Richtlinien zur frühzeitigen Erkennung ethischer Risiken.
      • Öffentliche Berichterstattung über behandelte Beschwerdefälle und Lösungsansätze.

    Beispiele für Beschwerdefälle

    • Technische Universität München:
      • Verbot von Emotion-Recognition-Technologie in Lehrveranstaltungen aufgrund von Beschwerden.
      • Aussetzung von KI-Systemen zur Leistungsbeurteilung nach einem Whistleblower-Hinweis.
    • Universität von Kalifornien, Berkeley:
      • Anpassungen bei Trainingsdaten und Algorithmen aufgrund von Beschwerden über fehlerhafte Vorhersagen eines KI-gesteuerten Tutorensystems.
      • Unabhängiger Audit und Erweiterung der Informations- und Beteiligungsrechte der Studierenden aufgrund von Meldungen über mangelnde Transparenz bei einem KI-Projekt.

    Weitere Maßnahmen für Ethikgremien

    • Entwicklung von Ethikrichtlinien und -kodizes.
    • Risikoanalyse und Folgenabschätzung.
    • Überwachung und Kontrolle des KI-Einsatzes.

    Multiple-Choice-Fragen

    • Was versteht man unter dem Begriff "Bias" in der KI?
      • Eine Voreingenommenheit, die zu unfairen Ergebnissen führt.
    • Welche Rolle spielt Transparenz bei der ethischen Bewertung von KI?
      • Transparenz hilft, die Entscheidungsprozesse der KI nachzuvollziehen und Vertrauen aufzubauen.
    • Warum ist es wichtig, dass KI-Systeme erklärbar sind?
      • Damit Nutzer und Entwickler die Entscheidungen der KI verstehen und hinterfragen können.
    • Welche Verantwortung trägt ein Ethikkomitee in Bezug auf KI?
      • Es bewertet und überwacht die ethischen Implikationen der KI-Nutzung.
    • Was versteht man unter "Fairness" in KI-Systemen?
      • Die faire und gerechte Behandlung aller Nutzer und Gruppen durch das KI-System.
    • Was ist ein "Black Box"-Problem in der KI?
      • Ein Problem, bei dem die internen Entscheidungsprozesse der KI nicht nachvollziehbar sind.
    • Warum sollte die Diversität der Entwicklerteams bei der KI-Entwicklung gefördert werden?
      • Um eine breitere Perspektive und inklusivere Ergebnisse zu gewährleisten.
    • Was ist das Ziel eines Impact Assessments in der KI?
      • Die potenziellen Auswirkungen und Risiken der KI auf die Gesellschaft zu bewerten.
    • Was bedeutet der Begriff "Autonomie" in Bezug auf KI?
      • Dass die KI immer menschliche Kontrolle benötigt.

    Schulungsplan für Ethikkomitees

    • Thema 6: Verantwortung und Haftung
      • Definitionen von Verantwortung und Haftung.
      • Verantwortlichkeiten von Entwicklern und Nutzern.
      • Rechtliche Aspekte und Haftungsfragen.
      • Fallbeispiel: Haftungsfragen bei autonomes Fahren.

    Zusammenfassung

    • Beschwerdemechanismen können dazu beitragen, Fehlentwicklungen und unbeabsichtigte negative Auswirkungen des KI-Einsatzes in Bildungseinrichtungen frühzeitig zu erkennen und zu korrigieren.
    • Ethikgremien in Bildungseinrichtungen sollten neben der Einrichtung von Beschwerdemechanismen weitere Maßnahmen ergreifen, um den Einsatz von KI-Systemen zu überwachen und verantwortungsvoll zu gestalten.

    Kernpunkte des Schulungsplans

    • Definitionen von Verantwortung und Haftung
    • Verantwortlichkeiten von Entwicklern und Nutzern
    • Rechtliche Aspekte und Haftungsfragen
    • Bedeutung von Ethikkomitees
    • Aufgaben, Struktur und Herausforderungen von Ethikkomitees
    • Ethikprüfung von KI-Projekten
    • Wie können Ethikkomitees zur Förderung einer ethischen Nutzung von KI beitragen?
    • Welche Maßnahmen können ergriffen werden, um die Unabhängigkeit und Effektivität eines Ethikkomitees sicherzustellen?

    Studying That Suits You

    Use AI to generate personalized quizzes and flashcards to suit your learning preferences.

    Quiz Team

    Related Documents

    AI Act - Guideline for Ethical KI Usage (PDF)

    Description

    Der EU AI Act zielt darauf ab, Grundrechte und Demokratie zu schützen, während er gleichzeitig Innovationen im Bereich der Künstlichen Intelligenz fördert. Das Gesetz regelt Hochrisiko-KI-Systeme und stellt Anforderungen an Transparenz und Risikominderung. Es hebt die Bedeutung hervor, Diskriminierung zu bekämpfen und systemische Risiken zu kontrollieren.

    More Like This

    Use Quizgecko on...
    Browser
    Open
    Browser
    Browser