Mediengewalt_2_Kinder- und Jugendmedienschutz PDF

Document Details

KidFriendlyFourier465

Uploaded by KidFriendlyFourier465

Heinrich Heine University Düsseldorf

2024

Dr. Astrid Zipfel

Tags

media violence child protection media education

Summary

This document is lecture notes for a course on Children's and Youth Media Protection, including media violence. The course is offered in the Winter semester of 2024/25 by Dr. Astrid Zipfel at hhu, University of Düsseldorf.

Full Transcript

Kinder- und Jugendmedienschutz Vorlesung „Medien und Gewalt“ Wintersemester 2024/25 Dr. Astrid Zipfel hhu.de Inhalt 1. Rechtsgrundlagen 2. Grundprinzipien 3. Medienspezifische Regelungen 4. Institutionen der Medienaufsicht 5. Selbst...

Kinder- und Jugendmedienschutz Vorlesung „Medien und Gewalt“ Wintersemester 2024/25 Dr. Astrid Zipfel hhu.de Inhalt 1. Rechtsgrundlagen 2. Grundprinzipien 3. Medienspezifische Regelungen 4. Institutionen der Medienaufsicht 5. Selbstkontroll-Einrichtungen 6. Problemfelder 7. Wichtige Punkte https://www.bpb.de/shop/zeitschriften/izpb/medienkompetenz-355/539989/jugendmedienschutz/ 2 hhu.de 1. Rechtsgrundlagen 3 hhu.de 1. Rechtsgrundlagen Rechtliche Grundlagen / Regelwerke  Grundgesetz (GG)  Strafgesetzbuch (StGB)  Audiovisuelle Mediendienste-Richtlinie der EU (AVMD-Richtlinie) => Rahmen für Medienregulierung in EU-Mitgliedsstaaten  Jugendschutzgesetz (JuSchG)  Jugendmedienschutzstaatsvertrag (JMStV)  Jugendschutzrichtlinien der Landesmedienanstalten (JuSchRiL) / Jugendschutz- richtlinien der öffentlich-rechtlichen Sender => Konkretisierung des JMStV  Digitale-Dienste-Gesetz (DDG) (Umsetzung des Digital Service Act) 4 hhu.de 2. Grundprinzipien 5 hhu.de 2. Grundprinzipien Grundprinzipien des Jugendmedienschutzes in Deutschland  Verfassungsrang  Jugendschutz hat Verfassungsrang (Art. 5, Abs. 2 GG) https://www.spiegel.de/kultur/gesellschaft/ 70-jahre-grundgesetz-ein-buch-voller-  Es muss eine Abwägung gegenüber anderen Grundrechten tricks-nils-minkmar-a-1268783.html erfolgen (z.B. Kunstfreiheit, Art. 5, Abs. 3 GG)  Verbot der Vorzensur (Art. 5, Abs. 1 GG) => Beschränkung auf Kontrolle nach Veröffentlichung 6 hhu.de 2. Grundprinzipien Art. 1 GG (1) Die Würde des Menschen ist unantastbar. Sie zu achten und zu schützen ist Verpflichtung aller staatlichen Gewalt. Art. 5 GG (1) Jeder hat das Recht, seine Meinung in Wort, Schrift und Bild frei zu äußern und zu verbreiten und sich aus allgemein zugänglichen Quellen ungehindert zu unterrichten. Die Pressefreiheit und die Freiheit der Berichterstattung durch Rundfunk und Film werden gewährleistet. Eine Zensur findet nicht statt. (2) Diese Rechte finden ihre Schranken in den Vorschriften der allgemeinen Gesetze, den gesetz- lichen Bestimmungen zum Schutze der Jugend und in dem Recht der persönlichen Ehre. (3) Kunst und Wissenschaft, Forschung und Lehre sind frei. Die Freiheit der Lehre entbindet nicht von der Treue zur Verfassung. 7 hhu.de 2. Grundprinzipien  Prinzip der regulierten Selbstregulierung  Für Jugendmedienschutz zuständige Institutionen haben Kompetenzen auf Selbstkontroll-Einrichtungen von Akteuren aus der Medienbranche übertragen.  Diese arbeiten in einem gesetzlich bzw. von den zuständigen Aufsichtsinstanzen vorgegebenen Rahmen und müssen bestimmte Kriterien erfüllen, um zugelassen zu werden. Die Einhaltung vorgeschriebener Verfahren und des rechtlich vorgegebenen Beurteilungsspielraums wird von den Aufsichtsinstanzen überprüft.  Medienproduzenten wirken auf diese Weise an der Prüfung von Medieninhalten mit.  In den Prüfgremien sind verschiedene gesellschaftliche Gruppen vertreten.  Die Klassifikation von Inhalten ist so schon vor der Veröffentlichung möglich (Alterseinstufungen). 8 Junge / Schumacher 2021 hhu.de 2. Grundprinzipien  Einzelfallprüfung  Medieninhalte werden nicht nach einem pauschalen Raster beurteilt (z.B. Anzahl von Gewalthandlungen).  Stattdessen erfolgt eine individuelle Prüfung jedes einzelnen Medieninhalts. 9 Junge / Schumacher 2021 hhu.de 2. Grundprinzipien  Schutzziele (nach § 10b JuSchG / vgl. auch § 5 JMSTV)  Schutz vor Medien, die die „Entwicklung von Kindern und Jugendlichen oder ihre Erziehung zu einer eigenverantwortlichen und gemeinschaftsfähigen Persönlich- keit“ beeinträchtigen oder gefährden können  Schutz der persönlichen Integrität bei der Mediennutzung  Förderung von Orientierung für Kinder, Jugendliche, Erziehungsberechtigte und Pädagogen bei der Mediennutzung und Medienerziehung  Restriktiver Jugendmedienschutz: Beurteilung von Medien auf ihr Gefährdungs- potenzial und Regelung der öffentlichen Verbreitung  Erzieherischer Jugendmedienschutz: Förderung der Medienkompetenz 10 https://www.ajs-bw.de/jugendmedienschutz.html hhu.de 2. Grundprinzipien Entwicklungsbeeinträchtigung  Beeinträchtigung in persönlicher und sozialer Entwicklung  Anzunehmen, wenn Grenzen des Verstehens in einer Altersgruppe überschritten werden bzw. problematische Lösungsmuster für Entwicklungskonflikte angeboten werden.  Schutz von Kindern und Jugendlichen, die noch nicht über stabil entwickelte Persönlichkeit verfügen. 11 Hinze 2005 hhu.de 2. Grundprinzipien Eigenverantwortlichkeit und Gemeinschaftsfähigkeit  Auslegung auf Basis der sich wandelnden sozialethischen Werteordnung der Gesell- schaft, Orientierung am Menschenbild des Grundgesetzes  Eigenverantwortung:  Voraussetzungen: Geistige Selbstständigkeit und personale Autonomie  Fähigkeiten: Angemessene Selbstfürsorge, Wahrnehmung von Rechten und Übernahme von Pflichten (Handlungskompetenz), Selbstreflexion und kritische Bewertung der jeweiligen Lebenswelt (Beurteilungskompetenz). (KJM-Kriterien B 5.1, KJM 2023)  „Eigenverantwortlichkeit umfasst die soziale Reife und die Fähigkeit zu sozialem Kontakt. Beeinträchtigungen durch Ängstigungen und andere psychische Destabilisierungen und die Förderung von Verhaltensmustern, die zu körperlichen oder seelischen Verletzungen führen können, sind zu vermeiden.“ (JuSchRiL 3.1.5.) 12 BPJM 2019 hhu.de 2. Grundprinzipien Eigenverantwortlichkeit und Gemeinschaftsfähigkeit  Eigenverantwortung – Fortsetzung:  Vermeidung von Ängsten, die nicht angemessen verarbeitet werden können (Gewalt, sexuelle Darstellungen, Kriege und Katastrophen, psychische Ausnahmezustände)  Vermeidung von Anreizen zur Imitation schädlichen Verhaltens  Vermeidung der Verengung von Verhaltens- und Entwicklungsoptionen, durch die Druck in Richtung bestimmter Orientierungen erzeugt wird (z.B. sexuelle Praktiken, Körperbild) 13 https://fsf.de/lexikon/entwicklungsbeeintraechtigung/ hhu.de 2. Grundprinzipien Eigenverantwortlichkeit und Gemeinschaftsfähigkeit  Gemeinschaftsfähigkeit:  Kompetenz mit kognitiven, emotionalen, motivationalen und normativen Aspekten  Befähigung des Individuums zur Kommunikation und Kooperation mit anderen (KJM-Kriterien B 5.1.)  „… umfasst Solidarität, Anteilnahme und gegenseitigen Respekt, insbesondere im Hinblick auf übermäßige Individualisierung und Entsolidarisierung“ (JuSchRiL 3.1.6.)  Beeinträchtigung durch Verhalten oder Grundhaltungen, die im Widerspruch zum gesellschaftlichen Wertekonsens und den Grundwerten der Verfassung stehen => „sozialethische Desorientierung“ (z.B. Menschenwürde, Toleranzgebot, Gewaltverzicht, Demokratieprinzip) 14 https://www.kjm-kriterien.de/entwicklungsbeeintraechtigung-und-entwicklungsgefaehrdung; https://fsf.de/lexikon/entwicklungsbeeintraechtigung/ hhu.de 2. Grundprinzipien Entwicklungsbeeinträchtigende Medien - Konkretisierung § 10b JuSchG (1) „Zu den entwicklungsbeeinträchtigenden Medien (…) zählen insbesondere über- mäßig ängstigende, Gewalt befürwortende oder das sozialethische Wertebild beeinträchtigende Medien.“ (2) => Einbeziehung von Umständen der Mediennutzung (3) => Einbeziehung von Risiken für die persönliche Integrität „Risiken durch Kommunikations- und Kontaktfunktionen, Kauffunktionen, glücksspielähnliche Mechanismen, Mechanismen zur Förderung eines exzessiven Mediennutzungsverhaltens, Weitergabe von Bestands- und Nutzungsdaten ohne Einwilligung an Dritte, nicht alters- gerechte Kaufappelle (v.a. Verweise auf andere Medien)“ 15 hhu.de 2. Grundprinzipien Jugendgefährdende Medien - Konkretisierung § 18 JuSchG „Dazu zählen vor allem unsittliche, verrohend wirkende, zu Gewalttätigkeit, Verbrechen oder Rassenhass anreizende Medien sowie Medien, in denen 1. Gewalthandlungen wie Mord- und Metzelszenen selbstzweckhaft und detailliert dargestellt werden oder 2. Selbstjustiz als einzig bewährtes Mittel zur Durchsetzung der vermeintlichen Gerechtigkeit nahe gelegt wird.“ 16 hhu.de 2. Grundprinzipien Schwer jugendgefährdende Medien - Konkretisierung Schwer jugendgefährdende Medien unterliegen Beschränkungen auch ohne formelle Entscheidung über ihre Jugendgefährdung => Überwiegend ebenfalls mit strafrechtlicher Relevanz 17 BPjM 2019, S. 27 hhu.de 2. Grundprinzipien Schwer jugendgefährdende Medien – Konkretisierung § 131 StGB – Gewaltdarstellung „(1) Mit Freiheitsstrafe bis zu einem Jahr oder mit Geldstrafe wird bestraft, wer 1. einen Inhalt (…), der grausame oder sonst unmenschliche Gewalttätigkeiten gegen Menschen oder menschenähnliche Wesen in einer Art schildert, die eine Verherrlichung oder Verharm- losung solcher Gewalttätigkeiten ausdrückt oder die das Grausame oder Unmenschliche des Vorgangs in einer die Menschenwürde verletzenden Weise darstellt, a) verbreitet oder der Öffentlichkeit zugänglich macht, b) einer Person unter achtzehn Jahren anbietet, überlässt oder zugänglich macht oder 2. einen in Nummer 1 bezeichneten Inhalt (…) herstellt, bezieht, liefert, vorrätig hält, anbietet, bewirbt oder es unternimmt, diesen ein- oder auszuführen, um ihn im Sinne der Nummer 1 zu verwenden oder einer anderen Person eine solche Verwendung zu ermöglichen. In den Fällen des Satzes 1 Nummer 1 ist der Versuch strafbar. (2) Absatz 1 gilt nicht, wenn die Handlung der Berichterstattung über Vorgänge des Zeitgeschehens oder der Geschichte dient.“ 18 hhu.de 2. Grundprinzipien Machen sich Eltern strafbar, die ihren Kindern gewalthaltige Medien im Sinne von § 131 StGB zugänglich machen? ⇒ „Elternprivileg“ (3) „Absatz 1 Satz 1 Nummer 1 Buchstabe b ist nicht anzuwenden, wenn der zur Sorge für die Person Berechtigte handelt; dies gilt nicht, wenn der Sorgeberechtigte durch das Anbieten, Überlassen oder Zugänglichmachen seine Erziehungspflicht gröblich verletzt.“ ⇒ Basis: Art. 6, Abs. 2 GG (Kinder-Erziehung als Recht und Pflicht der Eltern, über die der Staat wacht) ⇒ Möglichkeit des gemeinsamen Konsums zu medienpädagogischen Zwecken 19 Junge / Schumacher 2021 hhu.de 2. Grundprinzipien  Zugangsbegrenzung  Maßnahmen im Jugendmedienschutz sollen bewirken, dass Kinder und Jugendliche mit für sie schädlichen Inhalten möglichst nicht in Kontakt kommen.  Instrumente  Alterseinstufungen mit altersabhängigem Zugang für entwicklungsbeeinträchtigende Angebote  Beschränkung des Zugangs zu (schwer) jugendgefährdenden Inhalten nur auf Erwachsene (Verbreitungs-, Werbe- und Zugangsbeschränkungen mit und ohne Indizierung; Unzulässigkeit im Rundfunk)  => Zur Differenzierung nach Medien siehe die folgenden Folien 20 Junge / Schumacher 2021 hhu.de 3. Medienspezifische Regelungen Grundsätzliche Kompetenzverteilung im Jugendmedienschutz Medium Zuständigkeit Gesetzesgrundlage Trägermedien (Kino, DVD, Bund Jugendschutzgesetz Computerspiele) (JuSchG) Rundfunk, Internet (inkl. Länder Jugendmedienschutz- Online-Spielen, Streaming- staatsvertrag (JMStV) Plattformen usw.)  Abgrenzungsprobleme durch Medienkonvergenz!  Zunehmendes Aufbrechen dieser Aufteilung bei Novellierung der Gesetze 21 hhu.de 3. Medienspezifische Regelungen Regelungsbereich des Jugendschutzgesetzes  Schutz der Jugend in der Öffentlichkeit (z.B. Gaststättenbesuch, Glücksspiel, Alkohol- und Tabakkonsum)  Jugendmedienschutz (Filmveranstaltungen, Filme und Spiele auf Bildträgern, Bildschirmspielgeräte)  Tätigkeit der Bundeszentrale für Kinder- und Jugendmedienschutz  Seit Novellierung 2021 auch Regelungen zur „Anbietervorsorge“ durch für Kinder / Jugendliche relevante große Internet-Dienste (v.a. Soziale Netzwerke / Messenger- Dienste) => Neues Schutzziel der persönlichen Integrität (nicht mehr nur Schutz vor bestimmten Inhalten) 22 hhu.de 3. Medienspezifische Regelungen Regelungsbereich des Jugendmedienschutz-Staatsvertrages  Regelungen für Rundfunk und Telemedien (=> Internet)  Festlegung von Sendezeiten und Kennzeichnungspflichten, zulässige Jugendschutzprogramme  Tätigkeit der Kommission für Jugendmedienschutz (KJM) und von jugendschutz.net und von Einrichtungen der Freiwilligen Selbstkontrolle 23 hhu.de 3. Medienspezifische Regelungen Regelungen für Filme (JuSchG)  Filme dürfen Kindern und Jugendlichen unter 18 Jahren nur zugänglich gemacht werden, wenn sie mit einer Freigabe für die entsprechende Altersstufe gekennzeichnet sind (Kennzeichnungspflicht).  Ausnahme: Informations-, Instruktions- und Lehrfilme => Keine Beschränkung  Seit 2023 zusätzlich zur Altersstufe Angabe von Gründen für die Altersfreigabe  Filme ohne Alterskennzeichnung können bei Jugendgefährdung indiziert werden (bei Filmen mit Freigabe ab 18 Jahren wurde Jugendgefährdung ausgeschlossen => Folie 45ff)  Durchführung der Alterskennzeichnung durch FSK (=> Folie 68ff.)  Auswirkungen der Alterskennzeichnung von Filmen auf Trägermedien auch auf Kinobesuch, TV-Ausstrahlung, Streaming-Dienste und Internet-Plattformen (=> Folien 25 u. 28ff.) 24 https://www.bzkj.de/bzkj/wegweiser/filme hhu.de 3. Medienspezifische Regelungen Regelungen für den Kinobesuch (JuSchG) 25 https://www.cometkinos-wesel.com/unterseite/5217/FSK hhu.de 3. Medienspezifische Regelungen Regelungen für Computerspiele (JuSchG)  Computerspiele dürfen Kindern und Jugendlichen unter 18 Jahren nur zugänglich gemacht werden, wenn sie mit einer Freigabe für die entsprechende Altersstufe gekennzeichnet sind (Kennzeichnungspflicht).  Kennzeichnung als Informations-, Instruktions- und Lehrprogramme => keine Beschränkung  Seit 2023 zusätzlich Hinweise auf Gründe der Alterseinstufung und Einbeziehung von Nutzungs- und Interaktionsrisiken (z.B. In-Game-Käufe, Belästigung in Chats, Standort- weitergabe usw.)  Durchführung der Altersfreigabe durch USK (=> Folie 74ff.).  Spiele ohne Altersfreigabe können bei Jugendgefährdung indiziert werden (bei Spielen ab 18 Jahren wurde Jugendgefährdung ausgeschlossen => Folie 45ff.)  Auswirkungen der Alterskennzeichnung von Spielen auf Zugang über Spieleplattformen im Internet (=> Folie 29 u. 39) 26 De Baey-Ernsten / Hajok 2023 hhu.de 3. Medienspezifische Regelungen Regelungen für Computerspiele (JuSchG) Beispiel für die Einbeziehung von Nutzungs- und Interaktionsrisiken durch Novellierung des Jugendschutzgesetzes  FIFA war bis Version FIFA 23 ab 0 Jahren frei gegeben  Der Nachfolger FC 24 ist ab 12 Jahren frei gegeben  Berücksichtigung von Handlungsdruck (Timer, Count-Down), In-Game-Käufen + zufälligen Objekten (Lootboxen) sowie Chat-Möglichkeiten  Insgesamt wurde wegen Interaktionsrisiken bei etwa einem Drittel der Spiele die Altersfreigabe von 6 Jahren auf 12 Jahre erhöht. 27 https://www.gameswirtschaft.de/marketing-pr/ea-sports-fc-24-altersfreigabe/; von Gottberg 2024b, S. 13 hhu.de 3. Medienspezifische Regelungen Regelungen für den Rundfunk (JMStV) Angebot Beschreibung Konsequenzen Weitere Regeln Absolut Strafrechtl. relevant und schwer Ausstrahlung verboten unzulässig jugendgefährdend Relativ Indiziert / offens. schw. jugend- Ausstrahlung verboten unzulässig gefährdend / einf. Pornografie Entwicklungs- Sendezeit, zu der Betroffene Inhalte Ausnahme: Nachrichten, beeinträchtigend üblicherweise nicht wahrnehmen polit. Zeitgeschehen Ab 18 Jahren / 23:00 – 6:00 Uhr Optische/akustische keine Jugendfreigabe Kennzeichnung Ab 16 Jahren 22.00 – 6:00 Uhr Optische/akustische Kennzeichnung Ab 12 Jahren Keine Beschränkung/20:00-6:00 Uhr Wohl jüngerer Kinder bei Tendenz zu Freigabe ab 16 J. berücksichtigen Ab 6 Jahren Keine Beschränkung Ab 0 Jahren Keine Beschränkung 28 hhu.de 3. Medienspezifische Regelungen Regelungen für Telemedien (JMStV):  Gültig für Anbieter aller Arten von Inhalten im Internet (Text, Bild, Film, Spiel, User Generated Content etc.)  Kommerzielle Anbieter von Websites mit potenziell entwicklungsgefährdenden Inhalten müssen (wie Rundfunkanbieter) Jugendschutzbeauftragte bestellen  Bei Filmen oder Spielen mit Alterseinstufung einer Selbstkontrolle (FSK, USK) wird diese Einstufung übernommen, und es muss eine entsprechende Kennzeichnung erfolgen.  Noch nicht geprüfte Inhalte müssen vom Anbieter selbst oder durch Selbstkontroll-Einrichtung (=> FSF / USK / FSM) auf Entwicklungs- bzw. Jugendgefährdung überprüft werden. Ein Hinweis auf Ursprung und Bewertungskriterien der Alterseinstufung ist in diesem Fall nicht vorgeschrieben.  Lt. JuSchG (§ 14a) besteht eine Pflicht zur Alterskennzeichnung für kommerzielle Film- / Spiele- plattformen mit mehr als 1 Mio. Nutzern, die nicht ausschließlich Erwachsenen zugänglich sind.  Die Prüfung auf Entwicklungs- bzw. Jugendgefährdung hat Konsequenzen für die Verfügbarkeit der Inhalte, die über zeitliche Regelungen (analog zum Rundfunk) oder technische Kennzeichnung / Sperrung reguliert werden kann (=> Folie 30) 29 https://fsf.de/lexikon/jugendschutz-bei-streamingdiensten/ hhu.de 3. Medienspezifische Regelungen Regelungen für Telemedien – Zugang (JMStV): Angebot Beschreibung Konsequenzen Absolut Entspricht strafrechtl. relevanten Keine Verbreitung erlaubt unzulässige schwer jugendgefährdenden Angebote Inhalten Relativ Einfache Pornografie / Indizierte Zugang nur ab 18 Jahren und über unzulässige Angebote / offensichtlich schwer Altersverifikationssysteme (Geschlossene Angebote jugendgefährdende Angebote Benutzergruppen) Entwicklungs- Entwicklungsbeeinträchtigung ab Technische Zugangsbarrieren (Ausweisprüfung, beeinträchtigende 14 Jahren (Jugendliche) Kennzeichnung für Jugendschutzprogramme), Angebote Beschränkung der Zugangszeiten analog zu TV Entwicklungsbeeinträchtigung Alternativ zu Zeile 3 auch Verbreitung getrennt unter 14 Jahren (Kinder) vom Angebot für Kinder möglich Technische Instrumente der Altersverifikation / Zugangsbeschränkung müssen von der Freiwilligen Selbstkontrolle oder der KJM anerkannt sein und werden alle 3 Jahre überprüft. 30 hhu.de 3. Medienspezifische Regelungen Regelungen für Telemedien (JMStV) – Video-Sharing-Dienste: Video-Sharing-Dienste (z.B. YouTube) müssen nach § 5a/b JMStV zusätzlich  „angemessene Maßnahmen“ zum Schutz vor entwicklungsbeeinträchtigenden Angeboten treffen (Altersverifikationssysteme, Systeme, die Eltern Zugangskontrolle ermöglichen)  Systeme schaffen, mit denen Nutzer von ihnen hochgeladene Angebote mit einer Altersbewertung versehen können und die von o.g. Systemen ausgelesen werden können.  einfache, schnelle, Begründungen ermöglichende Meldeverfahren für Nutzerbeschwerden schaffen 31 hhu.de 3. Medienspezifische Regelungen Regelungen für Telemedien - Möglichkeiten der Zugangskontrolle (JMStV):  Altersverifikationssysteme (relativ unzulässige Angebote)  Identifizierung (einmalige Kontrolle der Volljährigkeit, i.d.R. mit persönlichem Kontakt)  Authentifizierung bei jedem Nutzungsvorgang  Technische Alterskennzeichnung (entwicklungsbeeinträchtigende Angebote)  Kennzeichnung von Webseiten oder Subdomains mit Altersinformationen, die von Jugendschutzprogrammen ausgelesen werden können.  (Weitere) technische Zugangshürden (entwicklungsbeeinträchtigende Angebote)  Wahrnehmung durch Kinder / Jugendliche muss unmöglich gemacht / wesentlich erschwert werden  Beispiele: PIN-Eingabe, qualifizierte Ausweisabfrage, Altersprüfung per Webcam  Sendezeitbeschränkung (entwicklungsbeeinträchtigende Angebote)  Begrenzung der Zugangs-Zeiten (analog zum TV), z.B. bei Mediatheken 32 https://www.fsm.de/wissen/a-bis-z/altersklassifizierung-und-alterskennzeichen-im-internet/ hhu.de 3. Medienspezifische Regelungen Regelungen für Telemedien - KJM-Kriterien f. Anerkennung v. Jugendschutzprogrammen 33 https://www.fsm.de/unternehmen/angebot/ hhu.de 3. Medienspezifische Regelungen Exkurs: Funktionsweise von Jugendschutzprogrammen => Nutzerautonome Filter, die am Endgerät / im Heimnetzwerk aktiv sind https://www.youtube. com/watch?v=HelOz 2B4blQ Technische Labels: Von Anbietern hinterlegt, Filterung nach Altersgruppe White List: Liste unbedenklicher Inhalte (manuell erweiterbar) Geschlossene Systeme: Alle Inhalte sind an Black List: Liste unzulässiger Inhalte, z.B. BPjM-Modul eigene Standards des Anbieters gebunden (manuell erweiterbar) (z.B. Streaming-Dienste mit PIN-Eingabe) Intelligente Filter: Text- und Bildanalysen 34 https://www.fsm.de/online-jugendschutz/jugendmedienschutz-in-der-praxis/#jugendschutzprogramme hhu.de 3. Medienspezifische Regelungen Überblick über Jugendschutzeinstellungen bei verschiedenen Geräten: „Medien kindersicher“ (Angebot mehrerer Landesmedienanstalten): https://www.medien-kindersicher.de/startseite Beurteilung der technischen Umsetzungsmöglichkeiten:  Geschlossene Benutzergruppen mit Altersverifikation haben sich (bei Anbietern im Inland) bewährt.  Jugendschutzprogramme in geschlossenen Systemen funktionieren gut, weil i.d.R. alle Angebote eine Alterskennzeichnung besitzen  Problematisch bei übergreifenden Jugendschutzprogrammen (=> JusProg) 35 Heyen / Possing 2023 hhu.de 3. Medienspezifische Regelungen Exkurs: Das Beispiel JusProg  Erstellt von gemeinnützigem Verein im Auftrag von Internet-Unternehmen  Einziges anerkanntes Jugendschutzprogramm außerhalb geschlossener Systeme  Funktionsweise:  Auslesen von Alterseinstufungen der Anbieter in standardisiertem Format (age.xml / age-de.xml)  BPjM-Filter, von JusProg nach Sichtung angelegter Filter, Elternfilter, Echtzeit-Filterung (Schnellprüfung aufgrund von Wortverknüpfungen)  Eltern legen Altersstufe fest / Abfrage des Zugangs zu Suchmaschinen und Videoportalen  Bis Altersstufe 12 werden alle dem System unbekannten Webseiten blockiert, ab Alterstufe 12 werden alle unbekannten Seiten angezeigt.  Seiten können auf persönliche Black- bzw. White-List gesetzt werden  SafeMode für YouTube, Google, Bing => Anbieter filtern „die meisten“ problematischen Inhalte 36 https://www.jugendschutzprogramm.de/anbieter/hintergrund/ hhu.de 3. Medienspezifische Regelungen Exkurs: Das Beispiel JusProg - Fortsetzung  Problematik:  Nur wenige Internet-Seiten verfügen über Alters-Labels  Selten Labels für Unterseiten  Over- und Underblocking unter 12 bzw. über 12 Jahren  Funktioniert nur im Browser und auf Domain-Ebene, kein Zugriff auf Apps  Kein Eingreifen in Suchmaschinen / Social Media (nur von (einigen) Anbietern selbst festgelegter SafeMode)  Teilweise Differenzen zwischen Alterslabel für Browser und dem in Apps (z.B. Youtube)  Mit Label-Vergabe für gesamte Website erfüllen Anbieter ihre gesetzlichen Verpflichtungen, obwohl JusProg wenig eingesetzt wird und Schutzlücken aufweist.  Nach einem Rechtsstreit mit der FSM musste die KJM JusProg trotz Bedenken zulassen, da die gesetzlich vorgegebenen Kriterien erfüllt sind. 37 https://www.kjm-online.de/presse/pressemitteilungen/fsm-eignungspruefung-von-jusprog-ist-rechtlich-unbedenklich/; Heyen / Possing 2023 hhu.de 3. Medienspezifische Regelungen Befunde zur Nutzung technischer Hilfsmittel durch Eltern in der KIM- Studie 2022 38 Medienpädagogischer Forschungsverbund Südwest 2023, S. 81. hhu.de 3. Medienspezifische Regelungen Regelungen für Telemedien – Vorsorgemaßnahmen (Digital Service Act / JuSchG)  Sehr große Online-Plattformen und Suchmaschinen müssen mögliche Nutzungsrisiken bewerten und Maßnahmen zur Risikominderung ergreifen (§ 34 DSA)  Kommerzielle Anbieter für Minderjährige zugänglicher Online-Dienste mit mehr als 1 Mio Nutzenden in Deutschland müssen lt. JuSchG (§ 24a) Maßnahmen zum Schutz vor Interaktionsrisiken, problematischen Inhalten und Verletzung der persönlichen Integrität (strukturelle Vorsorgepflichten) ergreifen, z.B. durch ⇒ auch für Kinder geeignete Beschwerde- und Abhilfeverfahren ⇒ Hinweise auf anbieterunabhängige Hilfe- und Meldestellen ⇒ Unterstützungsfunktionen für die elterliche Kontrolle ⇒ sichere Voreinstellungen ⇒ kindgerechte Informationen zu Nutzungsbedingungen ⇒ Einstufungssysteme und -aufforderungen für nutzergenerierter Inhalte „ab 18 Jahren“, deren Alterskennzeichnung von Altersverifikationssystemen ausgelesen werden können.  Pflicht zur Alterskennzeichnung f. kommerzielle Film- / Spieleplattformen (JuSchG § 14a) 39 Heyen / Andresen / Wysocki 2022 hhu.de 3. Medienspezifische Regelungen Zusammenfassende Übersicht der zentralen medienspezifischen Regelungen Film Kino Spiele Rundfunk Telemedien Entwick- Beschränkung je nach Zugang je nach Beschränkung je nach Ausstrahlungs- Ab 14 J.: techn. Barrie- lungsbeein- Alter (0, 6, 12, 16, 18) Alter, Beglei- Alter (0, 6, 12, 16, 18) zeiten je nach Alter ren / zeitl. Beschrän- trächtigend tung, Uhrzeit (0, 6, 12, 16, 18) kungen < 14 J.: Trennung v. Kinder-Angebot mögl. Jugend- Indizierung => Ver- Indizierung => Indizierung, Verbrei- verboten Indizierung gefährdend breitungs-/Werbever- keine Auffüh- tungs-/ Werbeverbote Zugang > 18 J. mit bote; Zugang ab 18 J. rung im Kino Zugang ab 18 J. Altersverifikation Schwer Verbreitungs-/ keine Verbreitungs-/ verboten Indizierung, offensichtl. jugend- Werbeverbote auch Aufführung im Werbeverbote auch schw. Jugendgefähr- gefährdend ohne Indizierung Kino ohne Indizierung dung, einf. Pornografie Zugang ab 18 J. Zugang ab 18 J. => Zugang > 18 J. (sofern keine (sofern keine Strafrechtl. relevante strafrechtl. Relevanz) strafrechtl. Relevanz) schw. Jugendgefähr- dung => verboten Weitere Kennzeichnungs- Kennzeich- Kennzeichnungs- Kennzeichnungs- Vorsorgepflichten Regeln pflicht nungspflicht pflicht pflicht > 16 J. Kennzeichnungspflicht 40 hhu.de 4. Institutionen der Medienaufsicht 41 hhu.de 4. Institutionen der Medienaufsicht Zuständigkeiten nach Medium Medienaufsicht Freiw. Selbstkontrolle Filme (Kino/DVD) BzKJ, OLJB FSK Digitale Spiele (Datenträger) BzKJ, OLJB USK Priv. Rundfunk * KJM (Landesmedienanstalten) FSF Öffentl.-rechtl. Rundfunk * Rundfunk-/Fernsehrat Internet * BzVK FSM KJM (Landesmedienanstalten) FSK.online (Filme) jugendschutz.net USK.online (Spiele) Presse BZKJ Presserat * Ab 50 Mitarbeitern / 10 Mio. Zugriffen pro Monat verpflichtende Bestellung v. Jugendschutzbeauftragten als Schnittstelle zw. Anbietern / Mediennutzenden / Medienaufsicht, darunter stattdessen Mitgliedschaft in Selbstkontrolle möglich 42 hhu.de 4. Institutionen der Medienaufsicht Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ)  Selbständige Behörde im Geschäftsbereich des Bundesministeriums für Familie, Senioren, Frauen und Jugend  2021 Ablösung der Bundesprüfstelle für jugendgefährdende Medien (BPjM) mit erweiterten Kompetenzen  Fortführung der Prüfstelle und Indizierung jugendgefährdender Medien  Stelle zur Durchsetzung von Kinderrechten in digitalen Diensten (=> Digitale-Dienste- Gesetz => Folie 39 )  Weiterentwicklung des Kinder- und Jugendmedienschutzes  Beteiligung von Kindern und Jugendlichen im Beirat der BzKJ 43 www.bzkj.de hhu.de 4. Institutionen der Medienaufsicht Organigramm der BZKJ 44 https://www.bzkj.de/bzkj/ueberuns/organigramm hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren  Überprüfung und ggf. Feststellung der Jugendgefährdung durch ein Medium.  Durchführung: Bundesprüfstelle für jugendgefährdende Medien unter dem Dach d. BzKJ  Indizierbare Medien:  Trägermedien  Printmedien (Bücher, Zeitschriften, Flugblätter, Werbeplakate, …)  Tonträger (CDs, LPs, MCs, …)  Filme (BlueRay, DVD, Video, …)  Computer- und Konsolenspiele  Telemedien  Internet-Angebote (=> Beteiligung der KJM – siehe Folie XXX)  Nicht indizierbare Medien:  Filme und Spiele mit FSK- bzw. USK-Alterskennzeichen  Rundfunkangebote 45 https://www.bzkj.de/bzkj/indizierung hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren – Fortsetzung  Antragsberechtigte (ca. 800 Institutionen):  Bundesministerium für Familie, Senioren, Frauen und Jugend  Oberste Jugendbehörden der Länder (OLJB), Landesjugendämter, Jugendämter  Kommission für Jugendmedienschutz (KJM) als zentrale Aufsichtsstelle der Länder für den Jugendmedienschutz  Anerkannte Einrichtungen der freiwilligen Selbstkontrolle  Aus Mitteln des Bundes, der Länder oder der Landesmedienanstalten geförderte Internet- Beschwerdestellen.  Anregungsberechtigt sind alle Behörden und anerkannte Träger der freien Jugendhilfe  Privatpersonen sind nicht antrags- oder anregungsberechtigt (Ansprechpartner: Polizei, Jugendämter, KJM, Internet-Beschwerdestellen)  Bei Anträgen muss die Bundesprüfstelle tätig werden, bei Anregungen hat sie Ermessensspielraum, ob ein Verfahren eingeleitet wird oder nicht. 46 https://www.bzkj.de/bzkj/indizierung hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren - Ablauf 12er Gremium:  Vorsitzender der BPjM  8 von Verbänden benannte und vom BMFSFJ berufene BeisitzerInnen aus Kunst, Literatur, Buchhandel/Verlagen, Anbieter von Bildträgern / Telemedien, Träger der freien Jugendhilfe, öffentl. Jugendhilfe, Lehrerschaft, Kirchen u.a. Religionsgemeinschaften  3 von den Länderregierungen benannte BeisitzerInnen  Entscheidung mit 2/3-Mehrheit (mind. 7 Stimmen) 3er Gremium:  Kann in eindeutigen Fällen einstimmig entscheiden 47 BPjM 2019, S. 9; https://www.bzkj.de/bzkj/indizierung hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren – Fortsetzung Kriterien für eine Indizierung:  Jugendgefährdung: „Träger- und Telemedien, die geeignet sind, die Entwicklung von Kindern und Jugendlichen oder ihre Erziehung zu einer eigenverantwortlichen und gemeinschaftsfähigen Persönlichkeit zu gefährden, sind von der Bundesprüfstelle für jugendgefährdende Medien in eine Liste jugendgefährdender Medien aufzunehmen“ (§18, Abs. 1 JuSchG) ⇒ Beispielkatalog für Kriterien im Jugendschutzgesetz: ⇒ „… unsittliche, verrohend wirkende, zu Gewalttätigkeit, Verbrechen oder Rassenhass anreizen- de Medien sowie Medien, in denen 1. Gewalthandlungen wie Mord- und Metzelszenen selbst- zweckhaft und detailliert dargestellt werden oder 2. Selbstjustiz als einzig bewährtes Mittel zur Durchsetzung der vermeintlichen Gerechtigkeit nahe gelegt wird.“ (§18, Abs. 1 JuSchG) 48 hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren – Erläuterung von Kriterien (Beispiele) Unsittlichkeit im sexuellen Sinne Verrohung: (nicht Pornographie):  Wecken / Fördern von Sadismus, Gewalttätigkeit, Hinterlist, gemeiner Schadenfreude  Herabwürdigung von Menschen zu  Desensibilisierung im Hinblick auf Grenzen im bloßen Sexualobjekten gesellschaftl. Zusammenleben / Achtung anderer  Sexualkontakte zwischen Erwachsenen => Gefahr des Verlustes der Empathiefähigkeit und Kindern  Ästhetisierung von Gewalt durch aufwändige  Sexuelle Gewalt (außer einvernehm- Inszenierung liche sado-masochistische Handlungen  Zynische Kommentierung von Gewalthandlungen unter Erwachsenen in klar vereinbar- tem Rahmen, sofern keine besonders  Gewalt als prägendes Element des medialen Geschehens ausgeprägte Erniedrigung oder  Legitimierung / Rechtfertigung / Verharmlosung von Gewalteinwirkung gegeben ist) Gewalt  Berücksichtigung von Genrekonventionen, Realitätsnähe, Hierzu und zu weiteren Details: https://www.bzkj.de/bzkj/indizierung/was- wird-indiziert/gesetzlich-geregelte-fallgruppen/gesetzlich-geregelte- Identifikationspotenzial, alternativen Handlungsmöglich- fallgruppen-175582 keiten bei Spielen etc. 49 hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren – Fortsetzung Durch Spruchpraxis entwickelte, weitere Kriterien für Jugendgefährdung:  Verherrlichung des Nationalsozialismus  Diskriminierung von Menschengruppen  Verherrlichung von Drogenkonsum oder exzessivem Alkoholkonsum  Nahelegen von selbstschädigendem Verhalten (z.B. Suizid, Esstörungen)  Verletzung der Menschenwürde  Gefährdung der persönlichen Integrität (neu aufgenommen) 50 https://www.bzkj.de/bzkj/indizierung/was-wird-indiziert/weitere-anerkannte-gruende/weitere-anerkannte-gruende-175598 hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren – Fortsetzung  Für schwer jugendgefährdende Medien gelten dieselben Konsequenzen wie für indizierte Medien, auch ohne dass diese in die Liste jugend- gefährdender Medien aufgenommen werden  Die Bundesprüfstelle muss Medien, die nach gerichtlicher Feststellung gegen die links aufgeführten Regelungen des StGB verstoßen, indizieren. 51 BPjM 2019, S. 27 hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren - Fortsetzung Grenzen der Indizierung  Im Indizierungsverfahren erfolgt eine Abwägung mit anderen Grundrechten (v.a. Meinungsäußerungsfreiheit, Kunstfreiheit, Freiheit von Wissenschaft, Forschung, Lehre usw.) => Überwiegen diese das Jugendschutzinteresse, erfolgt keine Indizierung  Tendenzschutzklausel: Medien dürfen nicht allein wegen ihres politischen, sozialen, religiösen oder weltanschaulichen Inhalts indiziert werden – auch wenn dieser jugendgefährdend ist.  Wenn solche Medien (auch) wegen ihrer Darstellungsmittel und -formen jugendgefährdend sind, können sie dennoch indiziert werden. 52 www.bzkj.de/bzkj/indizierung/was-wird-indiziert/abwaegung-mit-grundrechten/abwaegung-mit-grundrechten-175578 hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren - Fortsetzung  Inkrafttreten der Indizierung mit Veröffentlichung im Bundesanzeiger  Veröffentlichung auch im JMS Report (Bezug ab 18 Jahren)  Öffentlicher und nicht- öffentlicher Teil des „Index“ (nicht-öffentlich v.a. für Tele- medien, bei denen Bezeichnung zugleich Zugangsmöglichkeit enthält, z.B. URL). 53 https://www.bzkj.de/bzkj/service/statistiken hhu.de 4. Institutionen der Medienaufsicht 54 https://www.bzkj.de/resource/blob/236650/83413b0b4c9a48122165174a94eb3bd3/20241-jahresstatistik-2023-data.pdf hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren – Fortsetzung Folgen der Indizierung  Trägermedien => Abgabe-, Präsentations-, Verbreitungs-, Vertriebs- und Werbebeschränkungen  Kindern u. Jugendlichen dürfen indizierte Medien nicht zugänglich gemacht werden.  Verkauf und gewerbliche Vermietung nicht an Orten, die Kindern u. Jugendlichen zugänglich sind  Kein Angebot, Verkauf, Verleih außerhalb von Geschäftsräumen, in Kiosken, im Versandhandel (außer bei Altersüberprüfung) usw.  Keine Werbung für indizierte Medien in der Öffentlichkeit, keine Werbung mit Indizierung (z.B. in Räumen, die nur Erwachsenen zugänglich sind)  Bei Verstoß drohen Geldstrafe oder Freiheitsstrafe bis zu 1 Jahr  Elternprivileg (=> Folie 19) 55 https://www.bzkj.de/bzkj/indizierung/was-bewirkt-die-indizierung hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren – Fortsetzung Folgen der Indizierung  Rundfunk:  Ausstrahlungsverbot  Verbot der Bewerbung indizierter Medien  Telemedien  Öffentliche Verbreitung indizierter Angebote ist unzulässig.  Jugendgefährdende, aber nicht strafrechtlich relevante Inhalte (und Werbung dafür) dürfen in „geschlossenen Benutzergruppen“ zugänglich gemacht werden (d.h. Zugriff nur für Erwachsene)  Keine Werbung mit Indizierung (auch nicht in geschlossenen Benutzergruppen)  Selbstverpflichtung der FSM angeschlossener Anbieter, indizierte Inhalte nicht in Suchmaschinen anzuzeigen  BPjM-Modul zur Integration der Indizierungsinformation in Filterprogramme  Sanktionen: Bußgelder, Untersagungsverfügungen der Landesmedienanstalten 56 https://www.bzkj.de/bzkj/indizierung/was-bewirkt-die-indizierung hhu.de 4. Institutionen der Medienaufsicht Indizierungsverfahren – Fortsetzung  Eine Indizierung gilt für 25 Jahre und entfällt, wenn keine Folge-Indizierung ausgesprochen wird.  Hersteller können jederzeit eine Überprüfung der Indizierung beantragen. „Rambo, First Blood Part II“ „Speed Racer“ (1984-2009 indiziert) (1986-2011 indiziert) „Theatre Europe“ (1986-2011 indiziert) 57 https://www.spiegel.de/netzwelt/games/zdf-doku-killerspiele-als-schiffe-versenken-die-jugend-gefaehrdete-a-1075305.html#fotostrecke-923c80bf-0001-0002-0000-000000072588 hhu.de 4. Institutionen der Medienaufsicht Indizierung = Zensur? NEIN! Indizierte Medien sind für Erwachsene trotz Indizierung zugänglich, sofern sie keine strafrechtlich relevanten Verstöße enthalten 58 hhu.de 4. Institutionen der Medienaufsicht Kommission für Jugendmedienschutz (KJM)  Organ der Landesmedienanstalten  Zentrale Aufsicht für Jugendschutz im Internet und im privaten Rundfunk  Beobachtung des Programms und Überwachung der Einhaltung des JMStV und Beschluss von Sanktionen, die von zuständiger Landesmedienanstalt umgesetzt werden  Mögliche Sanktionen:  Bußgelder  Sendezeitbeschränkung / Ausstrahlungsverbot (Rundfunk)  Beanstandung / Untersagung / (Aufforderung zur) Sperrung (Telemedien)  Abgabe von Straftatbeständen an Staatsanwaltschaft  Entscheidung über Ausnahme-Anträge zu Zeitgrenzen bei der Ausstrahlung und Bestätigung von Altersbewertungen 59 www.kjm-online.de hhu.de 4. Institutionen der Medienaufsicht  Anerkennung und Kontrolle von Einrichtungen der Freiwilligen Selbstkontrolle  Für Anerkennung müssen Vorgaben erfüllt sein, z.B. zu wirksamem Kinder- und Jugendschutz oder Rekrutierung unabhängiger, sachkundiger Gutachter aus gesellschaftlichen Gruppen  Erstellung von Satzungen und Richtlinien  Eingreifen bei Verfahrensfehlern, Missachtung allgemein geltender Bewertungsgrundsätze etc.  Prüfung von Bürger-Beschwerden zum privaten Rundfunk  Jugendschutz.net als Organisation zur Prüfung von Internet-Inhalten organisatorisch an KJM angebunden.  Stellungnahme zu Indizierungsanträgen der BzKJ bei Internet-Angeboten und Stellung eigener Anträge  Bewertung technischer Mittel des Jugendmedienschutzes und von Altersverifikations- systemen, Festlegung von Kriterien für Jugendschutzprogramme gemeinsam mit Selbstkontrolleinrichtungen 60 www.kjm-online.de hhu.de 4. Institutionen der Medienaufsicht Kommission für Jugendmedienschutz (KJM) Zusammensetzung:  6 DirektorInnen von Landesmedien- anstalten  2 Mitglieder von der für den Jugend- schutz zuständigen obersten Bundes- behörde benannt  4 Mitglieder von den für den Jugend- schutz zuständigen obersten Landes- behörden benannt  Einzelfallprüfungen und mögliche Ver- stöße werden in Ausschüssen aus je einem Mitglied der drei Gruppen behandelt 61 https://www.kjm-online.de//fileadmin/user_upload/KJM/Service/Publikationen/Broschueren/DMA_KJM_Imagebroschuere_2221215_A4_ua.pdf hhu.de 4. Institutionen der Medienaufsicht Jugendschutz.net  Organisatorisch an KJM angebunden  Gemeinsames Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet  Finanziert von den OLJB & Landesmedienanstalten, gefördert vom Bundesministerium für Familie, Senioren, Frauen und Jugend  Sichtung von Internet-Angeboten auf Gefahren für Kinder und Jugendliche und auf Verstöße gegen JMStV  Themenbereiche: z.B. polit. Extremismus, sexualisierte Gewalt, Selbstgefährdung, Belästigung und Cybermobbing, Kostenfallen, ungeeignete Werbung, Verletzung von Persönlichkeitsrechten Minderjähriger  Erstellung von Berichten zu aktuellen Problembereichen 62 https://www.jugendschutz.net hhu.de 4. Institutionen der Medienaufsicht Jugendschutz.net – Fortsetzung  Überprüfung von Vorsorgemaßnahmen / Meldesystemen => Unterrichtung der BzKJ  Weiterverfolgung von Hinweisen / Beschwerden. Wird Aufforderung zur Abstellung des Mangels keine Folge geleistet, wird der Fall an KJM abgegeben  Bei Gefahr für Leib und Leben oder sexualisierter Gewalt gegen Kinder Einschaltung der Polizeibehörden  Weiterleitung von Angeboten zur Indizierung an BzKJ  Kooperation mit ausländischen Partnerstellen bei in Deutschland nicht sanktionier- baren Angeboten 63 https://www.jugendschutz.net hhu.de 5. Selbstkontroll-Einrichtungen 64 hhu.de 5. Selbstkontroll-Einrichtungen Zuständigkeiten nach Medium Medienaufsicht Freiw. Selbstkontrolle Filme (Kino/DVD) BzKJ, OLJB FSK Digitale Spiele (Datenträger) BzKJ, OLJB USK Priv. Rundfunk * KJM FSF (Landesmedienanstalten) Öffentl.-rechtl. Rundfunk * Rundfunk-/Fernsehrat Internet * BzVK FSM KJM FSK.online (Filme) (Landesmedienanstalten) USK.online (Spiele) jugendschutz.net Presse BZKJ Presserat * Verpflichtende Bestellung v. Jugendschutzbeauftragten als Schnittstelle zw. Anbietern / Mediennutzenden / Medienaufsicht 65 hhu.de 5. Selbstkontroll-Einrichtungen Grundprinzipien  Getragen von Verbänden der jeweiligen Medienbranche  Durchführung der Prüfverfahren durch unabhängige, sachkundige Angehörige verschiedener gesellschaftlicher Gruppen, damit Ergebnis gesellschaftlichen Konsens widerspiegelt.  Mitwirkung staatlicher Stellen (Trägermedien: OLJB) bzw. Zulassung der Selbstkontroll- Einrichtungen / Richtlinien bzw. Satzungen und (formale / rechtliche) Kontrolle durch Medienaufsicht (Rundfunk / Telemedien: KJM)  Schutz / Privileg für Mitglieder bei Beanstandungen (Ansprechpartner / Verantwortlicher ist zunächst Selbstkontrolle, der Anbieter angeschlossen ist)  Zertifizierung von Jugendschutzbeauftragten (Rundfunk / Telemedien) bzw. Übernahme der Funktion für kleine Unternehmen 66 Junge / Schumacher 2021 hhu.de 5. Selbstkontroll-Einrichtungen Zuständigkeiten bei Alterseinstufung / Alterskennzeichnung Zuständigkeit Aufsicht Oberste Landesjugendbehörden (OLJB) Kommission für Jugendmedienschutz (KJM) = für Jugend zuständige Landesministerien Überprüfung Anerkennung Richtlinien Rundfunk / Telemedien Mitwirkung ** Trägermedien Durchführung Vergabe * FSK / USK Festlegung FSF, FSM, FSK online, USK online * Federführend: Spiele: NRW Filme: Rheinl.-Pfalz Alterseinstufung Alterseinstufung Alterskennzeichen ** nicht inhaltlich / nur bzgl. Einhaltung d. rechtl. Beurteilungsspielraums 67 Eigene Erstellung hhu.de 5. Selbstkontroll-Einrichtungen Freiwillige Selbstkontrolle der Filmwirtschaft (FSK)  1949 gegründet, d.h. erste deutsche Selbstkontroll-Einrichtung  Einrichtung der SPIO (Spitzenorganisation der Filmwirtschaft e.V.) als Dachverband film- und videowirtschaftlicher Verbände  Altersfreigabeprüfung für Filme, Serien und andere filmische Inhalte, die im Kino, auf Bildträgern oder online gezeigt / verbreitet werden sollen.  Einfluss der Einstufung auf Kinobesuch, zeitliche Platzierung im TV / Streaming Zugangsbeschränkung in Telemedien (=> Folien 25ff.)  FSF-Freigaben sind für inhaltsgleiche Kinofilme / DVDs zu übernehmen, müssen aber vorher von KJM bestätigt und FSK zugeleitet werden, die eine Bescheinigung ausstellt.  Für Online-Bereich ist FSK Online seit 2011 als Selbstkontroll-Einrichtung anerkannt (Beratung, Altersprüfung, Beschwerdestelle, Funktion als Jugendschutzbeauftragte(r)) www.fsk.de hhu.de 5. Selbstkontroll-Einrichtungen Der 5er Ausschuss besteht aus Grundsatzkommission:  Ständigem Vertreter der OLJB  Vertreter der Film- und  Jugendsachverständiger aus einem Videowirtschaft der 16 Bundesländer  Vertreter der öffentlichen  Weiterer Vertreter d. öffentlichen Hand Hand (Kultus- und Familien-  2 von der FSK benannte Vertreter ministerium, OLJB, Kultus- (nicht in Unternehmen der Branche ministerkonferenz, Ev. beschäftigt) Kirche, Dt. Bischofs- konferenz, Zentralrat der Zur Zusammensetzung der übrigen Juden, Bundesjugendring) Ausschüsse https://www.fsk.de/?seitid=505&tid=72  Vertreter d. TV-Veranstalter Prüfer stammen aus verschiedenen Gesell- (ARD, ZDF, Landesmedien- schaftsbereichen und Berufsfeldern, sind anstalten) ehrenamtlich tätig, sind nicht weisungs- gebunden und erhalten Schulungen Altersfreigabe wird nach Abschluss des Verfahrens vom Ständigen Vertreter der OLJB vergeben 69 https://www.fsk.de/media_content/1345.pdf hhu.de 5. Selbstkontroll-Einrichtungen Alterseinstufungen der FSK 70 https://www.fsk.de/?seitid=508&tid=72 hhu.de 5. Selbstkontroll-Einrichtungen 71 https://www.fsk.de/?seitid=508&tid=72 hhu.de 5. Selbstkontroll-Einrichtungen Zusätzlich zur Altersfreigabe müssen nach Novellierung des JuSchG ab 30.6.2023 Deskriptoren zur inhaltlichen Begründung vergeben werden 72 https://www.fsk.de/?seitid=3046&tid=469 hhu.de 5. Selbstkontroll-Einrichtungen Beispiele für Freigabe-Begründungen der FSK: https://www.fsk.de/?seitid=2737&tid=469 73 hhu.de 5. Selbstkontroll-Einrichtungen Unterhaltungssoftware-Selbstkontrolle (USK)  Gegründet 1994  Getragen vom Verband der deutschen Games-Branche e.V. (game)  Alterseinstufung digitaler Spiele  USK Online seit 2011 auch als Selbstkontroll-Einrichtung im Bereich Telemedien anerkannt  Spiele mit einer Freigabe ab 18 Jahren können jugendbeeinträchtigend sein, wurden aber auf das Indizierungskriterium der Jugendgefährdung geprüft.  Einfluss der Einstufung auf Zugangsbeschränkung in Telemedien (=> Folie 30) 74 www.usk.de hhu.de 5. Selbstkontroll-Einrichtungen Organisation der USK  Beirat  Legt Grundsätze und Leitkriterien fest  Ernennt Personen, die an Alterseinstufung mitwirken  VertreterInnen aus Medienpädagogik, Kirchen, Jugendorganisationen, Jugendministerien von Bund und Ländern, BzKJ, KJM und Games-Branche  Prüfgremium  4 Jugendschutzsachverständige (nicht in Games-Branche beschäftigt, nicht weisungs- gebunden), die berufliche Erfahrung mit Mediennutzung bei Kindern und Jugendlichen haben  Ständiger Vertreter der Obersten Landesjugendbehörden, der Altersfreigabe erteilt  Prüfgremium werden Spiele von SichterInnen live präsentiert (Verfahren bei Trägermedien) 75 https://usk.de/die-usk/grundlagen-und-struktur/ hhu.de 5. Selbstkontroll-Einrichtungen Prüfverfahren der USK für Trägermedien 76 USK 2024, S. 22f. hhu.de 5. Selbstkontroll-Einrichtungen Prüfverfahren der USK für Online-Spiele / Apps IARC-System (International Age Rating Coalition)  IARC = internat. Kooperation verschiedener für Alterskennzeichnung verantwortlicher Organisationen  Entwickler-Angaben in einem Fragebogen werden nach Vorgaben verschiedener nationaler (Selbst-)Kontroll- Einrichtungen in die in den jeweiligen Ländern gültigen Alterskennzeichnungen übersetzt.  Auf allen angeschlossenen Vertriebsplattformen sind in Deutschland die Alterskennzeichen der USK sichtbar.  Die USK nimmt Überprüfungen der Einstufungen vor (KI- unterstützt). 77 USK 2024, S. 27 hhu.de 5. Selbstkontroll-Einrichtungen Alterskennzeichnungen der USK Altersfreigabe Begründung Hinweise zur Nutzung 78 https://usk.de/die-usk-alterskennzeichen/ hhu.de 5. Selbstkontroll-Einrichtungen Kriterien der USK für Altersfreigaben mit Beispielen 79 USK 2024, S. 12-17 hhu.de 5. Selbstkontroll-Einrichtungen 80 USK 2024, S. 18-11 hhu.de 5. Selbstkontroll-Einrichtungen Anteil der Alterskategorien in den Prüfverfahren 2023 N = 1876 81 https://usk.de/usk-jahresstatistik-2023/ hhu.de 5. Selbstkontroll-Einrichtungen Exkurs: PEGI Wer kennt diese Kennzeichnung? Was fällt auf? 82 https://pegi.info/de hhu.de 5. Selbstkontroll-Einrichtungen Exkurs: PEGI (Pan European Game Information)  PEGI = Unabhängige, gemeinnützige Gesellschaft nach belgischem Recht  Anbieter von Alterseinstufungen von Videospielen in 38 europäischen Ländern  Einführung des Systems 2003 vom gesamteuropäischen Games-Verband ISFE (Interactive Software Federation of Europe) als Versuch der Harmonisierung der Altersfreigaben und der Erleichterung des grenzüberschreitenden Verkaufs  Zu Spielen auf Geräten beruht Altersangabe auf Fragebogen-Angaben der Spiele- Entwickler, bei Online-Spielen kommt IARC-System zum Einsatz.  PEGI-3- und PEGI-7-Spiele werden von niederländische Institut für die Klassifizierung audiovisueller Medien überprüft, Altersstufen darüber von Games Rating Authority in Großbritannien.  In einzelnen europäischen Ländern verbindliches System (z.B. GB, NL, Teile von Österreich) 83 https://pegi.info/de hhu.de 5. Selbstkontroll-Einrichtungen Wie wird der altersbeschränkte Zugang auf einer Messe wie der Gamescom gehandhabt?  Kooperation des Veranstalters mit USK, die auch Alterskennzeichnung von bislang nicht geprüftem Material vornimmt => im offenen Bereich sind alle Spieler und Trailer USK-geprüft  Offene Stände müssen Alterskennzeichen anzeigen (Ausnahme: B2B-Bereich)  Bereiche ab 0, 6, 12 J. frei zugänglich (bei Spielen ab 12 J. dürfen Jüngere zuschauen, aber nicht spielen)  Bei Spielen ab 16 oder 18 Jahren müssen separate Räume, Sichtschutzwände, abgewandte Monitore etc. plus Zugangskontrolle eingesetzt werden  Ausweiskontrolle bei Einlass mit Vergabe nicht abnehmbarer farbiger Armbänder (12/16/18 Jahre)  Kinder unter 12 Jahren dürfen nur mit Eltern, Kinder unter 4 Jahren überhaupt nicht auf die Messe https://www.gamescom.global/de/info/visitors/youth-protection; https://usk.de/fuer-unternehmen/spiele-und-apps-pruefen-lassen/messen-und-veranstaltungen/gamescom- 84 ausstellung-2024/ hhu.de 5. Selbstkontroll-Einrichtungen Freiwillige Selbstkontrolle Fernsehen (FSF)  1994 gegründet  Mitglieder sind in Deutschland tätige private Fernseh- und Telemedien-Anbieter  Alterseinstufungen von Filmen und Serien für privates TV und rundfunkähnliche Telemedien-Angebote (Streaming)  Entscheidung über Schnitt-Auflagen und Ausnahmen der Ausstrahlungszeiten gemäß Altersfreigabe  Kuratorium aus Mitgliedern verschiedener gesellschaftlicher Bereiche (v.a. Wissenschaft, Kultur, Medienpädagogik, Jugendmedienschutz) bzw. von Mitgliedssendern (keine Mehr- heit), das Prüfordnung erarbeitet und weiterentwickelt, PrüferInnen ernennt, fortbildet, Prüfungen begleitet und kontrolliert  Eine Prüfung wird in der Regel von 3 im Bereich Kinder und Medien erfahrenen PrüferInnen vorgenommen 85 www.fsf.de hhu.de 5. Selbstkontroll-Einrichtungen Beurteilung anhand der Kriterien:  Angst  Gewalt  Desorientierung  Sex  Sprache 86 https://fsf.de/altersfreigaben/pruefungen/ hhu.de 5. Selbstkontroll-Einrichtungen 87 https://fsf.de/lexikon/altersfreigaben-und-fsf-kennzeichen/ hhu.de 5. Selbstkontroll-Einrichtungen 88 https://fsf.de/lexikon/altersfreigaben-und-fsf-kennzeichen/ hhu.de 5. Selbstkontroll-Einrichtungen 89 https://fsf.de/lexikon/altersfreigaben-und-fsf-kennzeichen/ hhu.de 5. Selbstkontroll-Einrichtungen Beispiele für Begründungen der Altersfreigaben der FSF https://fsf.de/altersfreigaben/fsf-altersfreigaben/blick-in-die-pruefungen/ 90 hhu.de 5. Selbstkontroll-Einrichtungen Freiwillige Selbstkontrolle Multimedia-Diensteanbieter (FSM)  1997 gegründet  Selbstkontrolle im Bereich Telemedien – Mitglieder = Unternehmen aus Telekommunikations- und Online-Branche  Eher beratende Instanz, da bei Online-Inhalten keine umfassende Vorab-Prüfung stattfinden kann.  Verhaltenskodizes, auf die sich Mitgliedsunternehmen verpflichten (z.B. für Mobilfunk, Suchmaschinen)  Vergabe von Prüfsiegeln für Internet-Angebote  Beschwerdestelle für strafbare und jugendgefährdende Online-Inhalte  Zertifizierung von Jugendschutzbeauftragten, die Alterseinstufungen vornehmen  Prüfung von Jugendschutzprogrammen nach rechtlichen Vorgaben und Vergabe von Prüfzertifikaten  Medienpädagogische Arbeit 91 www.fsm.de hhu.de 5. Selbstkontroll-Einrichtungen 92 https://jahresbericht.fsm.de/2023/beschwerdestelle/ hhu.de 6. Problemfelder 93 hhu.de 6. Problemfelder  Ausweitung / Internationalität des Medienangebots  Unübersichtliche Vielzahl von dynamischen Inhalten (v.a. in Telemedien) => Grenzen der Inhalts-Bewertung und der Indizierungs-Idee  Problem der Kontrolle / Sanktionierung im Ausland ansässiger Anbieter  Probleme der internationalen Harmonisierung von Regelungen  Medienkonvergenz: Schwierigkeiten der Anpassung gewachsener Strukturen  Komplexität des Jugendmedienschutzsystems:  Verteilung der Zuständigkeit auf Bund und Länder sowie auf zahlreiche Instanzen => Probleme der Abstimmung / Kompetenzabgrenzung / Konkurrenz  Inkonsistenzen im Detail 94 Dreyer / Andresen / Wysocki 2022; Heyen / Possing 2023; Lewinski 2023; Steinebach 2023; von Gottberg 2024a; 2024b hhu.de 6. Problemfelder  Veränderte Medien(nutzung):  Zeitlicher Verzug zw. technischer Entwicklung und rechtl. Regelungen  Kinder und Jugendliche nicht mehr nur passive, sondern auch aktive Medienakteure  Neue Gefährdungen durch Online-Nutzung, die neue Herangehensweisen im Jugendschutz erfordern (vgl. Gefährdungsatlas der BzKJ)  Einbeziehung von Interaktionsrisiken in Altersbewertung;  Vorsorgepflicht, deren neue Regelungen vom User auch angewandt werden müssen  Generation Gap (Regelungen von Erwachsenen für neue Generation von Mediennutzenden)  Derzeit sind die Verbreitungswege am besten reguliert, deren Bedeutung zurückgeht (Trägermedien), während es bei denjenigen, deren Bedeutung zunimmt (Social Media, Streaming, Apps usw.) noch Regulierungslücken gibt. 95 hhu.de 6. Problemfelder  Prinzip des altersbeschränkten Zugangs:  Orientierung an weniger weit entwickelten Kindern / Jugendlichen und Berücksichtigung „gefährdungsgeneigter“ RezipientInnen, nicht am individuellen Entwicklungsstand  Kein kompletter Schutz möglich / Möglichkeiten der Umgehung  Unterentwicklung (einfacher) technischer Lösungen und des Schutzes im Internet  Regulierung kann präventiven / erzieherischen Jugendmedienschutz / Medienkompetenzförderung nicht ersetzen  Herausforderung durch neue Entwicklungen  KI als künftiger Regelungsgegenstand (aber auch Instrument des Jugendmedienschutzes, z.B. für Altersverifikation, Klassifikation von Inhalten) 96 hhu.de 6. Problemfelder Nicht altersadäquate Spiele- nutzung bei Kindern - Ergebnisse der KIM-Studie 2022 Anstieg gg.über KIM-Studie 2020: +7 Prozentpunkte (bei 8-/9-Jährigen: + 13 Prozentpunkte) Medienpädagogischer Forschungsverbund Südwest 2023, S. 57 hhu.de Kenntnisse / Einstellungen von Eltern gegenüber Alterskennzeichnungen - Ergebnisse der KIM-Studie 2022 73% sind Alterskennzeichen schon aufgefallen, 21% wissen von ihrer Existenz, 5% haben erst durch Befragung davon erfahren Medienpädagogischer Forschungsverbund Südwest 2023, S. 59 hhu.de 6. Problemfelder Beispiel zum Generation Gap https://www.spiegel.de/netzwelt/games/zdf-doku-killerspiele-als-schiffe-versenken-die-jugend-gefaehrdete-a-1075305.html 99 hhu.de 7. Wichtige Punkte  Jugendschutz als Verfassungsgut und Notwendigkeit der Abwägung mit anderen Grundrechten (z.B. Medienfreiheit, Kunstfreiheit)  JuSchG und JMStV als zentrale Gesetzesgrundlagen  Getrennte, aber möglichst verzahnte / aufeinander abgestimmte Regelungen für Träger- / Telemedien und Rundfunk (Zuständigkeitsabgrenzung Bund – Länder)  Prinzip der regulierten Selbstregulierung => Zusammenwirken von Medienaufsicht (OLJB, BzKJ, KJM, jugendschutz.net) und Selbstkontrolle (FSK, USK, FSF, FSM)  Prinzip des Schutzes von Kindern und Jugendlichen vor entwicklungsbeeinträchtigenden und jugendgefährdenden Angeboten  Abgestuftes Schutzkonzept (=> Altersfreigaben)  Indizierung => Vertriebs- Zugangs- und Werbebeschränkungen / Kein Verbot für Erwachsene  Staatliche Regulierung kann und will elterliche Verantwortung nicht ersetzen! Subsidiäre Rolle dort, wo Schutz nicht möglich ist oder nicht stattfindet. 100 hhu.de 7. Wichtige Punkte  Erweiterung des Jugendmedienschutzes im Online-Bereich um Risiken der persönlichen Integrität / Nutzungsrisiken  Einführung von Begründungen für Alterseinstufungen  Bei Online-Inhalten Abrücken vom Prinzip der (nachträglichen) Altersbeschränkung von Einzelinhalten zugunsten einer (präventiven) Regelung von Funktionalitäten der Anbieter  Herausforderungen für den Jugendmedienschutz durch neue Gefahren (v.a. im Internet) und neue Formen der Mediennutzung 101 hhu.de Literatur Rechtliche Grundlagen  Grundgesetz für die Bundesrepublik Deutschland  Strafgesetzbuch  Jugendschutzgesetz vom 23. Juli 2002, zul. geändert am 6.5.2024.  Staatsvertrag über den Schutz der Menschenwürde und den Jugendschutz in Rundfunk und Telemedien (Jugendmedienschutz-Staatsvertrag – JMStV) in der Fassung in der Fassung des Fünften Staatsvertrages zur Änderung medienrechtlicher Staatsverträge (Fünfter Medienänderungsstaatsvertrag) in Kraft seit 1. Oktober 2024.  Gemeinsame Richtlinien der Landesmedienanstalten zur Gewährleistung des Schutzes der Menschenwürde und des Jugendschutzes in der Fassung vom 15.10.2019.  ARD-Richtlinien zur Sicherung des Jugendmedienschutzes vom 22. Juni 1988 in der Fassung vom 3. April 2017.  Richtlinien des Zweiten Deutschen Fernsehens zur Sicherung des Jugendmedienschutzes (ZDF- Jugendmedienschutzrichtlinien) vom 22. September 2000 i. d. F. vom 03. März 2017  Verordnung des Europäischen Parlaments und des Rates über einen Binnenmarkt für digitale Dienste und zur Änderung der Richtlinie 2000/31/EG (Gesetz über digitale Dienste) vom 19. Oktober 2022 (Digital Services Act)  Digitale-Dienste-Gesetz vom 6. Mai 2024 Zusammenstellung und Abrufmöglichkeiten unter: https://www.bzkj.de/bzkj/service/gesetzestexte, https://www.kjm-online.de/service/rechtsgrundlagen/ https://www.ard.de/die-ard/ARD-Richtlinien-zum-Jugendmedienschutz-100.pdf, https://www.zdf.de/zdfunternehmen/zdf- rechtsgrundlagen-und-vorschriften-100.html 102 hhu.de Literatur  BPjM (Hrsg.) (2019): Bundesprüfstelle für jugendgefährdende Medien. Aufgaben und Arbeitsweise. Bonn (online unter: https://www.bzkj.de/resource/blob/176420/724ffbd4a481e85d6248d0b8511c391e/broschuere-bpjm-aufgaben- und-arbeitsweise-data.pdf, letzter Abruf: 30.8.24).  Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) (2022): Gefährdungsatlas. 2. Aufl. Bonn (online unter: https://www.bzkj.de/resource/blob/176416/2c81e8af0ea7cff94d1b688f360ba1d2/gefaehrdungsatlas-data.pdf, letzter Zugriff: 3.10.24).  De Baey-Ernsten, Max / Hajok, Daniel (2023): Kinder- und Jugendschutz in digitalen Spielen. In: Bigl, Benjamin / Stoppe, Sebastian (Hrsg.): Game-Journalismus. Wiesbaden, S. 279-293.  Dreyer, Stephan / Andresen, Sünje / Wysocki, Neda (2022): The best ist yet to come? Folgen der sich wandelnden Regulierungsansätze im Jugendmedienschutz. In: JMS-Report 6, S. 1-5.  Gangloff, Tilmann P. (2021): Nur im Ansatz ein großer Wurf (online unter: https://mediendiskurs.online/beitrag/nur- im-ansatz-ein-grosser-wurf/, letzter Abruf, 6.9.24)  Gottberg, Joachim von (2024a): Jugendschutz im Rundfunk und in Online-Medien. In: JMS-Report, Heft 1, S. 10-12.  Gottberg, Joachim von (2024b): Rundfunkkommission verabschiedet neuen Entwurf zum JMStV. In JMS-Report, Heft 1, S. 13-17.  Heyen, Angelika / Possing, Carole (2023): Aktuelle Problemfelder und Herausforderungen im Jugendmedienschutz. In: AfP – Zeitschrift für das gesamte Medienrecht 54, S. 12-18.  Hinze, Klaus (2005): Entwicklungsbeeinträchtigung. Annäherung aus Sicht des Kinder- und Jugendschutzes. In: tv diskurs 31, S. 37-39. 103 hhu.de Literatur  Hinze, Klaus (2024): Neue Entwicklungen im Jugendmedienschutz. Das Jugendschutzgesetz. In: JMS-Report, Heft 1, S. 3-9.  Junge, Thorsten / Schumacher, Claudia (2021): Struktureller Kinder- und Jugendmedienschutz. In: Sander, Uwe / von Gross, Friederike, Hugger, Kai-Uwe (Hrsg.): Handbuch Medienpädagogik. Wiesbaden (online unter: https://doi.org/10.1007/978-3-658-25090-4_106-1, letzter Abruf, 5.9.24).  Lewinski, Kai von (2023): Wachsende Jugendmedienwelt, schrumpelnder Schutz – Defizite des Jugendmedienschutzes trotz Konvergenz. In: Archiv für Presserecht 54, S. 19-24 (online unter: https://doi.org/10.9785/afp-2023-540105, letzter Abruf: 4.9.24).  Medienpädagogischer Forschungsverbund Südwest (mpfs) (2023): KIM-Studie 2022. Kindheit, Internet, Medien. Basisuntersuchung zum Medienumgang 6- bis 13-Jähriger. Stuttgart (online unter: https://www.mpfs.de/fileadmin/files/Studien/KIM/2022/KIM-Studie2022_website_final.pdf, letzter Abruf: 5.9.24).  Steinebach, Martin (2023): Künstliche Intelligenz als Instrument des Kinder- und Jugendmedienschutzes. In: BzKJ aktuell 4/23 (https://www.bzkj.de/bzkj/service/publikationen/bzkj-aktuell/kuenstliche-intelligenz-als-instrument-des- kinder-und-jugendmedienschutzes-233908, letzter Zugriff: 2.10.24)  USK (Hrsg.) (2024): Kinder und Jugendliche schützen. Orientierung fördern. Berlin (online unter: https://usk.de/?smd_process_download=1&download_id=1091854, letzter Abruf: 2.9.24). 104 hhu.de Literatur  https://www.ajs-bw.de/jugendmedienschutz.html  www.bzkj.de  www.fsk.de  www.fsf.de  www.fsm.de  www.jugendschutz.net  www.kjm-online.de  www.usk.de 105 hhu.de

Use Quizgecko on...
Browser
Browser