Generative Künstliche Intelligenz hat immer mehr Anwendungsbereiche und wird zunehmend auch von Kindern und Jugendlichen genutzt. Neben einer Vielzahl von positiven Auswirkungen dieser Technologie birgt diese allerdings auch nicht unerhebliche Risiken. So besteht auch die Gefahr, dass KI-generierte Inhalte zur Desorientierung von Minderjährigen beitragen. Dabei lassen sich Desinformationen, anti-demokratische Inhalte oder Hass und Hetze im Internet als durch den Einsatz von KI verstärkte kinder- und jugendschutzrelevante Problemfelder ausmachen. Wenn Kinder und Jugendliche ungeschützt entsprechenden Inhalten ausgesetzt sind, können Risiken für das nachhaltige demokratische Miteinander entstehen, die rechtzeitig durch entsprechende Gesetzesänderungen adressiert werden sollten. Dabei soll schon bei der Erzeugung von Inhalten durch KI angesetzt werden. Vor allem sind Anbieter von KI auch beim Kinder- und Jugendschutz in die Pflicht zu nehmen.
Im vom EMR erstellten Gutachten „Kinder- und Jugendmedienschutz und Künstliche Intelligenz – Herausforderung für den Jugendmedienschutz-Staatsvertrag (JMStV)?“ beleuchtet Dr. Jörg Ukrow, LL.M.Eur, geschäftsführendes Vorstandsmitglied des EMR, im Auftrag der Kommission für Jugendmedienschutz (KJM) den Stand des Schutzes vor KI-Risiken und Reformüberlegungen unter besonderer Beachtung generativer KI und unter Berücksichtigung des geplanten Gesetzes über künstliche Intelligenz der EU.
Im Zentrum des Gutachtens steht die Frage, ob das aufsichtliche System zum Kinder- und Jugendmedienschutz in Deutschland so aufgestellt ist, dass es adäquat auf die Risiken der neuen Systeme und Anwendungen reagieren kann. Um hier auf die technologischen Entwicklungen vorbereitet zu sein, ist es wichtig, Künstliche Intelligenz explizit in den Geltungsbereich des Jugendmedienschutz-Staatsvertrags (JMStV) aufzunehmen. Auch sollen Selbstkontrolleinrichtungen, wie sie im Bereich von Rundfunk und Telemedien, aber auch für Spiele und Kinofilme etabliert sind, in eine wirksame KI-Aufsicht einbezogen werden. Unternehmen und Organisationen, die in Deutschland KI-Systeme betreiben, sollten darüber hinaus verpflichtet werden, einen KI-Jugendschutzbeauftragten zu benennen, der frühzeitig in die Entwicklung von Anwendungen einbezogen und Kinder- und Jugendschutzbelange einbringen kann. Und aufgrund der schnellen technologischen Veränderungen sollten relevante Gesetze wie der JMStV, das Jugendschutzgesetz des Bundes (JuSchG) sowie der Digital Services Act (DSA) in kürzeren Abständen als bisher evaluiert werden. Denn letztlich müssen regulatorische Vorgaben, technische Schutzvorkehrungen und Medien- und KI-Kompetenz immer wieder und gemeinsam betrachtet werden, um Chancen der Künstlichen Intelligenz zu nutzen und ihre Risiken zu minimieren – auch und gerade im Rahmen des Kinder- und Jugendschutzes.
Das Gutachten kann auf der Webseite der KJM abgerufen werden. HIER geht es zur Pressemitteilung der KJM.
