Generative K\u00fcnstliche Intelligenz hat immer mehr Anwendungsbereiche und wird zunehmend auch von Kindern und Jugendlichen genutzt. Neben einer Vielzahl von positiven Auswirkungen dieser Technologie birgt diese allerdings auch nicht unerhebliche Risiken. So besteht auch die Gefahr, dass KI-generierte Inhalte zur Desorientierung von Minderj\u00e4hrigen beitragen. Dabei lassen sich Desinformationen, anti-demokratische Inhalte oder Hass und Hetze im Internet als durch den Einsatz von KI verst\u00e4rkte kinder- und jugendschutzrelevante Problemfelder ausmachen. Wenn Kinder und Jugendliche ungesch\u00fctzt entsprechenden Inhalten ausgesetzt sind, k\u00f6nnen Risiken f\u00fcr das nachhaltige demokratische Miteinander entstehen, die rechtzeitig durch entsprechende Gesetzes\u00e4nderungen adressiert werden sollten. Dabei soll schon bei der Erzeugung von Inhalten durch KI angesetzt werden. Vor allem sind Anbieter von KI auch beim Kinder- und Jugendschutz in die Pflicht zu nehmen.<\/p>\n
Im vom EMR erstellten Gutachten \u201eKinder- und Jugendmedienschutz und K\u00fcnstliche Intelligenz \u2013 Herausforderung f\u00fcr den Jugendmedienschutz-Staatsvertrag (JMStV)?<\/strong>\u201c beleuchtet Dr. J\u00f6rg Ukrow, LL.M.Eur<\/strong>, gesch\u00e4ftsf\u00fchrendes Vorstandsmitglied des EMR, im Auftrag der Kommission f\u00fcr Jugendmedienschutz (KJM) den Stand des Schutzes vor KI-Risiken und Reform\u00fcberlegungen unter besonderer Beachtung generativer KI und unter Ber\u00fccksichtigung des geplanten Gesetzes \u00fcber k\u00fcnstliche Intelligenz der EU.<\/p>\n Im Zentrum des Gutachtens steht die Frage, ob das aufsichtliche System zum Kinder- und Jugendmedienschutz in Deutschland so aufgestellt ist, dass es ada\u0308quat auf die Risiken der neuen Systeme und Anwendungen reagieren kann. Um hier auf die technologischen Entwicklungen vorbereitet zu sein, ist es wichtig, K\u00fcnstliche Intelligenz explizit in den Geltungsbereich des Jugendmedienschutz-Staatsvertrags (JMStV) aufzunehmen. Auch sollen Selbstkontrolleinrichtungen<\/strong>, wie sie im Bereich von Rundfunk und Telemedien, aber auch f\u00fcr Spiele und Kinofilme etabliert sind, in eine wirksame KI-Aufsicht<\/strong> einbezogen werden. Unternehmen und Organisationen, die in Deutschland KI-Systeme betreiben, sollten dar\u00fcber hinaus verpflichtet werden, einen KI-Jugendschutzbeauftragten<\/strong> zu benennen, der fr\u00fchzeitig in die Entwicklung von Anwendungen einbezogen und Kinder- und Jugendschutzbelange einbringen kann. Und aufgrund der schnellen technologischen Ver\u00e4nderungen sollten relevante Gesetze wie der JMStV, das Jugendschutzgesetz des Bundes (JuSchG) sowie der Digital Services Act (DSA) in k\u00fcrzeren Abst\u00e4nden als bisher evaluiert werden. Denn letztlich m\u00fcssen regulatorische Vorgaben, technische Schutzvorkehrungen und Medien- und KI-Kompetenz immer wieder und gemeinsam betrachtet werden, um Chancen der K\u00fcnstlichen Intelligenz zu nutzen und ihre Risiken zu minimieren \u2013 auch und gerade im Rahmen des Kinder- und Jugendschutzes.<\/p>\n Das Gutachten kann auf der Webseite der KJM abgerufen werden. HIER<\/a> geht es zur Pressemitteilung der KJM.<\/p>\n <\/p>\n