Jörg Ukrow zu KI und ihren Risiken für Demokratie und Jugendmedienschutz in mediendiskurs

In der Online-Ausgabe der mediendiskurs vom 18. Januar 2024 äußert sich Dr. Jörg Ukrow, LL.M.Eur., geschäftsführendes Vorstandsmitglied des EMR, im Interview mit Claudia Mikat zum Thema “KI und ihre Risiken für Demokratie und Jugendmedienschutz”. Im Zentrum steht die Janusköpfigkeit von KI sowohl als Chance, bspw. in der Regulierung zur Bekämpfung von rechtswidrigen Inhalten, andererseits als Risiko sowohl für den demokratischen Diskurs als auch speziell für den Jugendmedienschutz. Angesprochen werden vor allem Risikopotentiale in Bezug auf Desinformation, Diskriminierung, Filterblasen und allgemein die Fehleranfälligkeit von KI. Im Bereich Jugendmedienschutz weist Ukrow vor allem auf drei Punkte hin:

“Zum einen besteht ein nicht unerhebliches Risiko, dass sich der gesamtgesellschaftliche demokratische Diskurs durch KI verengt, und dieses Risiko berührt natürlich auch die Demokratiefähigkeit von Kindern. Je zersplitterter der demokratische Diskurs wird, umso schwieriger wird es für Kinder und Jugendliche, ihre demokratischen Teilhaberechte, die sie nach der Verfassungsordnung genießen, auch zu leben. Ein zweiter Aspekt ist, dass KI Phänomene wie Fake-Inhalte verschärft, die eine Trennung von Realität und Fiktion erschweren. Der dritte Punkt ist die Verstärkung von Interaktionsrisiken in Bezug auf die Verbreitung von Inhalten durch KI, weil bisherige klassische Steuerungen dieser Verbreitungs- und Verteilungsprozesse ausgehebelt werden könnten.”

Diese Punkte sind auch zentrales Thema des Gutachtens, das das EMR unter Federführung von Jörg Ukrow im Auftrag der Kommission für Jugendmedienschutz (KJM) erstellt hat. Das Gutachten “Kinder- und Jugendmedienschutz und Künstliche Intelligenz – Herausforderung für den Jugendmedienschutz-Staatsvertrag (JMStV)?” enthält eine Untersuchung von Stand und Reformüberlegungen unter besonderer Beachtung generativer KI und unter Berücksichtigung des geplanten Gesetzes über künstliche Intelligenz der EU. Es wird in Kürze durch die KJM veröffentlicht werden.