EU-Kommission lässt Vorschläge zu ethischen Leitlinien für KI in der Praxis testen

Nach der Veröffentlichung ihres Entwurfs der Ethikrichtlinien im Dezember 2018 (vgl. hierzu den Beitrag des EMR vom 19.Dezember 2018), zu dem mehr als 500 Stellungnahmen von verschiedener Seite aus eingereicht worden waren, stellte die HLEG AI heute die finale Fassung der Richtlinien vor. Die Ethikrichtlinien stehen dabei insbesondere auf sieben Säulen, deren Anforderungen es für den vertrauenswürdigen Einsatz von KI ankommen soll: Es gehe vor allem um Fragen der Kontrolle, der Sicherheit, dem Datenschutz, der Nichtdiskriminierung, der Nachhaltigkeit, der Verantwortlichkeit und der Transparenz von Algorithmen.

In Bezug auf die Kontrolle soll es vorrangig darum gehen, dass menschliche Handlungsweisen und Grundrechte von der KI befördert und nicht eingeschränkt oder dezimiert werden sollten. Aus diesem Grund erfordere eine vertrauenswürdige KI auch, dass die ihr zugrundeliegenden Algorithmen sicher, zuverlässig und robust genug sind, um Fehler oder Inkonsistenzen zu vermeiden. Dabei seien sowohl Transparenz als auch der Schutz und die Verwaltung von Daten – über den betroffene Personen die maßgeblich Kontrolle innehaben sollten – zentraler Punkt . Zudem müssten Prinzipien wie Vielfalt, Nichtdiskriminierung und Fairness gewahrt bleiben, was unter anderem auch den Zugang zu KI-Systemen betreffe. Dabei müsse das gesellschaftliche und ökologische Wohlergehen stets im Mittelpunkt der Betrachtung stehen. Im Hinblick auf die Verantwortlichkeit sollten Mechanismen geschaffen werden, um die Verantwortung und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse zu gewährleisten. Zu der Frage, wie KI auf Basis dieser Grundsätze einzusetzen ist, enthalten die Ethikrichtlinien Vorschläge der HLEG AI. 

Die Kommission hat nun angekündigt, bereit im Sommer 2019 eine Pilotphase starten zu wollen, an der ein breites Spektrum an Interessengruppen beteiligt sein soll, dass sich auch auf Unternehmen aus anderen Ländern und internationale Organisationen erstreckt. Bereits heute können sich Unternehmen, öffentliche Verwaltungen und Organisationen bei der European AI Alliance anmelden und erhalten eine Benachrichtigung, wenn der Pilot startet. Darüber hinaus werden Mitglieder der HLEG AI helfen, die Leitlinien den relevanten Interessengruppen in den Mitgliedstaaten vorzustellen und zu erläutern. So soll mithilfe von Bewertungslisten ein Befund darüber erstellt werden, ob sich die Ethikrichtlinien in der Praxis umsetzen lassen, um ggf. nächste Schritte ins Auge zu fassen.  Parallel soll die Zusammenarbeit mit gleichgesinnten Partnern wie Japan, Kanada oder Singapur verstärkt und die Diskussion auf internationaler Ebene im Rahmen der G7 und G20 befördert werden.