EU-Regelwerk für Künstliche Intelligenz

27. April 2021 | | 2 Minuten Lesezeit

Startseite » News » EU-Regelwerk für Künstliche Intelligenz

In der Europäischen Union sollen bestimmte Anwendungsbereiche künstlicher Intelligenz verboten werden. Die EU-Kommission hat eine Reihe von Grundregeln für den Einsatz von künstlicher Intelligenz (KI) vorgeschlagen und will damit weltweit Standards in diesem Bereich setzen. Es wäre die erste Regulierung von KI dieser Art. Demnach droht Unternehmen, die verbotene KI-Systeme anwenden oder gegen Auflagen verstoßen, eine Geldstrafe von bis zu 20 Millionen Euro oder vier Prozent ihres Umsatzes.

Manipulative Systeme sollen verboten werden

Manipulative Systeme und Massenüberwachung würden den Werten der EU widersprechen und sollten deshalb verboten werden. KI-Werkzeuge, die zu diesen Zwecken eingesetzt werden könnten, sollten nach Ansicht der EU-Kommission grundsätzlich verboten werden. Als Beispiele nennt die Behörde auch Systeme zur “sozialen Bewertung” von Menschen aufgrund ihres Verhaltens oder ihrer Persönlichkeit. Für öffentliche Behörden, die solche Systeme benutzen, um die öffentliche Sicherheit zu schützen, sollen Ausnahmen gelten. Andere Anwendungen sollen den Plänen zufolge als “risikoreich” eingestuft werden und würden strengen Auflagen unterliegen. Dies soll etwa für den Einsatz von KI im Straßenverkehr gelten. Auch Auswahlsysteme zum Beispiel im Hochschulsektor, bei der Personalsuche in Unternehmen oder zur Kreditvergabe würden darunter fallen.

Auflagen für Hochrisiko-Anwendungen

Als hochriskante KI-Systeme werden Systeme bezeichnet, die die Kreditwürdigkeit von Personen prüfen, bei Bewerbungsprozessen entscheiden, Mitarbeiter bewerten, öffentliche Räume überwachen oder über Asylanträge entscheiden. Für Unternehmen, die solche Systeme einsetzen, will die Kommission Verfahren zur Selbstbeurteilung vorschreiben. Systeme für biometrische Überwachung und Sicherheitskomponenten in Maschinen sollen von Dritten geprüft werden.

EU-Kommission sieht großes Potenzial in künstlicher Intelligenz

Die EU soll demnach zum Vorreiter bei der Entwicklung sicherer, vertrauenswürdiger und ethischer KI-Systeme werden. Von den allermeisten Anwendungen – beispielsweise Spamfilter oder Computerspiele, die mit KI arbeiten – gehen nach Ansicht der EU-Kommission jedoch keine oder nur geringe Risiken aus. Für sie sollen nur die üblichen Regeln der Produktsicherheit gelten. Allerdings müsste etwa beim Einsatz von Chat-Bots im Kundenservice für die Nutzerinnen und Nutzer klar ersichtlich sein, dass sie mit einer Maschine kommunizieren. Die EU-Kommission will einen klaren Rechtsrahmen für den Einsatz von KI schaffen, der auch die Innovation in diesem Bereich fördern soll. Über die nun vorgelegten Vorschläge der EU-Kommission müssen nun noch die EU-Staaten und das Europaparlament verhandeln. Es dürfte noch einige Jahre dauern, ehe die neuen Regeln in der EU gelten.

cyberHR