EU-Gesetz zu Künstlicher Intelligenz
In der Nacht vom 8. auf den 9. Dezember 2023, nach einem letzten 22-stündigen Verhandlungsmarathon, stieg in Brüssel weißer Rauch auf: Die EU-Institutionen hatten sich über eine "Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz" geeinigt. Was kompliziert klingt, lässt sich einfach zusammenfassen: Die EU hat das erste umfassende Gesetz weltweit über Künstliche Intelligenz (KI) zustande gebracht. Als Verordnung wird es sofort nach Inkrafttreten in allen EU-Mitgliedstaaten gelten; es muss nicht ratifiziert oder in nationales Recht umgesetzt werden.1
Gewichtung je nach Risiko
Man kann sich den Gesetzesinhalt wie eine Pyramide vorstellen, die in verschiedene Stufen beziehungsweise Anwendungsbereiche unterteilt ist. An der Spitze stehen die bedrohlichsten Einsatzzwecke, unten die mit dem kleinsten Risiko. Je riskanter eine Anwendung von KI in einem Bereich ist, desto strengere Regeln gelten für die KI-Systeme vor ihrer Verwendung und während der Nutzung. Die Spitze der Pyramide bilden KI-Anwendungen, die menschliches Verhalten manipulieren oder eine Gefahr für die Grundrechte darstellen: Diese KI-Systeme werden verboten. Eine Stufe tiefer steht die Hochrisiko-Kategorie, für die unter anderem strenge Vorschriften zur Risikominderung, zur Qualität der genutzten Daten, zu Dokumentation und menschlicher Kontrolle gelten. Zu dieser Kategorie zählen Anwendungsbereiche wie kritische Infrastruktur, medizinische Geräte, Sozialleistungen, Wahlen, Bildung und Justiz. Wieder eine Stufe tiefer gibt es eine Kategorie minimalen Risikos, zu denen der Großteil der KI-Anwendungen zählen soll, zum Beispiel Spam-Filter, die unerwünschte elektronische Mitteilungen aussortieren, oder Empfehlungssysteme.
Zusätzlich zu dieser Kategorisierung umfasst die KI-Verordnung Transparenzvorgaben, um Nutzer:innen im Vorhinein darüber zu informieren, wenn sie mit einer Maschine interagieren, zum Beispiel mit einem Chatbot. Außerdem gelten spezielle Vorschriften für KI-Modelle für allgemeine Zwecke und für Basismodelle wie zum Beispiel Chat-GPT 4. Bei Verstößen gegen die Verordnung kann die EU Strafen in Höhe mehrerer Millionen Euro veranlassen.
Mehr Rechtssicherheit auch für die Wohlfahrtspflege
Für vulnerable Personengruppen besteht oft eine erhöhte Diskriminierungsgefahr, da zum Beispiel die einer KI-Anwendung zugrundeliegenden Datensätze fehlerhaft sein können oder sie schlicht die diskriminierende Realität wiedergeben. Die verbindliche Regulierung von KI-Systemen in der EU ist ein wichtiger Schritt, dieses strukturelle Problem zu adressieren - und nicht zuletzt deshalb für die Caritas positiv zu bewerten.2 Es wird nun Sicherheitsvorkehrungen für KI-Systeme geben, insbesondere auch in sensiblen Anwendungsbereichen, in denen die Caritas intensiv tätig ist, darunter Gesundheit, Sozialleistungen, Migration. Einrichtungen, die KI-Systeme einsetzen möchten, erhalten dadurch größere Rechtssicherheit. Für Caritas-Klient:innen besteht durch den risikobasierten Ansatz des Gesetzes ein höherer Schutz. In Brüssel gibt es zudem Hoffnungen, dass die Verordnung weltweit als Vorbild dient und so global die KI-Risiken gemindert werden. Als Nächstes muss sie vom Europäischen Parlament und vom Rat noch formell genehmigt werden, bis sie rund einen Monat später in Kraft tritt. Anschließend wird es eine Übergangszeit geben, bis nach und nach alle Teile der Verordnung anwendbar sind. Die Verbote für die gefährlichsten KI-Systeme gelten innerhalb von sechs Monaten.
1. Die anderslautende Aussage in neue caritas Heft 18/2023, S. 12 oben, ist unzutreffend.
2. Vgl. die jüngst veröffentlichte digitalpolitische Positionierung des DCV unter:
