Warum die Chatkontrolle nicht zum Schutz von Kindern ausreicht

Die digitale Verbreitung von Bildmaterial sexuellen Missbrauchs (Child Sexual Abuse Material - CSAM) nimmt rasant zu. Meldungen über Kindesmissbrauch im Netz sind von 23.000 Fällen im Jahr 2010 auf mehr als 725.000 Fälle im Jahr 2019 angestiegen.¹ Als Reaktion legte die EU-Kommission im Mai 2022 einen Verordnungsvorschlag "zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern" (2022/0155; verkürzt auch "Chatkontrolle") vor,² der jedoch stark polarisiert. Bis Mitte Juli konnte darüber keine Einigung erzielt werden. Was hat es mit der "Chatkontrolle" auf sich und vor allem: Wie lässt sich die digitale Verbreitung von Missbrauchsdarstellungen verhindern?

Verantwortung der Caritas

Prävention, Intervention und Aufarbeitung sexueller Gewalt an Minderjährigen sind für den Deutschen Caritasverband (DCV) eng verwoben mit dem seit 2010 verstärkt bekanntgewordenen Missbrauch innerhalb der katholischen Kirche. Machtstrukturen, die Sexualmoral der katholischen Kirche sowie der Verweis auf das Beichtgeheimnis und den Ruf der Kirche haben hier sexuellen Kindesmissbrauch und seine Vertuschung begünstigt. In der Folge waren Minderjährige den Übergriffen der Täter:innen ausgeliefert.

Seit 2010 engagiert sich der DCV gemeinsam mit Kirche, Politik und weiteren Akteur:innen unter anderem im Nationalen Rat für die Prävention sexueller Gewalt. Auch darüber hinaus sieht sich die Caritas in Deutschland und international in besonderer Verantwortung, sexuellen Kindesmissbrauch zu bekämpfen. Sie hat Schutzkonzepte implementiert und setzt sich für eine Kultur des Handelns gegen sexuellen Missbrauch ein (S. a. S. 22 ff. in diesem Heft).

Sexuelle Gewalt an Minderjährigen im digitalen Raum

Online-Plattformen, Messenger und File-Sharing³ haben die Möglichkeiten von Grooming - der Kontaktaufnahme Erwachsener zu Kindern mit dem Ziel des Missbrauchs - sowie der Verbreitung von CSAM erweitert. Dies hat konkrete Auswirkungen auf die Betroffenen. Sexuell missbrauchte Kinder werden durch Aufnahmen und deren Verbreitung ein weiteres Mal verletzt und entwürdigt. Zudem setzt sich die erlebte Erfahrung des Ausgeliefertseins und der Scham fort.

Der Verordnungsvorschlag der EU-Kommission

Der Verordnungsvorschlag der EU-Kommission⁴ soll die verpflichtende Aufdeckung und Entfernung von CSAM und Grooming durch die Anbieter von Online-Diensten in der EU ermöglichen.⁵ Anbieter digitaler Plattformen⁶ sollen Risikoberichte erstellen und diese unter anderem an ein neues EU-Zentrum übermitteln, welches CSAM-Datenbanken erstellt und mit Europol zusammenarbeitet. Die nationalen Koordinierungsbehörden könnten Aufdeckungsanordnungen beantragen. Bei Genehmigung der Anordnungen durch unabhängige Justizbehörden müssten Anbieter betroffener Plattformen und Messengerdienste eine Software einsetzen, die CSAM und Grooming mit Hilfe bestimmter Indikatoren automatisiert erkennen soll - die "Chatkontrolle". Würde CSAM entdeckt, wären Anbieter verpflichtet, den Fund samt Nutzer­identitäten an das EU-Zentrum zu melden.

Kritik am Verordnungsvorschlag

Viele Expert:innen kritisieren, dass algorithmenbasierte Systeme aktuell⁷ nicht in der Lage sind, unbekannte Missbrauchsdarstellungen und Grooming zuverlässig korrekt zu erkennen. Das Scannen von Ende-zu-Ende-verschlüsselter Kommunikation ist zudem nicht möglich, ohne die Verschlüsselung aufzuheben oder zu umgehen. Eine staatliche Aufdeckungsanordnung für einen verschlüsselten Online-Dienst hätte so massive Verletzungen der Privatsphäre und IT-Sicherheit von Millionen Menschen zur Folge, die Dienste wie Whatsapp nutzen. Dem entgegen stehen jedoch die Verpflichtung zur Achtung der Menschenwürde und das Recht auf körperliche Unversehrtheit, mithin der Kinder- und Jugendschutz.

Kindeswohl ist im Einzelfall als vorrangig zu betrachten

Minderjährige brauchen Schutz im analogen und im digitalen Raum. Sexueller Kindesmissbrauch muss stärker bekämpft, Betroffene müssen besser unterstützt, Täter:innen gezielter ermittelt, gefasst und verurteilt werden.        

Privatsphäre und Kinderschutz abwägend, ist das Kindeswohl im Einzelfall als vorrangig zu betrachten. Anbieter von Online-Diensten sollten daher verpflichtet werden, Schutzkonzepte zu implementieren. Das genannte EU-Zentrum kann als Vernetzungs- und Aufklärungsstelle bei unabhängigen Kontrollmöglichkeiten hilfreich für das länderübergreifende Aufspüren von CSAM und Grooming auf öffentlich zugänglichen Online-Plattformen sowie dessen Löschung sein.⁸

Grooming wird in sozialen ­Netzwerken angebahnt

Die weitgehend anlasslose Überwachung privater Kommunikation aller Nutzer:innen ganzer Dienste-überdies mit unreifen Technologien- stünde dagegen nicht im Verhältnis zum Mehrwert für Strafver­folgung und Opferschutz, denn CSAM befindet sich überwiegend auf Filehosting-Seiten und nicht auf Messengern.^9,10 Grooming scheint zunächst vorrangig in sozialen Netzwerken und auf Plattformen wie Youtube, Twitch, Tiktok und Steam stattzufinden und erst nach dem ersten Kontakt in Messenger und Videochats überzugehen.¹¹ Daher sollte Grooming bereits in der ersten Anbahnung unterbunden werden. Wichtig ist zudem, dass auch Kinder und Jugendliche ein Recht auf vertrauliche Kommuni­kation haben.¹²

Präventive Angebot für Kinder und Eltern

Weitere Maßnahmen, die im Verordnungsvorschlag nicht berücksichtigt wurden, sind notwendig. Hierzu gehören bei den genannten Diensten eine Altersprüfung, eine stärkere Moderation von Inhalten, altersgerechte Einstellungen und kinderfreundliche Meldesysteme, um Minderjährige vor Interaktionsrisiken und verstörendem Bildmaterial zu schützen. Das unmittelbare Löschen von bekanntem CSAM im Netz gelingt nur mit besserer Ausstattung und mehr Personal bei Polizei beziehungsweise Strafverfolgungsbehörden.

Von großer Bedeutung sind präventive Angebote für Kinder und Eltern. Alarmierend ist die Zahl Minderjähriger, die CSAM verbreiten oder herstellen, sie hat sich in Deutschland seit 2018 mehr als verzehnfacht.¹³ Hier sind Information und Aufklärung, zum Beispiel an Schulen, notwendig.

1. Siehe Website der Unabhängigen Beauftragten für Fragen des sexuellen Kindesmissbrauchs: Kurzlink: https://t.ly/qHo80; polizeiliche Kriminalstatistik 2022: Kurzlink: https://t.ly/4eziW; vgl. auch deutsche polizeiliche Kriminalstatistik (2021): Anstieg von sexuellen Kindesmissbrauchsfällen um 6,3 Prozent auf über 15.500 Fälle und Anstieg entdeckter kinderpornografischer Darstellungen um 108,8 Prozent auf über 39.000 Fälle (beides verglichen mit 2020). Dazu kommt eine hohe Dunkelziffer.

2. Der Vorschlag steht im Kontext der EU-Strategie zur Bekämpfung des sexuellen Missbrauchs von Kindern (2020), der EU-Kinderrechtsstrategie 2021 und der Erklärung der digitalen Rechte und Grundsätze für die digitale Dekade (2022).

3. Siehe Bundeszentrale für Politische Bildung (BPB): Filesharing und Filehoster. Beim Filesharing werden Dateien während des Herunterladens meistens an andere Nutzer:innen weiterverteilt - Dateien werden also gleich wieder hochgeladen, während man sie noch herunterlädt. Kurzlink: https://t.ly/WcUwJ

4. Der Verordnungsvorschlag in deutscher Sprache findet sich unter Kurzlink: https://t.ly/WuRL4

5. Bisher können Anbieter von Hosting- oder "interpersonellen Kommunikationsdiensten" ihre Dienste freiwillig auf die Verbreitung von CSAM filtern.

6. Zur Definition von Anbietern digitaler Kommunikationsplattformen siehe Art. 2 f. des Verordnungsvorschlages 2022/0155 der EU-Kommission.

7. Algorithmisches System: Ein System eines oder mehrerer Algorithmen, die in Software implementiert sind, um Daten zu erfassen, zu analysieren und Schlüsse zu ziehen, die zur Lösung eines vorher definierten Problems beitragen sollen. Siehe Bundesministerium für Familie, Senioren, Frauen und Jugend (BMFSFJ): Wegweiser digitale Debatten. Kurzlink: https://t.ly/GV55d

8. Siehe: www.klicksafe.de/cybergrooming

9. Siehe BPB: "Filehoster sind webbasierte Angebote, bei denen man größere Dateien hochladen und diese dann per Link anderen Nutzern zugänglich machen kann." Kurzlink: https://t.ly/WcUwJ

10. In 72 Prozent der von jugendschutz.net registrierten Fälle mit Missbrauchsdarstellungen wurden Filehoster zur Verbreitung genutzt. Kurzlink: https://t.ly/C-C39

11. Siehe www.klicksafe.de/cybergrooming

12. Siehe hierzu auch den Kurzlink: https://t.ly/JyLMa

13. Von damals 1373 Tatverdächtigen unter 18 Jahren auf 14.528 Tatverdächtige im Jahr 2021.