Geplante Chatkontrolle der EU

Geschrieben von Alexander Hönsch, veröffentlicht am 02.12.2021

Die EU-Kommission arbeitet an einem Gesetzespaket zur Bekämpfung von sexuellem Kindesmissbrauch, dazu gehört auch ein Vorhaben, durch das Chatverläufe und gepostete Fotos auf sämtlichen Smartphones und Endgeräten automatisch durchsucht werden können. Vorerst geht es um die Verhinderung von Darstellungen von Kindesmissbrauch im Internet, aber auch die Terrorbekämpfung wird als Ziel genannt. Experten und Kritiker, wie Whistleblower Edward Snowden, halten die Methode für fragwürdig, da diese Form der präventiven Massenüberwachung eine Gefahr für Privatsphäre, IT-Sicherheit, Meinungsfreiheit und Demokratie darstellt.

Was bezweckt das Gesetz?

In der Befragung „Combating Child Abuse” sollten die EU-Parlamentarier abstimmen, ob Sie ein Gesetz verabschieden wollen, das deutlich weitreichende Folgen hat, als Kindesmissbrauch zu bekämpfen. Demnach soll es Anbietern elektronischer Kommunikationsdienste wie internetbasierter E‑Mail- und Messaging-Dienste ermöglicht werden, den sexuellen Missbrauch von Kindern im Internet aufzudecken, zu entfernen und schließlich auch zu melden. Betroffen hiervon sind die bekannten Social-Media-Anbieter wie u.a. Facebook-Messenger, WhatsApp, Zoom, Microsoft Teams Meeting, etc.

Die geplante Chatkontrolle ist somit eine Maßnahme, bei der Anbieter privater Kommunikation wie E-Mails, Messenger-Dienste oder auch Videokonferenzen, die Inhalte der Kommunikation automatisiert durchleuchten und nach verdächtigen Inhalten durchsuchen, die potentiell kinderpornographische Inhalte darstellen, oder bei der jemand mit möglicherweise missbräuchlicher Absicht versucht, Kontakt zu Minderjährigen aufzunehmen.

Wieso ist das Vorhaben problematisch?

Die Algorithmen sind laut Patrick Breyer, Digitaler Freiheitskämpfer und Europaabgeordneter, sehr fehleranfällig. Das grundlegende Problem ist nämlich allein schon das Programmieren solcher Algorithmen, die die eingesetzte Künstliche Intelligenz (KI) zur Umsetzung der Maßnahmen bestimmen. Denn wenn es schon für einen Menschen quasi unmöglich ist zu unterscheiden, ob eine Person auf einem Foto bereits volljährig oder erst 17 Jahre alt ist, wie soll man dann einer KI beibringen, dieses Altersmerkmale zweifelsfrei zu erkennen?  In bis zu 86 % der Fälle werden wohl zudem Inhalte angezeigt, die überhaupt nicht strafbar sind, wie etwa Strandfotos auf denen Kinder im Hintergrund erscheinen oder aber sehr vertrauliche bzw. intime Fotos zwischen Partnern, die aber selbstverständlich keinen Gesetzesverstoß darstellen.

Zudem ist es besorgniserregend, dass sogar die Ende-zu-Ende Verschlüsselung, die viele der oben genannten Dienstleister anbieten, umgangen wird. Da man bei einem solchen Verschlüsselungsverfahren keinerlei Möglichkeiten hat die Inhalte der Nachrichten mitzulesen, soll die KI vollkommen automatisiert die Inhalte durchsuchen und überprüfen, noch bevor diese verschlüsselt und sodann versendet werden. Folglich würden private Räume ohne jeden Verdacht und Anlass einer automatisierten Kontrolle unterzogen. Und dies bereits immer dann, wenn Rechtsverstöße in dieser Umgebung angenommen werden. Wann ein eventueller Rechtsverstoß vorliegt, unterliegt schließlich auch der Entscheidung des Anbieters privater Kommunikation.

Fazit

Bei allem Lob für die verfolgten Ziele: letzten Endes stellt der Vorstoß der EU-Kommission einen erheblichen Verlust des Vertrauens in eine sichere und verschlüsselte Kommunikation dar. Patrick Beyer vergleicht das Vorhaben daher mit einem Einfallstor für eine flächendeckende Überwachung. Er fordert daher ein digitales Briefgeheimnis für die privaten Chatnachrichten, und ruft dazu auf, sich selbst zu engagieren. Wir unterstützen seine Initiative und verlinken daher zu seinem digitalen Aufruf mit Kontaktdaten der EU-Kommission: Hier geht es zur Initiative.