Heute soll das Verhandlungsmandat zur EU-Chatkontrolle beschlossen werden: Wie zuvor publik wurde, sollen die EU-Botschafter das Mandat ohne Debatte einfach durchwinken. Damit wird der Rahmen für einen neuerlichen Vorstoß zur anlasslosen Massenüberwachung der EU-Bürger gesetzt – unter dem Deckmantel des Kinderschutzes. Diese Mär tragen nicht einmal Grünen-Politiker mit. In Wahrheit wird schon Kindern und Jugendlichen auf diese Weise nachhaltig geschadet.
Die Chatkontrolle kommt vermeintlich sinnvoll daher: Es soll ja bloß eine Regulierung zur Verhinderung und zur Bekämpfung von sexuellem Kindesmissbrauch sein.
Die Behauptungen zum Kinderschutz verfangen jedoch schon längst nicht mehr. Nachdem die Chatkontrolle in ihrer vorherigen Version gescheitert ist, startet man jetzt den nächsten Versuch, und zwar unter dem Deckmantel einer vermeintlichen Freiwilligkeit. Doch der angestrebte Angriff auf die Privatsphäre der Bürger bleibt bestehen, wie auch Sicherheitsexperten monieren:
Abschließend möchten wir noch einmal betonen, dass selbst freiwillig eingesetzte On-Device-Erkennungstechnologien nicht als geeignetes Mittel zur Risikominderung angesehen werden können, da ihr Nutzen nicht nachgewiesen ist, während das Potenzial für Schaden und Missbrauch enorm ist. Die Wirksamkeit der Erkennungstechnologie ist derzeit unzureichend und wird sich aufgrund der Natur der Aufgabe und der Grenzen der KI-Technologie in Zukunft wahrscheinlich nicht wesentlich verbessern (siehe den Brief weltweiter Sicherheitsexperten vom Juli 2023). Darüber hinaus bedeutet die Implementierung einer Erkennung, die andere Personen als den Absender und den vorgesehenen Empfänger über den Inhalt der Nachricht informiert (z. B. den Anbieter oder Strafverfolgungsbehörden), dass der Anbieter nicht mehr behaupten kann, eine End-to-End-Verschlüsselung anzubieten. Daher kann jede Kommunikation, bei der die Ergebnisse eines Scans gemeldet werden, selbst wenn der Scan freiwillig erfolgt, nicht mehr als sicher oder privat angesehen werden und kann nicht das Rückgrat einer gesunden digitalen Gesellschaft bilden.
Aus einem offenen Brief von Cybersicherheitsexperten, die auch die “freiwillige” Chatkontrolle scharf kritisieren
Der EU-Plan schadet Jugendlichen, statt sie zu schützen
Dass der Nutzen für den Kinderschutz in Wahrheit nicht bloß non-existent ist, sondern die Chatkontrolle sogar negative Konsequenzen birgt, fällt selbst Grünen-Politikern ins Auge, obwohl dieser Partei sonst eine gewisse Regulierungs- und Überwachungsfreude nachgesagt wird.
Alexandra Geese, Europaabgeordnete (Grüne/EFA), warnt in einer aktuellen Aussendung davor, unter dem Vorwand des Kinderschutzes biometrische Überwachungssysteme zu etablieren, die die Privatsphäre junger Menschen ein Leben lang gefährden: Kinder zu schützen sei richtig und dringend notwendig. Das aktuelle Geschäftsmodell von Online-Plattformen habe dramatische Auswirkungen auf Kinder und Jugendliche. “Aber wir dürfen dafür nicht Tür und Tor für biometrische Überwachung, missbräuchliche Verwendung von Daten und lebenslange digitale Nachverfolgbarkeit öffnen.“
Sie warnt insbesondere vor der verpflichtenden Altersverifikation: Über Age-Assurance-Systeme müssten Kinder oder Jugendliche Gesichtsaufnahmen, Videosequenzen, Stimmprofile oder Ausweisdaten an externe Identitätsdienstleister übermitteln, die mittels KI, Gesichtserkennung oder biometrischer Analyse ihr Alter einschätzen. Dabei entstehen hochsensible Datensätze, die nicht nur von den Plattformen, sondern auch von Drittanbietern und KI-Entwicklern verarbeitet werden, häufig in US-basierten Cloudsystemen, auf die auch die US-Regierung Zugriff hat. Geese warnt: Eltern verlieren jede Kontrolle über die Bilder ihrer Kinder. „Wer heute mit 13 Jahren ein Selfie zur Altersbestimmung hochlädt, könnte mittels Gesichtserkennung in zehn Jahren auf einer Demonstration wiedererkannt werden. Solche Technologien schaffen keine Sicherheit, sie schaffen Überwachbarkeit“, so Geese.
Besonders kritisch sieht die Abgeordnete diese Entwicklung im Kontext der geplanten Aushöhlung des Datenschutzes im Digital Omnibus: Dadurch entstünde ein Rechtsrahmen, in dem biometrische Informationen über Jahre hinweg gespeichert, weitergegeben, mit anderen Profilen verknüpft oder kommerziell genutzt werden könnten. Wofür werden diese Daten verwendet? Könnten sie für das Training von KIs bereitstehen? Der angebliche Nutzen der Chatkontrolle wird hier ad absurdum geführt, denn Geese wirft die Frage auf: Lässt sich verhindern, dass sie für KI-generierte erotische Inhalte verwendet werden?
Für Geese steht fest: Bereits Jugendliche, die ja angeblich geschützt werden sollen, verlieren dauerhaft die Kontrolle über ihre sensibelsten Daten. Es entstehen digitale Fußabdrücke, die sich nicht mehr löschen lassen, mit tiefgreifenden Folgen für Privatheit, Meinungsfreiheit und demokratische Teilhabe.
