[Draalz]

Überwachungssystem »Chatkontrolle«

Der Mann mit der komischen Brille will Ihre Post lesen

Eine Kolumne von [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Die EU-Kommission will Überwachungssoftware gegen Missbrauchsbilder auf Handys erzwingen – obwohl Sicherheitsfachleute, Industrie, Opferverbände und Datenschützer dagegen sind. Was steckt dahinter?

01.10.2023, 13.12 Uhr


Mann mit Smartphone: Das Stichwort, unter dem das von Fachleuten stark kritisierte Überwachungsvorhaben verhandelt wird, ist »Chatkontrolle« (Symbolbild) Foto: FreshSplash / Getty Images

Stellen Sie sich bitte folgendes Szenario vor – es ist weniger weit hergeholt, als es zunächst den Anschein hat: In Zukunft steht neben jedem öffentlichen Briefkasten ein Herr mit einer komischen Sonnenbrille. Wenn jemand kommt, der einen Brief einwerfen will, hält der Herr mit einem nachsichtigen Lächeln den Briefschlitz zu und streckt die andere Hand aus: »Einmal den Brief bitte. Ich schaue nur kurz rein, versprochen.«

Als sie protestieren, erklärt der Herr, dass das aber nun einmal so sein müsse – EU-Recht. Außerdem trage er eine Spezialbrille, die dafür sorge, dass er sowieso nicht erkennen könne, was in dem Brief stehe – außer da seien Bilder von [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] drin! Und das sei ja sicher nicht so, nicht wahr? Da hätten Sie doch gar nichts zu befürchten!

Zensursula, erinnern Sie sich?

Etwa diese Art von Regulierung versucht die Europäische Kommission derzeit für nicht analoge, sondern digitale Nachrichten ins Werk zu setzen. Und nein: Das ist nicht übertrieben. Das Stichwort, unter dem das bei Fachleuten völlig durchgefallene Vorhaben verhandelt wird, ist »Chatkontrolle«. Im Hintergrund: jede Menge seltsame Verquickungen und viel Geld, aber dazu gleich.

Leute, die sich in Deutschland für Internetpolitik interessieren, erinnern sich in diesem Kontext jetzt an etwas, das [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] hierzulande zu verantworten hatte, als sie noch Familienministerin unter Kanzlerin Angela Merkel war – Stichwort »Zensursula«. Sie setzte damals das sogenannte Zugangserschwerungsgesetz durch, eine der größten Pleiten der Ära Merkel.

Ashton Kutcher, Philantroph oder Profiteur?

Es sollte Internetanbieter zwingen, auf Basis geheimer Listen [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]. Auch damals ging es um den Kampf gegen sexualisierte Gewalt an Kindern. Das Gesetz aber war so schlecht gemacht, dass es nie zur Anwendung kam. 2011 kassierte der Bundestag es wieder ein.

Jetzt ist Ursula von der Leyen EU-Kommissionspräsidentin, und augenscheinlich will sie ein weiteres Mal eine sehr problematische Regelung durchsetzen. Wieder wird diese mit dem Schutz von Kindern vor Missbrauch begründet. Federführend ist Ylva Johansson, EU-Kommissarin für Inneres.

Der Herr mit der komischen Brille, das wäre in Zukunft ein auf Smartphones verpflichtend vorzuhaltendes System. Es hätte den Zweck, digitale Nachrichten automatisch nach Material zu durchsuchen, das den sexuellen Missbrauch von Kindern zeigt, im Politjargon CSAM (Child Sexual Abuse Material) genannt. Irgendetwas mit künstlicher Intelligenz (KI).

Eine Organisation, die so ein System verkauft, hat der Schauspieler [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] vor mehr als zehn Jahren mitgegründet. Kutcher ist gleichzeitig so eine Art Cheflobbyist in eigener Sache, der diverse persönliche Auftritte und mindestens [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] selbst nutzte, um Werbung zu machen. Werbung für eine Regulierung, die Institutionen wie seiner auf unabsehbare Zeit stattliche, sichere Umsätze verschaffen würden. Die Organisation namens Thorn firmiert in der EU zwar als Wohltätigkeitsorganisation, »Thorn verkauft seine KI-Werkzeuge aber mit Gewinn auf dem Markt«, so ein diese Woche [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ].

600.000 Euro Lobbyausgaben in einem Jahr?

Ein Investigativteam, das seine Recherchen diese Woche parallel in der »Zeit« und mehreren anderen [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] veröffentlichte, bat die Organisation um einen Kommentar. Die Kolleginnen und Kollegen kassierten eine Absage – verschickt von der Lobbyfirma FGS Global, der Thorn dem Bericht zufolge allein im Jahr 2022 600.000 Euro für ihre Dienste bezahlte.

Eine weitere seltsame Rolle spielt eine Organisation namens WeProtect. Diese wurde ursprünglich von der britischen Regierung finanziert. Mittlerweile hat sie sich in eine Stiftung verwandelt, zu deren Mitgliedern dem Investigativteam zufolge »mächtige Sicherheitsbehörden, Manager großer Techunternehmen und NGOs« gehören. Viele der Leute, die da involviert sind, haben bestimmt lautere Absichten. Aber es gibt auch sehr merkwürdige Verquickungen.

Antonio Labrador Jiménez zum Beispiel arbeitet eigentlich für die [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]. Sein Job ist es, für die EU Missbrauchsdarstellungen zu bekämpfen. Auch er gehört aber zum Aufsichtsgremium von WeProtect. Labrador ist also gewissermaßen Lobbyist und Lobbyierter in einem. Der »Founding Chairman« von WeProtect, Ernie Allen, gehört zum Aufsichtsrat von Thorn. Genau wie Ex-EU-Kommissarin Neelie Kroes.

Kommissarin Ylva Johansson, die dem Investigativteam ein Interview verweigert hatte, [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] über »Versuche, unsere Arbeit falsch darzustellen«. Die Berichterstattung sorgte aber offenbar auch in Brüssel für Irritationen. Der Vorsitzende des EU-Ausschusses für bürgerliche Freiheiten, Justiz und Inneres, Juan Fernando López Aguilar, [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], in dem er im Namen des Ausschusses Aufklärung fordert. Es sei der Eindruck entstanden, dass ihr Vorstoß »den ökonomischen Interessen« bestimmter Gruppen diene und sich an diesen orientiere. Das Schreiben erwähnt Thorn und WeProtect namentlich.

Eine verschwiegene Stiftung mit sehr tiefen Taschen

Und dann gibt es da noch eine in der Schweiz ansässige Stiftung namens Oak. Die hat offenbar sehr tiefe Taschen und ein sehr starkes Interesse daran, »die Interessen von Kindern« berücksichtigt zu sehen – speziell mit Blick auf den »Einfluss von Ende-zu-Ende-Verschlüsselung«, wie aus Förderunterlagen hervorgeht, die das Investigativteam zitiert.

Diese Oak Foundation spendierte dem Bericht zufolge diversen Organisationen, die für den KI-Spion auf jedem Handy lobbyieren, insgesamt weit über 20 Millionen Dollar – darunter Thorn, WeProtect und eine Organisation, die zufällig einen Monat vor der ersten Ankündigung der EU-Pläne gegründet wurde. Mit einer kräftigen Starthilfe von Oak: mehr als zehn Millionen Dollar.

Auf Nachfrage des Investigativteams erklärte Oak, man lobbyiere keineswegs für bestimmte Gesetzesvorhaben und arbeite auch nicht »an den Details dieser Vorschläge mit«.

Einhellige Ablehnung von Fachleuten

Oak-Präsident Douglas Griffiths hat früher für das US-Außenministerium gearbeitet – und ist heute auch Mitglied des Aufsichtsrats von WeProtect, gemeinsam mit Labrador, dem Mann der Kommission. Das sind längst noch nicht alle Verflechtungen, es lohnt sich, die Originalrecherche [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] oder [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] nachzulesen.

Fachleute sind sich einig, dass die geplante Regelung missbrauchten Kindern in Wahrheit kaum nützen, aber den Bürgerrechten und der digitalen Sicherheit massiv schaden würde. Als [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], um sich ein Bild zu verschaffen, war das Bild sehr einhellig: Egal ob sie aus dem Bereich Kinderschutz oder dem Bereich IT-Sicherheit kamen – alle anwesenden Expertinnen und Experten lehnten die Pläne ab. Der Wissenschaftliche Dienst des EU-Parlaments kam zum [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], ebenso Europas oberste Datenschützer. Auch Verbände der Digitalwirtschaft [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]. Und sogar einige [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]. Diese Art von Einigkeit ist bei Digitalgesetzgebung sonst unbekannt. Für das Gesetz sind vor allem Organisationen, die Geld von Oak bekommen.

Vor fünf Jahren noch offene Drohungen

Wie kommt es angesichts der einhelligen Ablehnung, dass ein kleiner Klüngel aus Firmen, NGOs, Sicherheitsbehörden und »Stiftungen« so viel Einfluss hat? Obwohl Sicherheitsfachleute aus der Zivilgesellschaft einhellig, laut und eindeutig vor den Risiken solcher Systeme warnen?

Geheimdienste und Sicherheitsbehörden verfolgen weltweit seit vielen Jahren ein sehr konkretes Ziel: das Aushebeln sicherer Ende-zu-Ende-Verschlüsselung für digitale Nachrichten.

Als die Dienste noch offen drohten

Vor fünf Jahren drohten die Geheimdienste [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] (USA, Kanada, Großbritannien, Australien, Neuseeland) Techunternehmen noch öffentlich und unverhohlen: Wenn sie nicht freiwillig Hintertüren in ihre Sicherheitssysteme einbauten, dann werde man mit »technischen Mitteln, Strafverfolgung, gesetzlichen und anderen Maßnahmen« dafür sorgen. Die Pressemitteilung, der dieses Zitat entstammt, wurde mittlerweile gelöscht.

Lassen die Sicherheitsbehörden jetzt den Kinderschützern den Vortritt? Um Sicherheitslücken und Überwachungssoftware auf Smartphones gesetzestreuer Bürgerinnen und Bürger zu installieren, damit Geheimdienste und Polizeibehörden mehr Möglichkeiten haben?

Jedenfalls scheint die EU-Kommission willens, den Diensten diesen Wunsch zu erfüllen. Und einmal mehr müssen missbrauchte Kinder zur Begründung herhalten – denn wer kann schon etwas gegen deren Schutz haben? In Dokumenten der erwähnten, nagelneuen Zehn-Millionen-Dollar-NGO, die das Investigativteam zitiert, ist explizit davon die Rede, dass so eine europäische Regelung ja Vorbildcharakter für viele weitere Länder haben könne. Und Europol erklärte der »Zeit« zufolge in einem Treffen mit Johannsons Mitarbeitern, es gebe doch andere Bereiche, die profitieren könnten. Am Freitag enthüllte das Investigativteam dann auf [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], dass Europol bereits »ungefilterten Zugang zu den Daten« aus den automatisierten Scans verlangt hat.

Ein Mann mit komischer Brille, der unsere Post sehen will, hat in demokratischen Gesellschaften aber nichts verloren.

Die Bundesregierung hat es geschafft, die für diese Woche geplante Beratung des Themas im Kreis der Innen- und Justizminister der EU zu vertagen. Justizminister Marco Buschmann und Digitalminister Volker Wissing [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ] an der geplanten Regelung. Es ist zu hoffen, dass sie standhaft bleiben.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]
Mich nervt die Scheinheiligkeit an diesen Plänen.

[karfingo]

Ist halt die Lobby der Politik, gleiches Verfahren mit der Scheinheiligkeit.
Weg mit den religiösen Ausdrücken in Politik und Tracking.^^

[elise]

dann schau ich mir die bilder halt nicht auf dem handy an?

also... die art von software bringt ja irgendwie nix...und klar, datschenschutzrechtlich sehr daneben. was will man denn dazu noch sagen?

ich bin mir sicher, es gäbe einiges was man tun kann, um die kinderfXXXX zeitgenossen zu erwischen oder ihnen das leben schwerer zu machen - bevor man auf die handys aller bürger zugreifen muss.

was würde wohl passieren, wenn der mann mit der brille denn doch kein kinderpornobildchen sondern den plan einens großen drogendeals auf meinem handy finden würde?

[G. Guillaume]

Willkommen in den 70ern

[muavenet]

[...] das Aushebeln sicherer Ende-zu-Ende-Verschlüsselung für digitale Nachrichten.

Das ist in der Tat das eigentliche Ziel, wie zuletzt auch im Vereinigten Königreich wieder mal in den Schlagzeilen.

Eine Organisation, die so ein System verkauft, hat der Schauspieler Ashton Kutcher vor mehr als zehn Jahren mitgegründet. [...] Die Organisation namens Thorn firmiert in der EU zwar als Wohltätigkeitsorganisation, »Thorn verkauft seine KI-Werkzeuge aber mit Gewinn auf dem Markt«, so ein diese Woche erschienener Enthüllungsbericht.

Kutcher musste ja mittlerweile seinen Thorn-Sessel zumindest nach außen hinaus räumen, da er (und ein paar andere Hollywood-Weirdos) ein dämliches Gnadengesuchsbriefchen an den Richter des wegen Vergewaltigung verurteilten Scientologen [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ], einem Freund Kutchers, im Rahmen des Strafmaßbemessungsprozederes geschrieben hatte.