[ziesell]

EU-Kommissarin: "Kein Recht der Maschinen auf Meinungsfreiheit"

Um den Missbrauch von KI-generierten Inhalten zu verhindern, sollen Anbieter und Plattformen diese in der EU ab sofort kennzeichnen.



Die EU-Kommission will die Bekämpfung von Desinformation im Internet auf KI-generierte Inhalte ausweiten. Anbieter wie Microsoft oder Google sollten solche Inhalte ab sofort entsprechend kennzeichnen, forderte EU-Vizekommissionspräsidentin Vera Jourová vor einem Treffen am 5. Juni 2023 in Brüssel mit Vertretern von Firmen und Organisationen, die den freiwilligen Verhaltenskodex zur Bekämpfung von Online-Desinformation unterzeichnet haben.

Der im Juni 2022 verschärfte Kodex berührt das Thema generative KI bislang noch nicht. Vor allem durch gefälschte Fotos, Videos oder Sprachaufzeichnungen besteht die Gefahr von Manipulation und Desinformation der Öffentlichkeit. Zudem gibt es bereits Fake-Nachrichten-Websites, die erfundene Inhalte von Chatbots erstellen lassen.

Verfahren gegen Missbrauch integrieren

Jourová wollte die bislang 44 Unterzeichner des Kodex dazu auffordern, einen eigenen Bereich in dem Kodex dafür zu entwickeln. Laut Jourová gibt es zwei zentrale Blickwinkel, um das Problem anzugehen. So sollten Dienste wie Bingchat von Microsoft oder Bard von Google erforderliche Sicherheitsverfahren integrieren, damit die Dienste nicht von böswilligen Akteuren genutzt werden könnten, um falsche Informationen zu generieren.

Andere Dienste, die solche Inhalte verbreiten könnten, sollten interne Verfahren einsetzen, um KI-generierte Inhalte erkennen und klar kennzeichnen zu können. Die wichtigste Aufgabe in diesem Bereich sei zwar der Schutz der Meinungsfreiheit, sagte Jourová, aber "wenn es um die Erzeugnisse von KI geht, sehe ich kein Recht der Maschinen auf Meinungsfreiheit".

Inwieweit die Forderungen umgesetzt werden können, ist jedoch unklar. Es gibt inzwischen Forschungsansätze (g+), um KI-generierte Texte erkennen zu können. Jourová berichtete von einem Gespräch mit Google-Chef Sundar Pichai, in dem dieser versichert habe, dass sein Unternehmen bereits entsprechende Verfahren entwickele, die jedoch noch verbessert werden sollten.

Kritik aus Berlin

In Deutschland stieß der Vorschlag zunächst auf Skepsis. "Diejenigen, die unsere freien und demokratischen Gesellschaften durch ihre Desinformation verunsichern und spalten wollen, werden weder einer freiwilligen noch einer gesetzlichen Kennzeichnungspflicht für KI-generierte Inhalte folgen", sagte SPD-Chefin Saskia Esken dem Handelsblatt (Paywall) und fügte hinzu: "Insofern wäre es klüger und zielgerichteter, die Echtheit digitaler Medieninhalte wie Text, Ton und Bild beim Urheber fälschungssicher zu kennzeichnen und damit die Erkennbarkeit verlässlicher Information zu stärken."

Esken sieht den EU-Vorschlag ohnehin nur als ersten Schritt. Denn eine freiwillige Vereinbarung könne eine gesetzliche Regulierung nicht ersetzen. Auch die Kommission sieht die Selbstverpflichtung nur als Übergangslösung. Jedoch könne man den Verhaltenskodex schnell ohne Gesetzgebungsverfahren ändern, sagte Jourová. Langfristig solle beispielsweise die geplante KI-Verordnung ermöglichen, riskante KI-Anwendungen einzuschränken oder zu untersagen.

Mit dem Erfolg des Kodex zeigt sich die Kommissionsvizepräsidentin noch nicht zufrieden. "Es gibt immer noch viel zu viel gefährliche Desinformation", sagte Jourová. Sie forderte die Plattformen auf, entsprechende Kapazitäten für alle Länder und Sprachen aufzubauen. Das betreffe vor allem kleinere Länder und Sprachen in Mittel- und Osteuropa.

Twitter unter verschärfter Beobachtung

Ein besonderes Augenmerk will die EU-Kommission in den kommenden Monaten auf die Entwicklungen beim Kurznachrichtendienst Twitter legen. Das Unternehmen verließ vor kurzen den freiwilligen Verhaltenskodex. Jourová verwies jedoch darauf, dass Twitter ab August 2023 ebenso wie die anderen großen Anbieter die Auflagen des Gesetzes über digitale Dienste (engl. DSA) erfüllen müsse.

"Twitter hat den harten Weg gewählt, sie haben sich für die Konfrontation entschieden", sagte Jourová. Mit dem Verlassen des Kodex habe Twitter sehr viel Aufmerksamkeit auf sich gezogen. Es werde sehr genau überprüft, ob Twitter die Vorgaben des DSA einhalte.

https://glm.io/174726