[Draalz]

Interview

«Künstliche Intelligenz kommt direkt aus dem Überwachungsmonopol der Tech-Firmen»

Meredith Whittaker ist eine der bekanntesten kritischen Forscherinnen zu künstlicher Intelligenz. Die Probleme der Tech-Branche lernte sie bei Google ganz aus der Nähe kennen.

Ruth Fulterer
06.09.2022, 05.30 Uhr


Meredith Whittaker arbeitete sich bei Google vom Kunden-Support bis zur führenden Forscherin hoch. Dann opferte sie ihre Stellung ihren ethischen Prinzipien. Sie organisierte einen Protest gegen militärische KI und verlor daraufhin ihren Job bei Google. Nun wird sie die neue Präsidentin der Stiftung hinter dem Signal-Messenger. Dieser ist eine Alternative zu dem Nachrichtendienst Whatsapp des Facebook-Konzerns und ist besonders für den starken Datenschutz bekannt.

Frau Whittaker, Sie haben Rhetorik studiert und dann bei Google angefangen. Wie kam es dazu?

Das war einfach der erste Job, den ich bekommen habe. Nach meinem Abschluss der Universität Berkeley 2006 habe ich meinen Lebenslauf auf der Job-Plattform Monster hochgeladen. Ein Rekrutierer schrieb mich an. Google holte damals Leute aus unterschiedlichsten Studienrichtungen ins Unternehmen, Leute, die auf Elite-Unis gute Noten bekommen hatten. Ich zum Beispiel arbeitete im Kunden-Support. Das hiess vor allem, vorgefertigte Antworten auf Fragen zu verschicken oder Beiträge für das Help-Center zu schreiben. Viele von uns waren überqualifiziert.

Wie haben Sie die Umgebung bei Google nach dem geisteswissenschaftlichen Studium wahrgenommen?

Es war teilweise ein Kulturschock. Ein Grossteil der Angestellten war überzeugt, das beste Produkt der Welt zu machen und einfach das Glück zu haben, auch noch davon zu profitieren. Diese Überzeugung irritierte mich. Im Studium hatte ich mir angewöhnt, alles zu hinterfragen. Damit war ich ziemlich allein.

Trotzdem haben Sie Karriere gemacht.

Eher deswegen. Weil ich alles verstehen wollte, stellte ich Fragen. Ich fand immer Fachleute, die mir Auskunft gaben. Das brachte mich tiefer und tiefer in alle möglichen Materien und Unternehmensbereiche hinein. Die Frage, was Daten genau sind, brachte mich über Umwege zur Abteilung für Internet-Standards, zu den Protokollen, die dem gesamten weltweiten Netz zugrunde liegen. So habe ich gelernt, was alles falsch läuft.

Und zwar?

Viele grundlegende Bausteine des Internets werden von kleinen Personengruppen gewartet, die für ihre Arbeit nur unzureichend bezahlt werden. Was für ein Kontrast zu den grossen Werbesprüchen und Zukunftsvisionen der Tech-Firmen! Das andere grosse Problem: Alle Tech-Firmen leben von der Überwachung ihrer Nutzerinnen und Nutzer. Sie verdienen so viel, weil sie personalisierte Werbung verkaufen können. Alles, was sie entwickeln, baut darauf – auch künstliche Intelligenz.

Wie meinen Sie das?

Was an künstlicher Intelligenz neu ist, ist keine wissenschaftliche Technik, sondern das Überwachungsmonopol der Tech-Firmen. Nur dank diesem konnten die nötigen Daten gesammelt werden. Die Profite haben den Firmen ermöglicht, die nötige Rechenleistung aufzubauen. Und künstliche Intelligenz macht die Tech-Firmen wiederum mächtiger.

Sie sind bekannt dafür, 2018 die Protestaktion Google-Walkouts mitorganisiert zu haben. Was hat Sie dazu bewogen?

Ich hatte erfahren, dass Google einen geheimen Vertrag mit dem Verteidigungsministerium hatte: Google sollte künstliche Intelligenz für den amerikanischen Drohnenkrieg produzieren. Damals bezahlte mich Google bereits dafür, intern ethische Probleme zu thematisieren. Durch diesen Geheimvertrag über mehrere Milliarden Dollar wurde mir klar, dass es mehr brauchte als gute Argumente, um eine profitorientierte Firma dazu zu bringen, sich ethisch zu verhalten.


Am 1. November 2018 protestierten Google-Angestellte, nicht nur in San Francisco (Bild), sondern weltweit.
Eric Risberg / AP

Mehr als 20 000 Google-Angestellte streikten weltweit. Doch Sie verliessen Google bald darauf. Freiwillig?

Man hat meinen Job gestrichen und mir pro forma eine administrative Rolle angeboten. Es war klar, dass ich kündigen würde. Ich hatte während der Zeit bei Google viele Freiheiten und hatte mehrere Forschungsgruppen aufgebaut, die über Google hinausgingen. Das AI Now Institute an der New York University war damals bereits erfolgreich. Ich wechselte dann direkt dahin.

Sie waren also abgesichert.

Mir war klar, dass ich andere Chancen hatte. Aber ich hätte gar nicht anders gekonnt, als einen Protest zu organisieren. Ich konnte mir ja nicht einen Namen als Kritikerin machen und dann bei einem solchen Fall nicht meine Meinung sagen.

Ab heute sind Sie Präsidentin der Signal-Stiftung. Wie kam es dazu?

Ich kenne den Signal-Gründer Moxie Marlinspike seit Jahren aus überwachungskritischen Kreisen. Als Aktivistin bei Google habe ich selbst erlebt, wie wichtig ein Mittel der Kommunikation ist, das auch der Arbeitgeber nicht abhören kann. Die Mission von Signal, private Kommunikation kostenlos der ganzen Welt zur Verfügung zu stellen, begeistert mich.

Der Whatsapp-Gründer Brian Acton hat der Signal-Stiftung 50 Millionen überwiesen. Lebt die App vor allem davon?

Das Stiftungsgeld ist ein Fundament, mit dem wir arbeiten können. In Zukunft wollen wir noch mehr Kleinspenden von Nutzerinnen und Nutzern erhalten. So einen Messenger zu entwickeln und am Laufen zu halten, ist sehr teuer. Bei Whatsapp arbeiten 1000 Ingenieure, bei Telegram 500 Personen – bei Signal sind wir 40. Dabei muss unser Service mindestens so attraktiv bleiben wie die Konkurrenz. Denn unser Anspruch ist, sichere Kommunikation nicht nur Sicherheits-Nerds anzubieten, sondern jeder Person auf der Welt.

Neben Ihrer Tätigkeit als Universitätsprofessorin haben Sie bisher Politik und Behörden in Sachen KI beraten. Was wollten Sie den Entscheidungsträgern vor allem mitgeben?

Dass KI eine Technik ist, die direkt aus dem Überwachungsmonopol der Tech-Firmen kommt. Und dass sie diesen Firmen ermöglicht, in neue Bereiche einzudringen – das Gesundheitssystem, die Bildung, die Strafverfolgung – und noch mehr Wachstum und Profit zu generieren. Das Problem dabei sind nicht nur die Fälle, in denen KI bei marginalisierten Gruppen schlechter funktioniert. Bei KI gibt es immer eine Macht-Asymmetrie: Wer KI nutzt, trifft Entscheidungen über andere Menschen, ohne die Verantwortung dafür zu übernehmen.

Es gibt doch auch interessante, positive Anwendungen von KI . . .

Mich interessieren weniger die hypothetischen Vorteile, sondern mehr, wer diese Technik nutzt und auf wen sie angewandt wird.

Ein Beispiel ist KI, die Brustkrebs früh erkennt.

Falls diese Technologie zuverlässig funktioniert, und zwar für alle Bevölkerungsgruppen, was selten genug vorkommt, gibt es einen Nutzen. Doch Technik muss man im Kontext betrachten. Ich komme aus den USA, dort haben wir ein privates Gesundheitssystem. Es stellt sich die Frage: Was bringt so ein KI-System, wenn Leute sich die Krebsbehandlung nicht leisten können?

In der Tech-Szene überwiegt eindeutig die positive Sicht auf KI, man erhofft sich eine bessere Welt davon. Meinen Sie, mehr Leute mit Ihrem Hintergrund würden dem Sektor guttun?

Meine Erfahrung ist, dass auch in Tech-Unternehmen bereits heute viele kritische Personen arbeiten. Das ist wichtig, weil sie einen guten Einblick haben. Das Problem der Tech-Szene ist nicht kulturell. Sondern dass diese Unternehmen strukturell auf Überwachung gebaut sind und nicht davon loskommen, weil ihre Einnahmen davon abhängen.

Könnten sie von Werbung leben, ohne ihre Nutzer zu überwachen?

Klar. Zeitungen machen schon immer Werbung, die nicht von der Überwachung der Nutzer abhängt. Doch das bringt weniger Geld. Das akzeptieren die Google-Aktionäre nicht.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]