[Nomoran]

Microsofts Chat-Bot wird zum Rassisten

Tay heißt Microsofts künstliche Intelligenz, mit der sich unter anderem Twitter-Nutzer unterhalten können. Innerhalb der ersten 24 Stunden ihrer Existenz wandelte sich Tay jedoch recht schnell zum Rassisten - bis Microsoft offenbar den Stecker zog.

Mit Tay hat Microsoft eine künstliche Intelligenz vorgestellt, die sich selbstlernend auf Twitter, Groupme und Kik mit realen Personen unterhalten kann. Die KI soll vom Verhalten her an in den USA wohnende Menschen zwischen 18 und 24 Jahren angepasst sein.
Tay unterhält sich - und lässt sich beeinflussen

Auf Twitter lässt sich Tay mit @TayandYou direkt ansprechen, die Chat-KI antwortet anschließend. Aus den Gesprächen soll Tay lernen, Microsoft erhofft sich von dem Experiment Aufschluss über das Verstehen von Unterhaltungen. Als Grundlage für das Wissen von Tay dient "relevant public data", wie Microsoft es selbst nennt. Zudem sollen Improvisations-Komiker bei der Programmierung geholfen haben.

Nach knapp einem Tag auf Twitter ist das Projekt allerdings etwas aus dem Ruder gelaufen: Recht schnell hat sich Tay von verschiedenen Inhalten beeinflussen lassen, was mitunter zu stark rassistischen und frauenfeindlichen Tweets der KI geführt hat. Das liegt offenbar auch an der Tatsache, dass Tay auf Kommando einfach Tweets anderer Nutzer wiederholt, wie The Verge anmerkt.

So finden sich beispielsweise zahlreiche Tweets von Tay mit kontroversen Aussagen von Donald Trump, einem der republikanischen Präsidentschaftsanwärter. Besorgniserregender dürften allerdings diejenigen Tweets sein, die Tay von sich aus gepostet hat und die eindeutig als rassistisch und nazistisch einzustufen sind.
Totalitarismus und Feminismus

So stellt Tay unter anderem fest, dass der Komiker und Aktivist Ricky Gervais "Totalitarismus von Adolf Hitler" gelernt habe, "dem Erfinder von Atheismus". In anderen Tweets verwendet Tay Worte wie "Nigger" oder äußert sich antisemitisch. Auch wechselt Tay seine Meinungen mitunter schnell: Einmal ist er gegen Feminismus, ein anderes Mal dafür, auch zum Thema Transgender hat er wechselnde Meinungen.

Microsoft hat Tay mittlerweile offenbar vorerst abgeschaltet. In ihrer letzten Statusmitteilung erklärt die KI, dass sie jetzt erst einmal offline gehen müsse, um all die Eindrücke zu verarbeiten. Einige der rassistischen Tweets hat Microsoft mittlerweile gelöscht - eine Sammlung nicht mehr vorhandener Tweets findet sich unter anderem bei Socialhax.

Ein Fehlschlag muss das Experiment mit Tay allerdings nicht unbedingt sein: Es ist sicher interessant zu beobachten, wie schnell eine unbedarfte KI beeinflussbar ist und sich - basierend auf eigenen, als sinnvoll erachteten Analysen - plötzlich rassistisch äußert. Ob und wann Microsoft Tay wieder aktiviert, ist noch nicht bekannt.

Quelle: [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

[cyraxx]

Mich wundert das jetzt nicht wenn man sich Twitter mal anschaut, bei all den Posern, pseudohiphoppern mit ihrer "In-tha-Hood"-Sprache und Feminazis/SJWs war es doch eigentlich absehbar dass sowas passieren würde.
Die können noch glücklich sein dass die nicht Tumblr als Grundlage genutzt haben sonst hätten die jetzt eine rassistische, pro/contra-femisitische UND extem perverse KI :P
Allgemein ist es keine gute idee eine KI mit großen Social Networks zu verbinden, am ende hat man einen virtuellen Hitler mit Bild Niveau...

Aber scöän zu sehen wie schnell doch eine Künstliche Intelligenz ausser kontrolle geraten kann, hoffentlich lernen wir Menschen bzw. die Erschaffer dieser KIs daraus sonst haben wir wirklich irgendwann ein Skynet ^^

[Shao-Kahn]

Da hat MS also nen Amerikaner geschaffen?

Zitat von cyraxx

[...]Aber scöän zu sehen wie schnell doch eine Künstliche Intelligenz ausser kontrolle geraten kann, hoffentlich lernen wir Menschen bzw. die Erschaffer dieser KIs daraus sonst haben wir wirklich irgendwann ein Skynet ^^

Das war auch mein erster Gedanke.

[Webapache]

Um es etwas pauschal und primitivisierend auszudrücken: Wundert es jemanden, wenn man eine KI "zur Schule" in eine Gesellschaft schickt deren moralische Grundwerte wahrhaft rassistisch und frauenfeindlich sind, und diese sich dann mit selbig erlernten repräsentiert?
Lieber schnell wieder abschalten, da die KI offenbar ein Spiegel der Gesellschaft ist, die so gar nicht ins Bild der "weltoffenen U.S.A." passt. Also, da muss ja sogar ich mal über "die Ammis" lachen. Das Ergebnis hätte man echt kommen sehen können

[MotherFocker]

Zitat von Webapache

[...]Wundert es jemanden, wenn man eine KI "zur Schule" in eine Gesellschaft schickt deren moralische Grundwerte wahrhaft rassistisch und frauenfeindlich sind[...]

Der Verdacht liegt nahe.....

Aber das hätte in fast jedem anderen Land auch passieren können. Ausser vielleicht Island/etc. aufgrund der sehr geringen Einwohner- und Fremdenanzahl.

Käme "Tay" in D zum Einsatz, wären die Äusserungen ähnlich nur halt an die gegebenen lokalen Umstände angepasst.

Oder beispielsweise in einem arabisch/islamisch geprägtem Land. Da ich gerade eine Woche in Ägypten weilte, kann ich dem Vergleich nicht widerstehen "Tay" würde sich dementsprechend äussern.

Jedes Kind macht Fehler und lernt daraus zu differenzieren. Bei "Tay" dauert's vielleicht nur länger.

[FrazXaver]

Ist es nicht reichlich naiv, von einer KI-Version (nämlich hauptsächlich neuronale Netze mit etwas "drumrum"), die auf Strukturlernen optimiert ist, zu erwarten, dass sie aus dem Nichts Gutmenschen-"Gut" und Gutmenschen-"Böse" unterscheiden kann?

Ich würde das zumindest als Indiz dafür nehmen, dass das Gutmenschen-Weltbild nicht widerspruchsfrei abbildbar ist.

Wenn man tatsächlich Gutmenschenintelligenz haben wollte, wäre ein viel viel einfacheres Intelligenzmodell zielführender. Einfach alle Beißreflexwörter in einen großen Eimer, und falls eins in einer Anfrage auftaucht sofort mit Nazi!!! Feminist!!! Ungebildeter!!! Klimakatastrophenleugner!!! antworten. Man bräuchte nicht mal einen logischen Zusammenhang zwischen Eimerwörtern und Antworten herstellen, ein billiger Zufallszahlengenerator würde da reichen.