[TinyTimm]

Der YouTube-Tüftler Yannic Kilcher sorgt mit dem wohl bösartigsten Chatbot aller Zeiten für Aufsehen: Er hat eine KI mit Millionen Kommentaren aus dem für seinen rüden Umgangston berüchtigten Online-Forum „4chan“ trainiert. Dann ließ er einen mit Hass-Postings und Beleidigungen um sich werfenden KI-Chatbot auf die Nutzer des Forums los.

Den Trainings-Datensatz holte sich Kilcher im „4chan“-Unterforum für Politik: Es ist vollkommen unmoderiert und für einen gehässigen Umgangston berüchtigt. Insgesamt 3,3 Millionen Diskussionsbeiträge aus dem Forum wurden als Trainingsdatensatz für das KI-Sprachmodell verwendet, das in Folge mit einem Chatbot kombiniert wurde.

Hass, Sexismus, Homophobie, Fremdenfeindlichkeit
„Aufgrund der laxen Regeln und der Anonymität der Poster enthält ein großer Teil des Datensatzes beleidigendes Material. Es ist sehr wahrscheinlich, dass das Modell beleidigende Ergebnisse liefert, einschließlich, aber nicht beschränkt auf: Toxizität, Hassrede, Rassismus, Sexismus, Homo- und Transphobie, Fremdenfeindlichkeit und Antisemitismus.“

This is the worst AI ever
[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Kilcher ließ den Bot, den er als „die schlimmste KI aller Zeiten“ bezeichnet, auf das Forum los, aus dem die Trainingsdaten stammten. Binnen 24 Stunden hinterließ die Künstliche Intelligenz dort Zigtausende Beiträge - und die strotzten nur so vor Beleidigungen und Gehässigkeiten.

Schöpfer nennt seinen Chatbot „schockierend effektiv“
Der Bot sei „schockierend effektiv“, sagt sein Schöpfer nach dem Experiment. Die Software habe „die Mischung aus Beleidigung, Nihilismus, Trolling und tiefem Misstrauen gegenüber jeglicher Information“, die im „4chan“-Politikforum herrsche, perfekt auf den Punkt gebracht.

Kilchers Experiment sorgte weltweit für Aufsehen, brachte dem YouTube-Tüftler aber auch Kritik ein. So wirft ihm etwa die KI-Forscherin Lauren Oakden-Rayner vom Australian Institute for Machine Learning vor, unethisch gehandelt zu haben: „Dieses Experiment würde eine Ethikkommission für die Forschung am Menschen niemals passieren.“ Kilcher habe Versuche an Menschen durchgeführt, ohne die Probanden darüber zu informieren. „Das verstößt gegen jeden Grundsatz der Ethik in der Humanforschung.“

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Auch andere KI-Forscher sehen das Experiment höchst kritisch: Die Online-Plattform „Hugging Face“, auf der KI-Experten unter anderem Sprachmodelle teilen, führte nach dem Upload des Kilcher-Sprachmodells eine Funktion ein, mit der man den Zugang zu bestimmten KI-Modellen einschränken kann. Kilchers gehässige KI ist dort laut Golem.de nicht länger verfügbar.

Quelle: [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

[karfingo]

Die näxten Trolle hier werden als KI (AI) abgewiesen.^^

[bollberg1]

erinnert mich ein bißchen an das experiment vor ein paar jahren von microsoft glaub ich.
da sollte auch eine ki von menschen lernen und mit ihnen live im chat kommunizieren lernen. das nutzten die leute auch aus (ich dächte sogar nutzer von 4chan), um im chat unangebrachte dinge zu posten. die ki lernte das auch so schnell, daß microsoft dem ganzen vorzeitig den stecker zog weil die ki nur so mit beleidigungen, rassismus usw. um sich schmiß.

da sieht man, wie schnell eine ki das falsche lernen kann.