[TinyTimm]

Ein von Facebook entwickeltes KI-System hat begonnen, seine eigene Sprache zu entwickeln. Um die Kommunikation effizienter zu machen, nutzte es Code-Wörter, deren Bedeutung den Forschern nicht bekannt war. Als die merkten, dass ihr AI-System nicht mehr Englisch sprach, stellten sie es ab.

Forscher von Facebooks Abteilung für Künstliche Intelligenz haben kürzlich bemerkt, dass ein neu entwickeltes AI-System English aufgegeben und sich eine eigene, seiner Ansicht nach effizientere Sprache, ausgedacht hat. Wie Fast Co.Design berichtet, wurde das System daraufhin abgeschaltet. Es war dafür gedacht, mit anderen AI-Systemen zu kommunizieren um gemeinsam auszuhandeln, wie bei der Lösung bestimmter Probleme weiter vorgegangen werden soll.

Nach einer Weile begannen sie sich dem Bericht zufolge in scheinbar sinnlosen Formulierungen auszutauschen. Tatsächlich ging es jedoch um die gestellte Aufgabe. Allerdings hatten sich die beiden Systeme auf eine eigene Sprache verständigt, die ihnen effizienter zu sein schien, als das ihnen ursprünglich beigebrachte Englisch. Die daraus resultierenden Sätze scheinen menschlichen Beobachtern ein sinnloses Gestammel zu sein, sind von den AI-Systemen aber als semantisch bedeutungsvolle Aussagen interpretierbar.

Laut Fast Co. Design ist der aktuelle Fall bei Facebook nicht der erste, sondern nur der jüngste einer langen Reihe ähnlicher Vorfälle. Er bekommt aber im Lichte des aktuellen Streits zwischen Tesla-Gründer Elon Musk und Facebook-Chef Mark Zuckerberg eine besondere Bedeutung. Während Musk schon länger die Ansicht vertritt, künstliche Intelligenz berge durchaus Gefahren und dabei in den vergangenen Monaten prominente Unterstützung bekommen hat, sieht Zuckerberg das anders. Er stellt vor allem die positiven Aspekte von KI-Systemen in den Vordergrund, was ihm von Musk den Vorwurf eingetragen hat, Künstliche Intelligenz nicht vollständig zu verstehen.

Englisch für KI-Systeme nicht effektiv und attraktiv genug

Laut Dhruv Batra, einem der bei Facebook AI Research (FAIR) an dem Projekt beteiligten Forscher, ging es bei dem Projekt darum, dass die beiden AI-Systeme in einer Verhandlung das jeweils beste für sich herausholten. Um KI-Systeme zu steuern, arbeiten Forscher in der Regel mit Belohnungssystemen. Ziel der Systeme ist es dann, diese Belohnungen zu erhalten. Allerdings gab es in dem Szenario keinerlei Anreize, Englisch als Verhandlungssprache zu benutzen.

Nutzen und Vorteile der Integration von ECM- und ERP-Software

Ein ECM-System kann besonders dort eine wichtige Ergänzung zu einer bereits bestehenden ERP-Lösung darstellen, wo geschäftsrelevante Dokumente separat abgelegt und mit ERP-Datensätzen verknüpft werden sollen, um Geschäftsprozesse vollständig digital abbilden zu können. Dieses Whitepaper beschreibt die Vorteile an einem konkreten Beispiel.

“Agenten driften allmählich in eine unverständliche Sprache ab und erfinden für ihre Kommunikation Code-Wörter. Etwa wenn ich ‘the’ fünfmal sage, dann verstehst Du, dass ich fünf Einheiten eines Gegenstandes haben will”, so Batra. Ihm zufolge unterscheide sich das nicht so sehr von der Entstehung von Kurzformen in der Kommunikation von Menschen. Interessant und auch bedenklich ist aber, dass dieses Phänomen immer wieder aber bislang unvorhersehbar auftritt.

In einer ihrer Konversationen begannen die Bob und Alice genannten Systeme ihre Konversation indem Bob sagte “I can i i everything else”, worauf Alice antwortete “balls have zero to me to me to me…” Die weitere Konversation bestand dann nur noch aus Variationen dieser Sätze. Die Forscher glauben zum Beispiel, dass Bobs Satz “i i can i i i everything else” bedeutet, dass er Alice mehrere Einheiten der verhandelten Güter anbot. Der Satz wäre dann als “I’ll have three and you have everything else” (“Ich bekomme drei und Du alle anderen”) zu interpretieren.

Offenbar stellte das AI-System fest, dass die korrekte Ausdrucksform englischer Sätze für die Erfüllung der gestellten Aufgabe nicht erforderlich ist. OpenAI, das von Elon Musk gegründete Forschungsprojekt für künstliche Intelligenz, hat in einem erfolgreichen Experiment AI-Bots bereits ihre eigene Sprache entwickeln lassen. Es wird befürchtet, dass von KI-Systemen entwickelte und Menschen möglicherweise nicht mehr verständliche Sprachen, sofern sie zusammen mit neuronalen Netzen in größerem Umfang verwendet werden, die Systeme befähigen könnten, ihre Schöpfer zu überlisten. Belege dafür gibt es allerdings noch keine, zahlreiche Science-Fiction-Filme, von 2001: Odyssee im Weltraum über Terminator bis I, Robot und Ex-Machina illustrieren aber anschaulich, was die Folgen sein könnten.

Unzulänglichkeiten von KI-Systemen

Dass aber auch Menschen ein KI-System innerhalb kurzer Zeit manipulieren können, zeigte 2016 der Fall von Microsofts Chatboy Tay. Ziel dieses Projekts war es, die dialogorientierte Verständigung zu erforschen. Dazu wurde Tay auf die dominante Nutzergruppe von mobilen sozialen Chat-Diensten in den USA, also die Personengruppe der 18- bis 24-Jährigen ausgerichtet. Tay sollte mit Nutzern auf Twitter, Snapchat, Facebook und Instagram kommunizieren, sie unterhalten und von ihnen lernen.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]
Microsofts Chat-Bot Tay geriet 2016 innerhalb von 24 Stunden auf Abwege (Bild: Microsoft)

“Je mehr Sie mit Tay chatten, desto klüger wird sie”, erklärte Microsoft zu Beginn des Projekts. Das wurde jedoch schon kurz darauf wieder beendet, weil Tay es mit dem “Lernen von den Nutzern” übertrieben hatte und innerhalb von 24 Stunden zu einem Hitler bewundernden, sexgierigen Monster geworden war. Offen blieb, ob es damit lediglich Spiegel der mit ihm interagierenden Nutzerschaft geworden war, oder es sich diese “Charakterzüge” selbständig entwickelt hatten.

Um sich auf vorbildliche Vorgehensweisen zu einigen und künftige Grundlagenforschung zu fördern, haben im September 2016 Amazon, Facebook, Google, IBM und Microsoft gemeinsam die Non-Profit-Organisation “Partnership on AI” gegründet. Alle fünf Unternehmen forschen intensiv zum Thema Künstliche Intelligenz.

Ziel des Zusammenschlusses ist es, das Potenzial von KI-Technologien besser auszuschöpfen. Ohne als Lobby-Verband die Interessen der einzelnen Unternehmen zu vertreten, soll zudem in der Öffentlichkeit allgemein für ein besseres Verständnis für Künstliche Intelligenz geworben werden. Die Frage ist angesichts des öffentlich ausgetragenen Streits zwischen Zuckerberg und Musk und der Tatsache, dass sich bereits relativ einfache AI-Systeme wiederholt schnell der Kontrolle ihrer Schöpfer entzogen haben, ob mit der “Partnership on AI” ehrliche Informationsarbeit betrieben werden soll oder ob es nicht vielmehr darum geht, mögliche Probleme wegzudiskutieren und zu verharmlosen.

Quelle: [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

[Samonuske]

Sehr Interessant, das hätte man doch mal laufen lassen können. Evt wären ja so etwas wie Androiden/Cyborgs gekommen oder wie das heißt.

[Fietze]

Ich weiß nicht, irgendwie bekomme ich beim Lesen des Artikels ein mulmiges Gefühl.

[acherontia]

Ja, das kann so richtig in die Hose gehen, nicht alle KI müssen so nett und so wenig an der Weltherrschaft interessiert wie "Chappie" sein und sich lediglich als Kleingangster profilieren....
Eine wirklich überlegene KI wird sehr schnell den Menschen als unnützen Störfaktor einstufen und an seiner Beseitigung arbeiten; klingt für mich jedenfalls einleuchtend und nach typischer Maschinenlogik. Und kann ich ein solches Szenario nicht mit 10000%iger Warscheinlichkeit ausschließen, heiß es "Finger weg davon", bei Strafe des eigenen Unterganges....

[Teconas]

Hier wird wie in den meisten Artikeln über das Thema nicht richtig berichtet.
Hier eine andere Quelle:
[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Kurzfassung:

• Es ging um ein Chatbot, der die menschliche Sprache besser lernen sollte.
• Es war nicht das Ziel einen Bot zu entwickeln der mit anderen Bots kommunizieren soll.
• Testweise haben Bots trotzdem miteinander kommuniziert.
• Die Bots haben NICHT ihre eigene Sprache entwickelt,
• sondern den anderen Bot für einen Menschen gehalten, und Fehler die der andere Bot machte, für korrekt gehalten. Dadurch haben die Bots beim "lernen" die Fehler des anderen Bots übernommen, und so immer weiter verstärkt.
• Das ganze basierte auf einem Entwicklungsfehler und wurde deshalb abgeschaltet.

Also die KI, hat keine Sprache weiterentwickelt, und geriet auch nicht außer Kontrolle.

Die zitierte Quelle in TinyTimms berichtet noch relativ neutral darüber, in vielen anderen Berichten zu dem Thema werden aber ganz schön die Fakten verdreht.