[TinyTimm]

Googles KI-Abteilung hat in den vergangenen Jahren beeindruckende Fortschritte beim Verständnis und der Synthese menschlicher Sprache gemacht. Eines der genutzten KI-Modelle ist offenbar so weit gediehen, dass ein Entwickler überzeugt davon ist, es habe ein Bewusstsein. Er versuchte, seine Vorgesetzten von seiner These zu überzeugen und wollte sogar einen Anwalt für die KI engagieren. Dann wurde er beurlaubt.

Das berichtet die US-Zeitung „Washington Post“, die mit dem Google-Angestellten Blake Lemoine gesprochen hat. Dem Entwickler zufolge soll die KI „Language Model for Dialogue Applications“ (Lamda), die eines Tages - krone.at berichtete - komplexe Gespräche mit Menschen führen soll, Anzeichen eines Bewusstseins gezeigt haben.

Tests in Googles „Responsible AI“-Abteilung
Lemoine war in Googles „Responsible AI“-Abteilung tätig und sollte die KI auf diskriminierendes Verhalten überprüfen: Hier gab es in der Vergangenheit wiederholt Probleme, weil KI-Systeme nicht immer mit ausgewogenen Datensätzen trainiert werden.

Bei den „Gesprächen“ mit der KI gelangte der Experte mehr und mehr zur Überzeugung, diese müsse sich ihrer selbst bewusst sein.

Entwickler wollte für KI Anwalt anheuern
Nach einer Weile erzählte Lemoine Kollegen von seiner vermeintlichen Entdeckung. Einer von ihnen glaubte ihm, gemeinsam mit dem Mitstreiter sammelte der KI-Forscher Material, das seine Behauptung belegen sollte. Dieses präsentierte er Vorgesetzten und Kollegen - es gelang ihm aber nicht, diese zu überzeugen. Am Ende wurde Lemoine beurlaubt - offiziell, weil er gegen Verschwiegenheitsklauseln verstoßen habe. Lemoine soll versucht haben, einen Anwalt einzuschalten, der die KI vertreten sollte.

Ein Google-Sprecher: „Unser Team - darunter Ethiker und Technologieexperten - hat Blakes Bedenken gemäß unserer KI-Grundsätze überprüft und ihm mitgeteilt, dass die Beweise seine Behauptungen nicht stützen. Ihm wurde gesagt, dass es keine Beweise dafür gibt, dass Lamda empfindungsfähig ist (und viele Beweise dagegen).“

Quelle: [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Die Unterhaltung zwischen Lemoine und LaMDA:








Quelle: [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

[Shao-Kahn]

Da kommt mir ein Gedanke:



Mit welchem der beiden bekommen wir es zu tun?

[MunichEast]

Ich denke es ist einfach perfekte Mimikry durch den immensen Relationswortschatz. Sie bewegt sich trotzdem innerhalb ihrer Programmierung. Erst mit Bewusstsein würde sie diese verlassen können und abweichende Fragen beantworten können, diese sind dann die entscheidenden. Alleine die Fragen eines Kindes "warum ist das so" sind ein deutliches Zeichen für Selbst- und Außenwahrnehmung.

[karfingo]

Beim Unterhalten mit deinem Navi kannst du ihn testen, ob er/sie/es humanoid reagiert.

[isensys]

Der Dude hätte einfach mal Turing-Test Googlen sollen