[TinyTimm]

Tom Cruise zaubert, golft und stolpert jetzt auch auf TikTok. So scheint es zumindest. Doch der Hollywood-Star, dessen Auftritte derzeit in der populären Kurzvideo-App für Furore sorgen, ist nicht echt, sondern mittels sogenannter Deepfake-Technologie erzeugt.

Deepfakes, bei denen zumeist Gesichter mittels künstlicher Intelligenz ausgetauscht werden, sind kein neues Phänomen. Bereits 2017 machte ein gefälschtes Pornovideo von „Wonder Woman“-Darstellerin Gal Gadot die Runde. War die Fälschung damals allerdings noch relativ leicht als solche zu erkennen, so zeigt das Beispiel Tom Cruise, wie fortgeschritten die Technologie inzwischen ist. In den drei bislang über den Account „deeptomcruise“ auf TikTok veröffentlichten Videos muss man schon genau hinsehen bzw. hinhören, um zu erkennen, dass der „Mission Impossible“-Star nicht echt ist.

deeptomcruise [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

So ist, wie „The Verge“ feststellt, dass charakteristische Lachen des Schauspielers zwar täuschend nah am Original, Audiosignal und Lippenbewegung aber nicht immer synchron. Zudem fand das Magazin bei der Untersuchung einzelner Frames gleich mehrere Glitches: Als sich der falsche Tom Cruise etwa die Sonnenbrille aufsetzt, verschwindet diese für einen kurzen Augenblick und sein Mund verwandelt sich für ein, zwei Frames.

Schon bald dürften allerdings auch solche Probleme der Vergangenheit angehören, zumal Unternehmen wie das Start-up Dessa daran arbeiten, auch Stimmen mittels Sprachsynthese täuschend echt zu imitieren. Imitatoren müssten dann künftig gar nicht mehr versuchen, wie das Original zu klingen, sondern die Arbeit einfach einer KI überlassen. Abzuwarten bleibt, wie Plattformen wie Facebook, Twitter und eben TikTok auf die Fälschungen reagieren werden, die Experten zufolge das Potenzial haben, „gewalttätige Ausbrüche“ auszulösen und die öffentliche Sicherheit zu gefährden.

In seinen Nutzungsbedingungen untersagt TikTok es, „vorzugeben, eine andere natürliche oder juristische Person zu sein oder falsche Angaben über sich selbst oder Ihre Beziehung zu einer anderen natürlichen oder juristischen Person zu machen oder dies auf andere Weise falsch darzustellen.“ Die Videos des falschen Tom Cruise sind allerdings nach wie auf der Kurzvideo-Plattform verfügbar. Zusammen wurden sie bislang rund zehn Millionen Mal abgerufen.

Quelle: [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

Dieses Lachen klingt mehr als gruselig.

[bollberg1]

Die Technologie ist im Netz unter dem Namen "deepfake" bekannt – und mit etwas Geduld von jedem halbwegs technisch begabten Nutzer anwendbar. Ein Deep-Learning-Algorithmus wird mit möglichst vielen Fotos von der zu fakenden Person gefüttert. Damit lernt die Software schließlich, dieses Gesicht, wie eine digitale Maske, über das Videogesicht einer anderen Person zu legen und deren Mimik, Augen und Mundbewegung exakt nachzuahmen. [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

ich empfinde deepfakes schon als bedrohung. man kann als laie zwischen echt und falsch nicht unterscheiden. selbst für profis wirds dann schwer.
bsp. politik: jeder kann bei nem beweisvideo sagen: "ne ist deepfake!". oder dem gegner mist unterjubeln.

hier mal beispiele: [ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]