Wirbel um chinesische Videofälsch-App
Dass Fotos schon von Laien ganz einfach mittels Bildbearbeitung verändert werden können, ist allseits bekannt. Eine neue App aus China zeigt, dass das inzwischen auch bei Videos möglich ist, wie Bloomberg berichtet.
Deepfake-Beispiele fluten das Netz
Die „Zao“ genannte App kann die Videobilder mittels künstlicher Intelligenz realistisch fälschen - diese Technik wird auch als „Deepfake“ bezeichnet, einer Zusammensetzung aus „Deep Learning“ und „Fake“. Vor wenigen Tagen erstmals veröffentlicht (die App ist bisher nur in China erhältlich), wurde die App sofort zum Hit. Sie liegt an der Spitze der chinesischen Download-Charts und die damit produzierten Videoclips und Memes fluten die Sozialen Netzwerke in China.
Die Ergebnisse sind verblüffend. Der Twitter-Nutzer Allan Xia postete ein Beispielvideo, bei dem er mit Hilfe der App sein Gesicht in diverse Auftritte von Leonardo DiCaprio montieren ließ. Nötig war dafür nur das Hochladen eines Handyfotos, laut Xia wurde das Video in unter acht Sekunden fertiggestellt.
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
— Allan Xia (@AllanXia) 1. September 2019
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT
Datenschutz-Kritik an Nutzungsbedingungen
Bisher sind die Möglichkeiten begrenzt, denn die Videosequenzen, in die Nutzer ihr Foto einbauen können, werden noch von Zao vorgegeben. Neben populären Filmszenen gibt es auch viele K-Popvideos zur Auswahl. In jeden beliebigen Film lässt sich das eigene Gesicht aber noch nicht einbauen.
Doch nicht nur die Begeisterung, auch die Bedenken gegen die App sind groß. Zunächst wurde Kritik an einer Klausel in den Nutzungsbedingungen laut, in denen sich der App-Betreiber sämtliche Rechte an den hochgeladenen Fotos zusichern ließ, inklusive der Möglichkeit, sie an andere weiter zu lizensieren. Nach massiver Kritik wurden die Nutzungsbedingungen inzwischen geändert.
Chinese viral deepfakes app #ZAO Clip of myself as Sheldon generated in a few seconds from a single picture. pic.twitter.com/JI7MqWUDu6
— Matthew Brennan (@mbrennanchina) 1. September 2019
Gefälschte Nachrichten und Propaganda befürchtet
Experten fürchten zudem, dass Kriminelle derartige Software zum Austricksen von Gesichtserkennungsprogrammen nutzen und sich so Zugang zu Bankkonten oder anderen Diensten zu verschaffen könnten.
Auch sehen Kritiker die Gefahr, dass mit Zao manipulierte Videos zur Verbreitung von Falschnachrichten oder auch missbräuchlich zur politischen Meinungsbildung etwa vor Wahlen verwendet werden könnten.
Im Unterhaltungsbereich wäre denkbar, dass Deepfake-Software in Zukunft interaktive Filme und Serien ermöglicht, in denen der Nutzer selbst in der Hauptrolle oder einer Nebenrolle seiner Wahl zu sehen ist. Welche Anwendungsgebiete in den nächsten Jahren wirklich auf die Nutzer zukommen, wird wohl erst die Zeit zeigen.
Links:
- Datenschutz missachtet: Hohe Strafe für TikTok
- Was es beim Kauf von China-Handys zu beachten gilt
- Die Fallen beim China-Shopping
Publiziert am 10.09.2019