ZAO: Controversiële deepfake app voor iOS gaat viral

Door: Noah Korevaar - 6 reacties
Bron: ZAO

Opnieuw ophef over een gezichtsapp. Met de app Zao kun je je eigen gezicht over dat van een beroemdheid plakken, waarna je de uitkomst kunt delen op sociale media. De app komt uit China en is daar in de afgelopen dagen miljoenen keren gedownload. Het werd vanuit het niets de meest gedownloade app van de App Store. De servers van de makers gingen plat. Maar met de hype kwam ook de kritiek, en de zorgen over privacy.

ZAO: controversiële deepfakes

Mensen die ZAO downloaden, geven hun telefoonnummer door aan de makers. Ook uploaden ze een afbeelding van hun gezicht. ZAO monteert het gezicht op filmpjes. Dat kunnen Chinese beroemdheden zijn, maar gebruikers kunnen ook doen of ze Leonardo DiCaprio in Titanic of Sheldon Cooper in The Big Bang Theory zijn. Die realistische deepfake-filmpjes kunnen mensen dan weer delen op sociale media.

In de gebruiksvoorwaarden van Zao staat dat mensen hun portretrecht op hun eigen gezicht afstaan als ze ZAO gebruiken. ZAO kan de beelden bijvoorbeeld gebruiken voor reclames. Dat leidt tot kritiek. Zao belooft beterschap, maar krijgt veel negatieve beoordelingen. WeChat, de belangrijkste chatdienst van China, heeft de videofragmenten van Zao geblokkeerd.

De kritiek doet denken aan fotobewerkingsapp FaceApp. Gebruikers lieten de app hun gezicht bewerken, zodat ze bijvoorbeeld zien hoe ze er over tientallen jaren uitzien of als ze van het andere geslacht zouden zijn geweest. De app is gemaakt door een Russisch bedrijf.

ANP

Reacties

6 reacties
  • Profielfoto
    pruus

    En met de rekenkracht die steeds meer met AI gekoppeld wordt, kun je nog veel meer ‘echte beelden’ maken. Spannende tijd, ook voor opsporing, indentificatie en echtheidsverklaringen.

  • Profielfoto
    One Less Thing

    Ik vrees dat dit niet tegen te houden is. Ik weet het eigenlijk wel zeker. Maar het is absoluut een slechte ontwikkeling.

  • Profielfoto
    One Less Thing

    Ter aanvulling, je kunt je afvragen waarom Apple apps met ingebouwd mallware  wel tegenhoudt in de App Store maar dit soort apps wel toelaat…

    Even los gezien van mijn verwachting dat dit soort ontwikkelingen bijna niet tegen te houden zijn. Maar ja dat kun je van virussen en dergelijke ook zeggen  en die laat je ook niet toe in de Apple Store, Apple.

  • Profielfoto
    iAmRenzo

    Als overheid smul je hiervan… iedereen die de app gebruikt staat ineens in een database. Of wordt gebruikt om ai te trainen.

  • Profielfoto
    icegodd

    De app is echt geweldig en FUN.

  • Profielfoto
    Melle

    Zoals zo veel zaken, niet perse de technologie het probleem, de problemen zitten bij de makers van de app en bij de gebruikers, want ik wel dat dit soort dingen moeten kunnen.

    Of willen we photoshop ook terug uit de wereld bannen als software?