YouTube gaat binnenkort AI-gegenereerde deepfakes met geweld aanpakken

YouTube implementeert nieuwe maatregelen om de opkomst van door AI gegenereerde deepfakes aan te pakken die overleden minderjarigen of slachtoffers van gewelddadige gebeurtenissen die hun dood beschrijven ‘realistisch simuleren’. De beleidswijziging, die op 16 januari van kracht wordt, heeft tot doel gevallen aan te pakken waarin AI wordt gebruikt om de gelijkenis van overleden of vermiste kinderen na te bootsen.

Makers van inhoud over echte misdaad maken gebruik van AI-technologieën om minderjarige slachtoffers van spraakmakende zaken te voorzien van een synthetische ‘stem’ om de omstandigheden van hun dood te vertellen. De stap komt als reactie op verontrustende AI-verhalen over zaken als de ontvoering en dood van James Bulger, de verdwijning van Madeleine McCann en de martelmoord op Gabriel Fernández.

YouTube verwijdert inhoud met door AI gegenereerde deepfakes die in strijd is met het nieuwe beleid, en gebruikers die een waarschuwing krijgen, krijgen een beperking van een week op het uploaden van video’s, livestreaming of verhalen. Van hardnekkige overtreders met drie waarschuwingen wordt de zender permanent van het platform verwijderd. Dit initiatief maakt deel uit van de bredere inspanningen van YouTube om inhoud aan banden te leggen die in strijd is met het beleid inzake intimidatie en cyberpesten van het platform.

Makers moeten het bekendmaken wanneer ze gewijzigde of synthetische inhoud gebruiken die realistisch lijkt

Het platform introduceerde een paar maanden eerder bijgewerkt beleid rond verantwoorde openbaarmaking van AI-inhoud, samen met tools om de verwijdering van deepfakes aan te vragen. Gebruikers moeten dit melden wanneer ze gewijzigde inhoud creëren die realistisch lijkt, waarbij niet-naleving het risico met zich meebrengt dat er sancties worden opgelegd, zoals verwijdering van inhoud, opschorting van het YouTube-partnerprogramma of andere disciplinaire maatregelen. De verschuiving vermeldde ook dat het platform bepaalde door AI gegenereerde inhoud zal verwijderen als het ‘realistisch geweld’ uitbeeldt, zelfs als het op de juiste manier wordt geëtiketteerd.

Deze stap sluit aan bij bredere trends in de sector die betrekking hebben op het verantwoorde gebruik van door AI gegenereerde inhoud. In september 2023 introduceerde TikTok een tool waarmee makers hun door AI gegenereerde inhoud kunnen labelen na een update van de richtlijnen die de openbaarmaking vereisen van synthetische of gemanipuleerde media die realistische scènes weergeven.

TikTok behoudt de bevoegdheid om door AI gegenereerde afbeeldingen te verwijderen die niet op de juiste wijze openbaar zijn gemaakt. De maatregelen van zowel YouTube als TikTok weerspiegelen het groeiende bewustzijn en de zorgen rond het potentiële misbruik van AI-technologieën, vooral in gevoelige en potentieel schadelijke contexten zoals de realistische weergave van geweld of de uitbuiting van tragische gebeurtenissen. Meta heeft eind vorig jaar ook hun beleid bijgewerkt om deepfake-advertenties tijdens de verkiezingen van 2024 tegen te gaan.

Bron