Dat je met AI heel gemakkelijk afbeeldingen kunt genereren of aanpassen, kan voor niemand meer een geheim zijn. Maar deepfakes - zoals met AI aangepaste afbeeldingen heten - zorgen voor steeds meer problemen, vooral als dit ten koste gaat van bijvoorbeeld de integriteit van het 'slachtoffer'.

Apple heeft daarom onlangs drie AI-apps verwijderd uit de App Store vanwege hun mogelijkheid om deepfake-afbeeldingen van mensen te genereren zonder kleding.


Afbeelding: Amanda Giasson

Deze apps werden door hun ontwikkelaars gepromoot op sociale media, met name op Instagram, waarbij ze beweerden dat ze kleding konden “verwijderen” en andere vergelijkbare functies hadden. De generatieve kunstmatige intelligentie achter deze apps maakte het mogelijk om nepfoto’s van echte mensen te maken, maar dan zonder hun kleding.

Dit is een groeiend probleem, aangezien deepfake-afbeeldingen, inclusief naaktfoto’s, steeds vaker voorkomen op sociale media.

In Amerika zijn hier al de eerste stappen tegen ondernomen. Om slachtoffers van dit soort naakt-deep-fake afbeeldingen te ondersteunen, heeft de Amerikaanse congerslid Alexandria Ocasio-Cortez de “Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act” geïntroduceerd. Dit wetsvoorstel beoogt een federale civiele remedie te bieden voor slachtoffers van deepfakes.

Er is ook een vergelijkbaar wetsvoorstel in de Amerikaanse Senaat, maar dat lijkt momenteel vast te zitten. Nederland loopt niet bepaald voorop in het nemen van actie tegen deepfakes, en houdt het voorlopig bij kamerbrieven en rapportages.

Apple is overigens niet de enige die worstelt met het beheersen van expliciete deepfake AI-apps en producten. Google Play, Meta en X proberen allemaal de productie en verspreiding van dit soort afbeeldingen te verwijderen, vooral als het echte mensen betreft.

X en Meta zijn echter bekritiseerd vanwege hun inconsistentie op het gebied van regelgeving en handhaving. Het lijkt erop dat bedrijven over de hele linie moeten blijven vechten tegen de opkomst van deepfakes en de mogelijke schade die ze kunnen veroorzaken.

Hoe kun je jezelf beschermen tegen deepfakes?

Het beschermen tegen deepfakes is een flinke uitdaging, maar er zijn enkele dingen die je kunt doen om jezelf en anderen te beschermen:

• Bewustwording: Wees op de hoogte van het bestaan van deepfakes en hun potentieel schadelijke impact. Leer hoe ze eruitzien en hoe ze worden gemaakt.
• Kritisch denken: Wees sceptisch over verdachte inhoud. Als iets te mooi lijkt om waar te zijn, is dat meestal ook zo. Het kan dus een deepfake zijn. Controleer de bron en zoek naar andere aanwijzingen.
• Beveilig jezelf en beperk persoonlijke informatie: Deel zo min mogelijk persoonlijke foto’s en video’s online.
• Privacy-instellingen: Controleer de privacy-instellingen op sociale media en andere platforms om te voorkomen dat onbekenden toegang krijgen tot je foto’s en video’s.

Daarnaast komen er steeds meer technische oplossingen of worden bestaande oplossingen gebruikt:

• Digitale watermerken: Sommige bedrijven en onderzoekers werken aan digitale watermerken die in afbeeldingen kunnen worden ingebed om hun authenticiteit te verifiëren.
• Blockchain: Blockchain-technologie kan worden gebruikt om de oorsprong en integriteit van mediabestanden te volgen.
• AI-detectie: Er zijn AI-tools die deepfakes kunnen detecteren. Hoewel ze niet perfect zijn, kunnen ze helpen bij het identificeren van verdachte inhoud.

AI staat nu nog in de kinderschoenen, maar de ontwikkeling gaat razendsnel. Deepfakes zullen dan ook steeds beter en onherkenbaarder worden. Hoe dit zich in de toekomst zal ontwikkelen? De tijd zal het leren.

Enorme tegenstrijdigheid. App bouwers maken dergelijke apps en vervolgens verwijderd Apple dergelijke apps. Op basis waarvan?
Waarom maken wij als mens dit soort apps?
Is de enige basis om te reguleren een overheid?
En dus zullen er altijd overheden zijn die dit toestaan?

Wederom blijkt dat de mens tegen zichzelf in bescherming genomen moet worden. Maar wie zorgt voor die bescherming.

En meer nog; wie bepaalt waartegen je beschermd moet worden? Dat zijn uiterst subjectieve beslissingen welke onderhevig zijn aan trends, tijdgeest, religie, politiek, en noem maar op. Willekeur ligt dan op de loer.

De andere kant op ook, die van totale vrijheid.
Heb niet ervaren dat het zonder sociale media ook zo was.

Enorme tegenstrijdigheid. App bouwers maken dergelijke apps en vervolgens verwijderd Apple dergelijke apps. Op basis waarvan?

Gelukkig is het antwoord op die vraag nogal simpel: op basis van de regels van de App Store.

Zo is het en de vervolgvragen van Jurriaan  ('waarom maken wij als mens dit soort apps' etc..) kunnen beter hier gesteld worden. Of op dit forum, in het café .

Ik denk dat die vragen van Jurriaan prima in dit draadje thuishoren. Ze gaan wat dieper dan het nieuwsbericht zelf en bevragen de achterliggende gronden voor het handelen van Apple in dit specifieke geval.

Dat het om overtreding van de regels van de AppStore zou gaan komt mij vreemd, kort door de bocht en ondoorzichtig over. Er is mij geen AppStore-regel bekend die zegt dat apps welke gebruikt kunnen worden om beelden van naakte mensen te genereren niet zijn toegestaan.

Zou er wel zo'n regel zijn dan is een van de belangrijkste apps op een smartphone eveneens verboden.

Zie daar de willekeur. Met als vervolgvraag: Wie gaat dat reguleren?
Of moeten wij ons morele kompas vorm laten gegeven door dit soort ad-hoc beslissingen van een giga groot Amerikaans bedrijf?

Ik begrijp niet waar je heen wil. Het maken van een seksuele deepfake van een bestaand persoon is strafbaar en reden om aangifte te doen. Lees de eerste alinea van het artikel nog eens, er zijn slachtoffers in het spel.

Stel je nu ter discussie dat dit wel zou moeten kunnen? En dat Apple hier verkeerd handelt? De App Review Guidelines kun je zelf doorlezen, lijken mij helder voor dit soort gevallen. De wetgever en Apple zijn het dit keer met elkaar eens. Discussies waar dat niet het geval is vind ik interessanter.

Apple handelt hier nogal willekeurig. Daarmee legt Apple zijn op ondoorzichtige gronden gestoelde moraal aan ons op. Dat vind ik onwenselijk.

Dat doet een krant ook. En websites. En een omroep. En ik.. En Apple, en Google, en Facebook. Allemaal hun eigen moraal, normen en waarden. Als jij je buurvrouw naakt wil zien dan ben je daarvoor bij Apple helaas aan het verkeerde adres en zul je andere manieren moeten vinden om het voor elkaar te krijgen. Mogelijkheden genoeg. Of zoals ze het zelf zeggen in het intro van de ARG:

For everything else there is always the open Internet.

Ik zie niet goed hoe jij jouw moraal aan mij oplegt. 

Maar hiermee krijg je uiteindelijk gelijk: dit is nu meer iets voor in het café.

Ik zie niet goed hoe jij jouw moraal aan mij oplegt. 

Figuurlijk dan. Mijn moraal in dit geval is dat ik de beslissing van Apple begrijp. Het is ook volledig in de geest van de ARG zoals ik ze lees. De wet biedt nu al mogelijkheden om deepfakes te verbieden en dit zal vast nog uitgebreid worden. De techniek gaat altijd sneller dan het recht. Door het hier - in dit geval - mee eens te zijn draag ik mijn moraal uit in dit draadje, als het ware.

Ik vind het prima dat de App Store een bepaalde bescherming biedt en vertrouw daar ook een beetje op. Ik weet dat ik voor zaken als naakt, illegale software, of andere 'seedy' dingen niet in de App Store moet zijn. Zoals gezegd: genoeg andere mogelijkheden op het 'open' internet.

Jouw moraal is blijkbaar anders. Jij vindt het ondoorzichtig wat Apple doet en vindt blijkbaar dat het moet kunnen, zo'n deepfake app in de App Store. Anders begin je de discussie immers niet. Ik ben dan wel benieuwd waarom je dat vindt en waar jouw grens ligt als het over deepfakes gaat.

Onze morele standaarden zullen niet veel verschillen. Ik gok zomaar dat we vergelijkbare culturele achtergronden hebben en beide proberen om respectvol met allen om ons heen om te gaan.

Wel beoordelen we deze ad-hoc beslissing van Apple anders. Jij stelt prijs op deze bescherming voor jouzelf en anderen door een Amerikaans technologiebedrijf. Ik vind dit een betutteling waar ik geen behoefte aan heb. Graag bepaal ik e.e.a. zelf.

We hebben het hier trouwens over het máken van sexueel getinte deepfakes van bekenden danwel mijn buurvrouw (90+). Dit is in Nederland niet verboden. Het verspreiden ervan wél.

Apple neemt hier dan ook een voorschot op de Nederlandse wetgeving.

Ik gok zomaar dat we vergelijkbare culturele achtergronden hebben en beide proberen om respectvol met allen om ons heen om te gaan.

Dat denk ik ook .

Ik vind dit een betutteling waar ik geen behoefte aan heb. Graag bepaal ik e.e.a. zelf.

Dat is dan de kern en dat begrijp ik, in het grotere geheel. Maar ik zie oprecht niet hoe dat anders zou kunnen. Apple zou ten dode zijn opgeschreven als ze géén filter zouden hebben in de App Store en die een vrijplaats zou worden voor discutabele zaken. Overigens zijn er door het toestaan van alternatieve App Stores dankzij de EU straks meer mogelijkheden om e.e.a. zelf te bepalen. Daar zullen vast legio dubieuze apps te vinden zijn op termijn. Eigen keus, iedereen blij .

Apple neemt hier dan ook een voorschot op de Nederlandse wetgeving.

Nee hoor, Apple heeft een strengere standaard in dit geval. Helemaal niet vreemd, er zijn legio voorbeelden van zaken die volgens de wet niet verboden zijn maar je toch niet zult zien. Op Netflix staat geen porno terwijl dat prima zou kunnen, om maar wat te noemen.

Met betrekking op je laatste opmerking las ik vandaag dit artikel op nu.nl. Ik kan mij goed vinden in de mening hierover van beide regisseurs.

Ha, die las ik ook en twijfelde om het als 'terzijde' te linken in een eerdere reactie. Helemaal mee eens, dat is geen goeie ontwikkeling. Maarja, Amerikaans onderzoek en daar is het sowieso allemaal wat preutser. Op Facebook of Instagram mag nog geen tepel in beeld.. Misschien ook wel onderdeel van een grotere golfbeweging in de maatschappij. 'Poor Things' was een verademing wat dat betreft. Heerlijk ongegeneerd en zonder remmingen. Een prachtige film, en gelukkig worden die ook nog gemaakt. (Overigens was er 32 jaar (!) geleden ook enorme ophef om de poes van Sharon Stone. Verhoeven klaagt wel maar dat is in de USA van alle tijden, gedoe om bloot).

We dwalen dan wel af van het deepfake onderwerp. Daar kunnen mensen mee beschadigd worden of erg veel last van hebben en dat is wel een grens wat mij betreft.

Dat ben ik zondermeer met je eens. Maar zo kan het foute soort porno ook gemaakt worden met een camera. Moeten daarom camera's in de ban? Ik kan dan ook niet meer een video van mij en mijn hoog bejaarde buurvrouw maken!

Allemaal gechargeerd natuulijk maar ik ben van mening dat Apple niet de juiste papieren heeft om mij hierin te betuttelen.

Moeten daarom camera's in de ban?

Nee, want je vergelijking klopt niet. Apple doet niet Xcode en de App Store in de ban (= de camera), maar de app die ermee gemaakt is (= de film). De wet bepaalt dat je met je camera geen kinderporno mag maken. Apple bepaalt dat je met Xcode geen deepfake app mag maken.

Dat mag je uiteraard betutteling vinden maar het zal niet veranderen .

Wat ik bedoelde is dat ik van Apple ook geen eigengemaakte deepfake video voor eigen gebruik mag maken. Daarmee wordt het gelijkgesteld aan het vervaardigen van zoiets als kinderporno en dat is niet juist.

Je maakt het te persoonlijk (jij vs Apple). Natuurlijk bepaalt Apple niet dat jij geen deepfake van je buuv mag maken. Zal hun een worst wezen. Ga je gang, doe je ding. Apple wil alleen geen seks in de App Store, deepfake of niet. Dus daar ga jij die app niet vinden. Ik vind dat logisch, helder, consequent en had niet anders verwacht. Ik ga daar al vanuit sinds die App Store bestaat en het had me verbaasd als ze het wél hadden toegelaten.

Vallen we al in herhaling ...? Tot zover dan maar.

Kunnen ze Photoshop en dergelijke programma’s ook wel gaan weren uit hun Store; wat je daar zoal niet mee kan deepfaken.
Ik denk dat het een verloren gevecht is dat Apple hier voert. Het is namelijk de gebruiker die bepaald of ie zijn verstand gebruikt of niet.

"Belachelijk dat bol.com geen pistolen verkoopt. Het is toch de gebruiker die bepaalt of ie er verstandig mee omgaat! Wat een betutteling.."

Overigens kreeg de maker van een van deze apps zijn morele kompas weer op orde een paar jaar geleden en stopte ermee:

https://www.vice.com/en/article/kzm59x/deepnude-app-creates-fake-nudes-of-any-woman

Niks nieuws onder de zon, er zullen altijd weer nieuwe makers voorbij komen. Verloren gevecht van Apple? Dat valt wel mee denk ik. Met een druk op de knop is de app uit de Store. Social media bedrijven hebben het een stuk drukker met het weren van o.a. 'hate speech' en 'revenge porn'. Ook allemaal betutteling zeker..

De norm moet zijn dat wanneer iets (een app, een handeling, een uitspraak, etc) een ander schaadt dan moet diegeen die dat doet aangepakt worden. Het is onzinnig om de daarvoor gebruikte gereedschappen te verbieden.

De norm moet zijn dat wanneer iets (een app, een handeling, een uitspraak, etc) een ander schaadt dan moet diegeen die dat doet aangepakt worden. Het is onzinnig om de daarvoor gebruikte gereedschappen te verbieden.

Dus dan alle preventieve maatregelen maar maar niet toepassen c.q. weghalen ? Dat is geen norm(aal), of half-bakken. Iets aan de voorkant dichttimmeren, voorkomt ellende aan de achterkant.

Was het maar zo simpel…

Ben het helemaal met je eens boiing, maar waarom kunnen fotomanipulatieproramma’s wel in de Store blijven staan van Apple? Ook allemaal potentiële ‘pistolen’ waar je heel wat schade mee kunt aanrichten. Misschien niet helemaal te vergelijken met echte pistolen but you get my drift. Niet echt consequent van Apple als je het mij vraagt.