Nieuws, feedback en meer > Nieuwsberichten en reacties

Apple verwijdert 3 deepfake apps uit de App Store

(1/7) > >>

Night (Moderator):
Apple verwijdert 3 deepfake apps uit de App StoreDat je met AI heel gemakkelijk afbeeldingen kunt genereren of aanpassen, kan voor niemand meer een geheim zijn. Maar deepfakes - zoals met AI aangepaste afbeeldingen heten - zorgen voor steeds meer problemen, vooral als dit ten koste gaat van bijvoorbeeld de integriteit van het 'slachtoffer'.

Apple heeft daarom onlangs drie AI-apps verwijderd uit de App Store vanwege hun mogelijkheid om deepfake-afbeeldingen van mensen te genereren zonder kleding.

Apple verwijdert 3 deepfake apps uit de App Store
Afbeelding: Amanda Giasson

Deze apps werden door hun ontwikkelaars gepromoot op sociale media, met name op Instagram, waarbij ze beweerden dat ze kleding konden “verwijderen” en andere vergelijkbare functies hadden. De generatieve kunstmatige intelligentie achter deze apps maakte het mogelijk om nepfoto’s van echte mensen te maken, maar dan zonder hun kleding.

Dit is een groeiend probleem, aangezien deepfake-afbeeldingen, inclusief naaktfoto’s, steeds vaker voorkomen op sociale media.

In Amerika zijn hier al de eerste stappen tegen ondernomen. Om slachtoffers van dit soort naakt-deep-fake afbeeldingen te ondersteunen, heeft de Amerikaanse congerslid Alexandria Ocasio-Cortez de “Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act” geïntroduceerd. Dit wetsvoorstel beoogt een federale civiele remedie te bieden voor slachtoffers van deepfakes.

Er is ook een vergelijkbaar wetsvoorstel in de Amerikaanse Senaat, maar dat lijkt momenteel vast te zitten. Nederland loopt niet bepaald voorop in het nemen van actie tegen deepfakes, en houdt het voorlopig bij kamerbrieven en rapportages.

Apple is overigens niet de enige die worstelt met het beheersen van expliciete deepfake AI-apps en producten. Google Play, Meta en X proberen allemaal de productie en verspreiding van dit soort afbeeldingen te verwijderen, vooral als het echte mensen betreft.

X en Meta zijn echter bekritiseerd vanwege hun inconsistentie op het gebied van regelgeving en handhaving. Het lijkt erop dat bedrijven over de hele linie moeten blijven vechten tegen de opkomst van deepfakes en de mogelijke schade die ze kunnen veroorzaken.

Hoe kun je jezelf beschermen tegen deepfakes?

Het beschermen tegen deepfakes is een flinke uitdaging, maar er zijn enkele dingen die je kunt doen om jezelf en anderen te beschermen:

* Bewustwording: Wees op de hoogte van het bestaan van deepfakes en hun potentieel schadelijke impact. Leer hoe ze eruitzien en hoe ze worden gemaakt.
* Kritisch denken: Wees sceptisch over verdachte inhoud. Als iets te mooi lijkt om waar te zijn, is dat meestal ook zo. Het kan dus een deepfake zijn. Controleer de bron en zoek naar andere aanwijzingen.
* Beveilig jezelf en beperk persoonlijke informatie: Deel zo min mogelijk persoonlijke foto’s en video’s online.
* Privacy-instellingen: Controleer de privacy-instellingen op sociale media en andere platforms om te voorkomen dat onbekenden toegang krijgen tot je foto’s en video’s.
Daarnaast komen er steeds meer technische oplossingen of worden bestaande oplossingen gebruikt:

* Digitale watermerken: Sommige bedrijven en onderzoekers werken aan digitale watermerken die in afbeeldingen kunnen worden ingebed om hun authenticiteit te verifiëren.
* Blockchain: Blockchain-technologie kan worden gebruikt om de oorsprong en integriteit van mediabestanden te volgen.
* AI-detectie: Er zijn AI-tools die deepfakes kunnen detecteren. Hoewel ze niet perfect zijn, kunnen ze helpen bij het identificeren van verdachte inhoud.AI staat nu nog in de kinderschoenen, maar de ontwikkeling gaat razendsnel. Deepfakes zullen dan ook steeds beter en onherkenbaarder worden. Hoe dit zich in de toekomst zal ontwikkelen? De tijd zal het leren.

Jurriaan:
Enorme tegenstrijdigheid. App bouwers maken dergelijke apps en vervolgens verwijderd Apple dergelijke apps. Op basis waarvan?
Waarom maken wij als mens dit soort apps?
Is de enige basis om te reguleren een overheid?
En dus zullen er altijd overheden zijn die dit toestaan?

Wederom blijkt dat de mens tegen zichzelf in bescherming genomen moet worden. Maar wie zorgt voor die bescherming.

sdequack:
En meer nog; wie bepaalt waartegen je beschermd moet worden? Dat zijn uiterst subjectieve beslissingen welke onderhevig zijn aan trends, tijdgeest, religie, politiek, en noem maar op. Willekeur ligt dan op de loer.

Jurriaan:
De andere kant op ook, die van totale vrijheid.
Heb niet ervaren dat het zonder sociale media ook zo was.

GeorgeM:

--- Citaat van: Jurriaan,  2 mei 2024 - 12:48 ---Enorme tegenstrijdigheid. App bouwers maken dergelijke apps en vervolgens verwijderd Apple dergelijke apps. Op basis waarvan?

--- Einde van citaat ---
Gelukkig is het antwoord op die vraag nogal simpel: op basis van de regels van de App Store.

Navigatie

[0] Berichtenindex

[#] Volgende pagina