De ontwikkelingen in AI gaan razendsnel. Zo voegt Microsoft naast alle tekst-mogelijkheden van ChatGPT nu ook de mogelijkheid toe om met DALL∙E op basis van jouw woorden beelden te genereren en Google’s AI bot Bard kan inmiddels ook door een groter publiek gebruikt worden.

Maar een van de engste ontwikkelingen zijn waarschijnlijk deepfakes: audio of video waarin een stem zo goed nagebootst wordt dat ons oog of oor niet meer in staat is om het verschil tussen echt en imitatie te ontdekken. Een indrukwekkend voorbeeld daarvan komt van ontwikkelaar John H. Meyer, die een AI trainde om de stem van Steve Jobs na te bootsen en dit combineerde met de ChatGPT API.

https://twitter.com/BEASTMODE/status/1637613704312242176

Dit voorbeeld is waarschijnlijk even indrukwekkend als het eng is. Want als je niet beter zou weten dan zouden verreweg de meesten van ons denken dat hier de echte Steve Jobs aan het woord was. Misschien nog een beetje formeel, maar zijn stem, intonatie, ritme, alles klopt.

We gaan dus een enge tijd tegemoet. Want dit is met open vizier, en zonder foute bijbedoelingen. Maar het is niet moeilijk te bedenken wat bijvoorbeeld mensen aan de uiteinden van het politieke spectrum met dit soort mogelijkheden zouden kunnen aanrichten.

Mogelijk komt er dan een AI die echt van AI kan onderscheiden, waarbij we de absurditeit van die oplossing maar even buiten beschouwing moeten laten.

Zag deze week nog zo'n website waar je 30 seconden van wie dan ook kunt uploaden, en daarmee klonk de stem al eng reëel.

Je overleden vader of moeder die tegen je praat bijvoorbeeld.

Indrukwekkend en tegelijkertijd inderdaad super eng.

En toch blijft het een werktuig in handen van “echte” mensen.
AI zelf heeft geen geweten of moreel besef.
Door het eng te noemen kijk je er verkeerd tegenaan.
Mensen misbruiken alles voor hun eigen gewin.
Als je dat voor ogen houdt is die toepassing alleen maar iets nieuws waarmee iemand belazerd kan worden.

Door het eng te noemen kijk je er verkeerd tegenaan.
... ... Als je dat voor ogen houdt is die toepassing alleen maar iets nieuws waarmee iemand belazerd kan worden.

En dat vind jij niet eng?

Nee, want dat is wat (sommige) mensen doen. 

@ouwemac: toch een beetje vreemd visie, volgens mij.

Ja, het zijn altijd mensen die iets verkeerds doen, niet het mechanisme wat ze gebruiken.
Maar net zoals een vuurwapen iets verkeerds al snel een stuk erger maken dan een paar vuisten, is hier toch ook sprake van een enge ontwikkeling, omdat we straks mogelijk niet eens meer weten of iets wel gebeurd is, of juist niet.

Neem het voorbeeld van de Access Hollywood tapes van Donald Trump ("grab them by the pussy"). Nu dit soort deepfakes steeds beter worden wordt het (nog) moeilijker om mensen ervan te overtuigen dat Trump dat echt gezegd heeft. Lijkt me toch wel een probleem.

Ik denk daarom dat live-tv / live video's weer een impuls gaan krijgen. In tegenstelling tot filmpjes die gemanipuleerd kunnen zijn. Als iets live is, kan er niet gerommeld worden.

Als iets live is, kan er niet gerommeld worden.

Haha, dream on.

@ouwemac: toch een beetje vreemd visie, volgens mij.

Ja, het zijn altijd mensen die iets verkeerds doen, niet het mechanisme wat ze gebruiken.
Maar net zoals een vuurwapen iets verkeerds al snel een stuk erger maken dan een paar vuisten, is hier toch ook sprake van een enge ontwikkeling, omdat we straks mogelijk niet eens meer weten of iets wel gebeurd is, of juist niet.

Neem het voorbeeld van de Access Hollywood tapes van Donald Trump ("grab them by the pussy"). Nu dit soort deepfakes steeds beter worden wordt het (nog) moeilijker om mensen ervan te overtuigen dat Trump dat echt gezegd heeft. Lijkt me toch wel een probleem.

Ik zeg toch niet dat het geen probleem is?
Jij neemt allerlei dingen aan, maar dat zijn je eigen aannames, jouw eigen gedachten.
Ik leg alleen uit dat je het niet eng hoeft te vinden.
Leuk ook dat je trump erbij haalt.
Hier is een aardig voorbeeld van de manipulaties van de man.
Die heeft geen A.I. nodig om de boel op te jutten, alleen niet-zelfdenkende mensen.
Dat is wat ik bedoel: zelf denken en niet jezelf een denkpatroon opleggen.

Ik denk daarom dat live-tv / live video's weer een impuls gaan krijgen. In tegenstelling tot filmpjes die gemanipuleerd kunnen zijn. Als iets live is, kan er niet gerommeld worden.

Kijk eens hier:


dit is live... en zo zijn er nog een paar onder andere met Jury lid Simon Cowell.
Dit is zo goed als niet van echt te onderscheiden

Of deze:

Eerie deepfakes claiming to show Trump’s arrest spread across Twitter

Kijk eens hier:

...

En John de Mol komt ondertussen met Avastars. 

Of deze…… van twee of drie dagen geleden.