Begin-tot-eindversleuteling blijkt vaak iets wat niet goed door politici begrepen wordt. Het gevolg is dan vaak voorstellen met een sleutel in ‘veilige handen’. Terwijl allang bekend is dat dit een illusie is, de geschiedenis laat keer op keer zien dat zo’n sleutel uiteindelijk altijd uitlekt.

Het leek dan ook goed nieuws dat de huidige EU-voorzitter Denemarken het voorstel voor ChatControl terugtrok, maar dat blijkt niet definitief te zijn.



De Europese Commissie wil dat aanbieders van communicatieplatforms verplicht worden om afbeeldingen en URL’s van websites die gebruikers elkaar sturen te controleren op mogelijk seksueel misbruik. Het 'probleem' daarbij is dat berichten in veel apps, zoals Berichten, WhatsApp en Signal versleuteld zijn. Daar dus ook de aanbieder zelf niet bij.

De truc die bedacht werd is om diezelfde aanbieders te verplichten om alle afbeeldingen en URL's te scannen voordat ze worden versleuteld, waarbij het digitaal briefgeheim dus opgeheven zou worden.

Zoals zo vaak is de bedoeling, het bestrijden van kinderporno, prima. Maar het zou betekenen dat eigenlijk alle Europeanen voortaan als verdachten behandeld zullen gaan worden. Daarbij worden allerlei verzekeringen gegeven dat dit systeem niet misbruikt zal worden. Maar de geschiedenis leert dat in dit soort gevallen er altijd een glijdende schaal ontstaat, en het misbruik door autoritaire regimes is natuurlijk ook levensgroot aanwezig. Een extra risico, nu we in Europa in meerdere landen al zien hoe snel democratische waarden kunnen eroderen, bijvoorbeeld in Hongarije of Polen.

Aanpassing van de plannen

Omdat de steun van Duitsland voor dit plan wegviel, Nederland was al langer tegen, is er nu een nieuw plan ontwikkeld. Het belangrijkste verschil met het vorige voorstel: de verplichting om berichten te scannen, is eruit gehaald. Maar de mogelijkheid zou er dus wel komen, waarbij er een groot vertrouwen lijkt te zijn om dit met AI te doen.

Maar juist AI blijkt ook nog spectaculair te kunnen falen, zoals het voorbeeld van de vader in de VS die een foto van de pijnlijke penis van zijn zoontje naar een zorgmedewerker stuurde. De AI van Google markeerde dit als seksueel misbruik, de man kon daarna zijn account niet meer gebruiken er er volgde zelfs een strafrechtelijk onderzoek. Uiteindelijk kon de man zijn onschuld bewijzen, maar dat kostte veel tijd en moeite. Het principe van onschuldpresumptie werd hier dus overboord gezet, hij was schuldig tot hij het tegendeel kon bewijzen.

Daarbij creëert deze nieuw insteek ook veel onduidelijkheid, want welke diensten gaan nu scannen, en welke niet? WhatsApp en Signal in ieder geval niet, die willen hun versleuteling niet opgeven. Het lijkt er dus op dat we naar een scenario gaan dat sommige diensten wel gaan scannen, waardoor de diensten die dat niet doen steeds meer onder druk zullen komen te staan.

Nieuwe plannen

Verder zijn er ook nieuwe ingrediënten in het Deense plan, zoals bijvoorbeeld een al dan niet verplichte leeftijdsverificatie voor het gebruik van sommige platforms. Daarvoor zou een database van miljoenen Europeanen moeten worden opgetuigd, wat ook weer risico's met zich meebrengt.

Daarbij zou er ook, alweer met hulp van AI, gescand kunnen gaan worden op mogelijke grooming, waarbij jonge slachtoffers worden verleid, om ze vervolgens te exploiteren. Ook hier zijn de systemen nog helemaal niet waterdicht, waardoor het zo goed als zeker is dat het false positives als resultaat zal hebben, met al het persoonlijk leed wat daaruit voort kan vloeien.

Het nieuwe Deense voorstel krijgt in elk geval voorlopig voldoende steun, en waarschijnlijk morgen of overmorgen de goedkeuring van de EU-delegaties gaan krijgen. Daarna zullen de Europese Commissie, de Europese Raad en het Europees Parlement zich er nog over moeten buigen. Zowel de Commissie en lidstaten zoals Spanje en Hongarije zouden graag nog een stuk verder willen gaan. Tegelijk zullen bijvoorbeeld Duitsland en initiatiefnemer Denemarken blij zijn dat er eindelijk een voorstel op tafel ligt dat acceptabel is, en dus voldoende steun krijgt.

Snappen die mensen echt niet dat hun ideeën contraproductief zijn - ik durf de omschrijving idioot niet gebruiken, stel dat ze me al aan het screenen zijn - dat het schieten met een kanon op een mug is ?

Eerlijk gezegd heb ik er geen woorden meer voor.
En ware dit nog maar het enige geweest waar onze verkozenen in dwalen.

Vermoeiend.

Ook in deze (EU) plannen is het 'Toverwoord" AI. Maar naast hele goede dingen met AI weten wij hier op MacFreak dat AI er ook heel erg naast kan zitten. Wellicht is er bij de voorstel-makers of (veel) te weinig kennis, of worden er (onvolledig uitgeteste) verkeerde methoden voorgesteld.

Vanmorgen zag ik een video van niet de eerste de beste (Prof. Hannah Fry), waarin werd aangekondigd dat de rechtspraak binnenkort ook via AI verloopt. De situatie wordt ingevoerd en AI geeft het antwoord en de straf.


AI / ChatGPT is beslist nog niet veilig te gebruiken, zegt Sam Altman zelf(s).

Helaas, we zijn hard op weg naar een voltrekking van de voorspellende film: idiocracy:



Dat van gerechtelijke uitspraken, alsmede het beoordelen van (burger)-bezwaarschriften, evenals het inzetten van AI (lees: een LARGE LANGUAGE MODEL, niet eens echte AI) op een manier waar het eigenlijk niet voor ontworpen is.

Een van de volgende stappen zou AGI zijn. Een van de grote problemen met LLM is dat het werkt op basis van "tokens" om een bepaald (statistisch) pad te volgen, daarnaast is het een reactief model ("need input"), is het geheugen bijzonder beperkt (probeer eens een analyse van 1GB aan platte tekst door te voeren en je kunt een veelvoud aan dat aan geheugen kwijt zijn voor de analyze, bijzonder inefficient) en denk aan het gebrek aan het vermogen te redeneren.

Oftewel: HAL 9000 is nog een tijdje van ons verwijderdt, maar de ironie is dat we als samenleving kennelijk een ware fetisch beleven en maar al te graag de klappen van de (AI) zweep willen ervaren, aan den lijve.

We gebruiken systemen, op een manier, die er helemaal niet voor ontworpen zijn om zo te gebruiken. Wat we momenteel als "AI" bestempelen, is feitelijk een geniaal hulpmiddel, en komt heel dicht bij de "ervaring van" intelligentie door de gebruiker, maar is dat (formeel) niet.

Oftewel, ik zie de toekomst toch wat zwartgalliger in, dan ik dit al deed  ... "Welcome to the republic of idiocracy".

IN de kern zit de film dichter bij de waarheid dan ik had gehoopt, met enkel het verschil: we deden er geen 500 jaar over, maar slechts 25.

@Dr. Apple, ‘grappig’ dat je dit schrijft.

Het schijnt zo te zijn of te worden dat OpenAI helemaal niet uit is op een ChatBot, maar op een SuperApp…

https://archive.ph/mpc9r

En nog een ‘leuke’ de financiering van AI moet komen uit besparingen op medewerkers…

https://archive.ph/QYKpC

@Dr. Apple, ‘grappig’ dat je dit schrijft.

Het schijnt zo te zijn of te worden dat OpenAI helemaal niet uit is op een ChatBot, maar op een SuperApp…

"I Know"   

En hiermee zie ik uiteindelijk dat de supermachten hun keizerrijk enkel verruimen en van elkaar leren. Oftewel: Europa en Amerika krijgen uiteindelijk ook een "WeChat" zoals in China met allerlei functionaliteiten en met 20 jaar ongetwijfeld ook een "Social Scoring" alwaar je als burger een codering meekrijgt of je volgzaam genoeg bent, financieel betrouwbaar, vaderlandlievend (lees: patriotisme zal uitgelegd worden of je de machthebbers hun versie van de werkelijkheid onderschrijft of niet) ...

... Het zal beginnen als commerciele initiatieven, maar mettertijd zal de overheid zich hiermee bemoeien. En voorspelling: uiteindelijk zal OpenAI hier hoogstwaarschijnlijk, zeker in Nederland en aantal andere Europese landen, mee weg komen of zelfs een dikke vinger in de pap krijgen.

Waarom? Omdat Nederland, Belgie, Duitsland en ongeveer 3/4 van Europese overheden afgelopen decennia zijn gevallen voor het narratief van Microsoft (lees: steekpenningen, leuke snoepreisjes en intelligente verkopers alsook gemak en soms erger nog: prive gewin of onwetendheid) ...

Microsoft heeft een "sterke band met OpenAI" en zal CoPilot techologie ongetwijfeld meer "Organisatieproof maken". En gelet op het feit dat CoPilot inmiddels op redelijk wat ENTERPRISE en zelfs OVERHEIDS computers begint te komen, is het een kwestie van "gewenning".

Dus als Microsoft in 2027 met het idee komt een dienst te hebben die een "Europese WeChat" mogelijk gaat kunnen maken, zal het hoogst waarschijnlijk: kat in het bakkie zijn (voor Microsoft).

En al die normen, waarden, leuk maar daarmee is geen droog brood te verdienen, en gelet op onze transitie als samenleving van een (verhoudingsgewijs) linkse, sociaal democratische samenleving naar een meer "capitalistisch gedreven, rechtse samenleving", met hier en daar nog een stuiptrekking van het linkse verleden, welk met de volgende generatie kiezers mogelij helemaal uitsterft, is Nederland, en vele landen in Europa gewoon een satelliet-staat van de VS, oftewel, gaan we ook die kant op.

En Amerika zelf? Begint toch best wat akelig autocratische trekken te vertonen, heeft een kappot rechtssysteem, nog te zwijgen van politiek systeem, en voeg daar dus zometeen een crypto-munt, chat controle (die ook in de VS overigens op de loer licht), machtsgeile bestuurders, gedreven door lobbyisten en dus het grote geld, met beproefde technologie en concepten reeds getest op "de vijand diens bevolking", te weten: China. En je weet welke kant we opgaan ...

Het zijn juist dergelijke technologische ontwikkelingen die bepaalde "politieke, militaristische en economische mogelijkheden" vergemogelijken. Wat een zienend oog hadden sommige SciFi schrijvers en filmmakers uit de vorige eeuw ...

Overigens in Europa begint men er ook wat voor te voelen, denk aan de Revolut App alwaar je zowel een Simkaart kunt kopen, verzekeringen kunt afsluiten, sparen, beleggen, en allerlei diensten in het interne ecosysteem kunt regelen.

https://www.miquido.com/blog/super-apps-europe/

Maar goed, ik denk dat de meesten van ons zich wel kunnen vinden in het feit dat ChatControl nu niet direct iets is waar we blij van worden, noch de ontwikkeling van superapps.

Maar aangezien er een dikke laag "candij" op de hoop stront gespoten is en inmiddels opgedroogd, ziet het er uit als een ongekende mooie berg zoet ... Totdat we in ons "gekwijl" tot de kern komen van wat deze technologie binnen een context van overheden en grote spelers nu echt betekend voor klanten en ... burgers ...

Ik heb geen van jullie bijdragen goed doorgelezen, want ik vind het allemaal te ingewikkeld (en sommige bijdragen ook onleesbaar want het meandert alle kanten op). Niet dat ik het niet zou snappen, maar op een artikeltje van Robert, wat duidelijk een kleur heeft kunnen we natuurlijk geen doorwrochte discussie voeren. Als we het al zouden kunnen, want pas als je zelf in dat soort materie zit, zie je hoe complex zaken kunnen zijn.

Wat me wel elke keer verbaast, dat de wetgever de boeman lijkt te zijn, die de Big Tech maar vervelend in de weg zit. Want 'zij' snappen er niks van, en Big Tech weet wel wat goed is voor ons, klanten, burgers.
Sterker, de burgers snappen het allemaal zelf beter als de wetgever, lijkt het. Tot het misgaat, als zo vaak bij burgers, want ze zijn gemiddeld genomen blijkbaar toch dommer dan dat ze zelf denken, en dan had de overheid ze moeten beschermen. Vinden ze...

Waarschijnlijk vinden jullie die 'Cyber Resilience Act' ook onterecht? Want die arme jongens en meisjes producenten moeten dan weer aan de bak. Of vinden jullie deze wet wel oké, omdat Apple er al min of meer aan voldoet?

Ik ben het in deze helemaal met je eens Flix.

Dat irritante framen van de wetgevende macht als kwaadaardig genius onwetend is iets dat ik veel zie in een bepaald deel van het politieke spectrum en helaas ook op deze site al is het in een mildere vorm.
let wel ik noem geen namen.

Waarschijnlijk vinden jullie die 'Cyber Resilience Act' ook onterecht? Want die arme jongens en meisjes producenten moeten dan weer aan de bak. Of vinden jullie deze wet wel oké, omdat Apple er al min of meer aan voldoet?

Ik snap jouw bijdrage (en die van ouwemac) eerlijk gezegd minder goed dan waar het hier om gaat. 'Framen van de wetgevende macht'? Het gaat hier toch helemaal niet om Apple, of Big Tech? En de Cyber Resilience Act heeft er ook niks mee te maken.. Voor mij is dit een hele belangrijke privacy kwestie, gaat het om je grondrechten als mens, en om potentieel hele enge vergaande mogelijkheden van een staat. Ik heb dit al eerder gepost, maar het kan misschien geen kwaad om hierover nog eens een paar stukjes van Bits of Freedom te lezen. Volgens mij zitten die aan de goeie kant van het politieke spectrum, ouwemac.. En zo moeilijk is dit nou ook weer niet .

https://www.bitsoffreedom.nl/tag/chat-control/

Precies een jaar geleden is de CRA getekend en wordt sinds september 2026 gehandhaaft. Je kunt er natuurlijk alles van vinden, maar voor - of tegen zijn heeft niet zoveel zin m.b.t. een al aangenomen wet. Verder gaat de CRA heel ergens anders over dan het basis-artikel van Robert. ChatControl gaat heel ergens anders over en wordt 19/11 behandeld in Brussel...

...en om potentieel hele enge vergaande mogelijkheden van een staat.

Begrijp ik. Bij mij ligt het zwaartepunt o.h.a. ook bij bescherming van de privacy.
En toch: de overheid zal ook zeker wat moeten doen aan bv de ongebreidelde mogelijkheden die makers en verspreiders van kinder(baby!)-porno tegenwoordig hebben. Kan niet anders; ze kunnen dit niet laten 'rusten'!
Hoop dat ze met wat goeds komen.
Vind niet dat zo'n artikel hier op MF daar zinnig aan bijdraagt (al in de eerste regel wordt een wantrouwen uitgesproken naar politici); dan wel hoort bij de missie van MF.

Maar dit stukje is óók maar een mening, hè.

En toch: de overheid zal ook zeker wat moeten doen aan bv de ongebreidelde mogelijkheden die makers en verspreiders van kinder(baby!)-porno tegenwoordig hebben.

Yep. En daarom zijn een paar van die artikelen van BOF aan te raden. Dan lees je waarom dit soort wetten een slecht idee zijn, en dat er ook andere manieren bestaan. Maar misschien is het onvermijdelijk, en gaat het toch langzaam de verkeerde (1984..) kant op. Tegen kinderporno als argument is het lastig vechten, net als tegen terrorisme als argument voor strengere veiligheids en spionage-wetten (sleepwet etc). Beide leiden mogelijk tot verdere aantasting van je digitale privacy.

Je zou ook kunnen zeggen dat die aantasting van volledige, 100% privacy een gevolg is van de wens van de burgers, van onszelf, om gevrijwaard te blijven van terrorisme en van de kans op misbruik van onze kinderen. Zeer terechte wens, en een even hoog doel als 100% privacy. Daar ga je al.
Geloof niet dat er altijd 'andere' manieren bestaan die een én/én propositie hebben.
Linksom of rechtsom zullen er aan beide zijden pijnpunten zijn.

We hebben het over privacy én mogelijkheden die tot 15 jaar geleden nooit bestonden (voor de meesten) en nu moet daar dus structuur en balans in worden gebracht.

BOF is een goede club; heb ze zelf graag ondersteund via Xs4all, maar dat wil niet zeggen dat hun visie altijd de juiste, of überhaupt correct is. Net een beetje zoals de Partij voor de Dieren en dergelijken.
(Ik lees BOF wel hoor, daar niet van.)

Maar eigenlijk wil ik dus juist uit dit soort discussies blijven, hier op MF.🫣

NB: weer veel gedoe met een haperende verbinding met (de server van) MF. Heeft dat iets met het wereldwijde Cloudflare probleem te maken?

@boiing ik heb het helemaal niet over het artikel van Robert.
Ik reageer op de reactie van Flix over het negatieve commentaar op de wetgever die weinig goeds lijken te kunnen doen.
En Bits of Freedom is mij bekend en waardeer ik.

Maar eigenlijk wil ik dus juist uit dit soort discussies blijven, hier op MF.🫣

Dan laat ik het daarbij .


^{NB: nee, de haperende MF is de gewone bijna dagelijkse kost. Het wil maar niet beter worden.}

  

Eens: het framen van wetgevende machten
Eens: we moeten iets doen aan kinderporno, mensenhandel en andere misstanden
Eens: soms is het wat wazig, dan weer Chat Control, danweer CRA, dan weer AVG en dan weer DORA
Eens: techniek heeft grote sprongen gemaakt
Eens: de voorgestelde "juridische ambitie" door middel van Chat Control, kan enkel gehaad worden door alle chat kanalen eerst door een "censor" te laten gaan en dan pas te versleutelen
Oneens: dit is een goede oplossing
Oneens: dit komt de veiligheid ten goede

Waarom niet: eenvoudig gezegd, mogelijk is dat niet iets waar mensen zich hier mee bezig houden, maar er alternatieve chatplatformen groeien inmiddels als paddo's uit de grond.

Thor netwerk is natuurlijk bekende, maar er zijn nog veel meer technieken en "alternatieve netwerken"; met dergelijke initiatieven zul je de kwaden der maatschappij enkel richting de alternatieve netwerken jagen, met nog minder toezicht en controle.

En let wel, inmiddels gaat het best ver. Kwam laatst een heel mooie tegen: digitale amateur radio welke gebruikt werd om bedenkelijke data te versturen ... De onderwereld zit ook niet stil, zo ook de kwaadwillenden der samenleving.

Er zijn andere oplossingen dan de voorgestelde chatcontrole. En, als we kijken naar de ontwikkelingen in Israel, Amerika, Hongarije, Rusland, Oekraine, Sudan, Brazilie, Japan, China, Venezuela, Australie, Italie en vele landen meer, is er momenteel wel degelijk een reden tot zorg. En helaas, ook tot misbruik. De voorgestelde Chat Control oplossing is daarom eigenlijk zowel politiek als technisch nogal "bedenkelijk" (lees: zwak met veel mogelijkheden tot misbruik alsook onterechte verdachtmaking).

Korte anecdote, heb vanuit een technologische/process hoek meegemaakt wat er gebeurt met burgers als die onterecht, door een zuiver technoligsche fout, aangemerkt worden als pedofiel of moordenaar. Bij een overheidsorgaan was door een fout van de eerste orde een aantal mensen aangemerkt als ... Zonder een uitgewerkt proces tot beroep, zonder toetsing, zonder wat dan ook.

Niet veel anders dan de toeslagen affaire, leidde dat tot een vernietigende uitwerking op de betreffende individuen. Alleen was er een probleem: nauwelijks te bewijzen, er zijn gevallen in Amerika waar reeds mensen omwille van gedeelde foto's van hun kinderen met een medische professional aangemerkt werden als dader.

Ik zeg het maar eens bijzonder "volks": makkelijk lullen, totdat het jou betreft. Mij heeft het gelukkig nooit getroffen, maar ik heb het van dichterbij meegemaakt wat het doen met mensen vanuit mijn professionele rol, en ik werd er vanuit een menselijke kant, niet bijzonder blij van.

Vandaar mijn eerdere reactie.

Begrijp ik. Bij mij ligt het zwaartepunt o.h.a. ook bij bescherming van de privacy.
En toch: de overheid zal ook zeker wat moeten doen aan bv de ongebreidelde mogelijkheden die makers en verspreiders van kinder(baby!)-porno tegenwoordig hebben. Kan niet anders; ze kunnen dit niet laten 'rusten'!
Hoop dat ze met wat goeds komen.

Dat is ook precies de reden dat ik hier op MacFreak al vaak heb aangegeven dat het veel beter zou zijn als overheden kinderporno echt zouden aanpakken, bijvoorbeeld op deze manier. Het oprollen van dat soort overduidelijk malafide servers gebeurt veel te weinig, waar ik naar link is een druppel op een gloeiende plaat.

En zolang dat het geval is, lijkt het me een goed idee om keer op keer duidelijk te maken dat er andere belangen spelen, want de reden voor deze verregaande maatregelen  die steeds weer worden genoemd zijn duidelijk niet waar het echt om draait. Was dat wel het geval, dan zouden het overgrote gedeelte van de servers waar die troep op staat allang uit de lucht zijn.

Verder verwijs ik naar de reactie van doctor_apple hier boven mij, dan hoef ik dat niet (nog een keer) allemaal op te schrijven.

Vind niet dat zo'n artikel hier op MF daar zinnig aan bijdraagt (al in de eerste regel wordt een wantrouwen uitgesproken naar politici); dan wel hoort bij de missie van MF.

Tja, je kan het gekleurd vinden, je kan ook proberen te zien dat dit de realiteit is.
Door de jaren hebben we werkelijk eindeloze malen gezien dat de politiek graag achterdeurtjes zou willen hebben, terwijl al heel erg lang bekend is dat dit niet goed werkt (want zo’n sleutel lekt uiteindelijk altijd, etc. etc.).

Jij ziet dat als gekleurd, ik zie het als het benoemen van de realiteit. Misschien hoort dat ook bij de missie van MacFreak?