geplaatst door: Robert
https://www.macfreak.nl/modules/news/images/EU-logo.jpg
Afgezwakte vorm van ChatControl lijkt er toch te gaan komen in de EU
Begin-tot-eindversleuteling blijkt vaak iets wat niet goed door politici begrepen wordt. Het gevolg is dan vaak voorstellen met een sleutel in ‘veilige handen’. Terwijl allang bekend is dat dit een illusie is, de geschiedenis laat keer op keer zien dat zo’n sleutel uiteindelijk altijd uitlekt.

Het leek dan ook goed nieuws dat de huidige EU-voorzitter Denemarken het voorstel voor ChatControl terugtrok, maar dat blijkt niet definitief te zijn.

https://www.macfreak.nl/modules/news/images/zArt.iCloudKinderpornoScan-1.jpg
Afgezwakte vorm van ChatControl lijkt er toch te gaan komen in de EU


De Europese Commissie wil dat aanbieders van communicatieplatforms verplicht worden om afbeeldingen en URL’s van websites die gebruikers elkaar sturen te controleren op mogelijk seksueel misbruik. Het 'probleem' daarbij is dat berichten in veel apps, zoals Berichten, WhatsApp en Signal versleuteld zijn. Daar dus ook de aanbieder zelf niet bij.

De truc die bedacht werd is om diezelfde aanbieders te verplichten om alle afbeeldingen en URL's te scannen voordat ze worden versleuteld, waarbij het digitaal briefgeheim dus opgeheven zou worden.

Zoals zo vaak is de bedoeling, het bestrijden van kinderporno, prima. Maar het zou betekenen dat eigenlijk alle Europeanen voortaan als verdachten behandeld zullen gaan worden. Daarbij worden allerlei verzekeringen gegeven dat dit systeem niet misbruikt zal worden. Maar de geschiedenis leert dat in dit soort gevallen er altijd een glijdende schaal ontstaat, en het misbruik door autoritaire regimes is natuurlijk ook levensgroot aanwezig. Een extra risico, nu we in Europa in meerdere landen al zien hoe snel democratische waarden kunnen eroderen, bijvoorbeeld in Hongarije of Polen.

Aanpassing van de plannen

Omdat de steun van Duitsland voor dit plan wegviel, Nederland was al langer tegen, is er nu een nieuw plan ontwikkeld. Het belangrijkste verschil met het vorige voorstel: de verplichting om berichten te scannen, is eruit gehaald. Maar de mogelijkheid zou er dus wel komen, waarbij er een groot vertrouwen lijkt te zijn om dit met AI te doen.

Maar juist AI blijkt ook nog spectaculair te kunnen falen, zoals het voorbeeld van de vader in de VS die een foto van de pijnlijke penis van zijn zoontje naar een zorgmedewerker stuurde. De AI van Google markeerde dit als seksueel misbruik, de man kon daarna zijn account niet meer gebruiken er er volgde zelfs een strafrechtelijk onderzoek. Uiteindelijk kon de man zijn onschuld bewijzen, maar dat kostte veel tijd en moeite. Het principe van onschuldpresumptie werd hier dus overboord gezet, hij was schuldig tot hij het tegendeel kon bewijzen.

Daarbij creëert deze nieuw insteek ook veel onduidelijkheid, want welke diensten gaan nu scannen, en welke niet? WhatsApp en Signal in ieder geval niet, die willen hun versleuteling niet opgeven. Het lijkt er dus op dat we naar een scenario gaan dat sommige diensten wel gaan scannen, waardoor de diensten die dat niet doen steeds meer onder druk zullen komen te staan.

Nieuwe plannen

Verder zijn er ook nieuwe ingrediënten in het Deense plan, zoals bijvoorbeeld een al dan niet verplichte leeftijdsverificatie voor het gebruik van sommige platforms. Daarvoor zou een database van miljoenen Europeanen moeten worden opgetuigd, wat ook weer risico's met zich meebrengt.

Daarbij zou er ook, alweer met hulp van AI, gescand kunnen gaan worden op mogelijke grooming, waarbij jonge slachtoffers worden verleid, om ze vervolgens te exploiteren. Ook hier zijn de systemen nog helemaal niet waterdicht, waardoor het zo goed als zeker is dat het false positives als resultaat zal hebben, met al het persoonlijk leed wat daaruit voort kan vloeien.

Het nieuwe Deense voorstel krijgt in elk geval voorlopig voldoende steun, en waarschijnlijk morgen of overmorgen de goedkeuring van de EU-delegaties gaan krijgen. Daarna zullen de Europese Commissie, de Europese Raad en het Europees Parlement zich er nog over moeten buigen. Zowel de Commissie en lidstaten zoals Spanje en Hongarije zouden graag nog een stuk verder willen gaan. Tegelijk zullen bijvoorbeeld Duitsland en initiatiefnemer Denemarken blij zijn dat er eindelijk een voorstel op tafel ligt dat acceptabel is, en dus voldoende steun krijgt.

Klik hier voor informatie over het onder de aandacht brengen van producten of diensten op MacFreak.
geplaatst door: DirtyMay
Snappen die mensen echt niet dat hun ideeën contraproductief zijn - ik durf de omschrijving idioot niet gebruiken, stel dat ze me al aan het screenen zijn - dat het schieten met een kanon op een mug is ?

Eerlijk gezegd heb ik er geen woorden meer voor.
En ware dit nog maar het enige geweest waar onze verkozenen in dwalen.

Vermoeiend.
geplaatst door: nnsa
Ook in deze (EU) plannen is het 'Toverwoord" AI. Maar naast hele goede dingen met AI weten wij hier op MacFreak dat AI er ook heel erg naast kan zitten. Wellicht is er bij de voorstel-makers of (veel) te weinig kennis, of worden er (onvolledig uitgeteste) verkeerde methoden voorgesteld.

Vanmorgen zag ik een video van niet de eerste de beste (Prof. Hannah Fry), waarin werd aangekondigd dat de rechtspraak binnenkort ook via AI verloopt. De situatie wordt ingevoerd en AI geeft het antwoord en de straf.


AI / ChatGPT is beslist nog niet veilig te gebruiken, zegt Sam Altman zelf(s).
Ⓒnnsa(i)-2025
geplaatst door: doctor_apple
Helaas, we zijn hard op weg naar een voltrekking van de voorspellende film: idiocracy:



Dat van gerechtelijke uitspraken, alsmede het beoordelen van (burger)-bezwaarschriften, evenals het inzetten van AI (lees: een LARGE LANGUAGE MODEL, niet eens echte AI) op een manier waar het eigenlijk niet voor ontworpen is.

Een van de volgende stappen zou AGI zijn. Een van de grote problemen met LLM is dat het werkt op basis van "tokens" om een bepaald (statistisch) pad te volgen, daarnaast is het een reactief model ("need input"), is het geheugen bijzonder beperkt (probeer eens een analyse van 1GB aan platte tekst door te voeren en je kunt een veelvoud aan dat aan geheugen kwijt zijn voor de analyze, bijzonder inefficient) en denk aan het gebrek aan het vermogen te redeneren.

Oftewel: HAL 9000 is nog een tijdje van ons verwijderdt, maar de ironie is dat we als samenleving kennelijk een ware fetisch beleven en maar al te graag de klappen van de (AI) zweep willen ervaren, aan den lijve.

We gebruiken systemen, op een manier, die er helemaal niet voor ontworpen zijn om zo te gebruiken. Wat we momenteel als "AI" bestempelen, is feitelijk een geniaal hulpmiddel, en komt heel dicht bij de "ervaring van" intelligentie door de gebruiker, maar is dat (formeel) niet.

Oftewel, ik zie de toekomst toch wat zwartgalliger in, dan ik dit al deed  :dozingoff: ... "Welcome to the republic of idiocracy".

IN de kern zit de film dichter bij de waarheid dan ik had gehoopt, met enkel het verschil: we deden er geen 500 jaar over, maar slechts 25.
geplaatst door: nnsa
@Dr. Apple, ‘grappig’ dat je dit schrijft.

Het schijnt zo te zijn of te worden dat OpenAI helemaal niet uit is op een ChatBot, maar op een SuperApp…

https://archive.ph/mpc9r

En nog een ‘leuke’ de financiering van AI moet komen uit besparingen op medewerkers…

https://archive.ph/QYKpC
Ⓒnnsa(i)-2025
geplaatst door: boiing
Citaat
The Disguised Return of The EU’s Private Message Scanning Plot

After public outrage buried it once, the EU’s mass surveillance plan is back; rebranded, repackaged, and more invasive than before.

“This is a political deception of the highest order,” Breyer said. “Following loud public protests, several member states, including Germany, the Netherlands, Poland, and Austria, said ‘No’ to indiscriminate Chat Control. Now it’s coming back through the back door disguised, more dangerous, and more comprehensive than ever. The public is being played for fools.”

(bron)

Citaat
Former MEP Patrick Breyer: Danish Minister Uses “Blatant Lie” to Blackmail EU into “Chat Control“ Mass Surveillance Deal

While the stated aim is to detect child sexual abuse material (CSAM), the proposal would compel services used by hundreds of millions — WhatsApp, Signal, Telegram, iMessage, and major email providers — to scan every message, including personal photos, and videos. Experts warn this means indiscriminate, real-time mass surveillance and the effective end of secure end-to-end encryption.

The scanning technology is notoriously unreliable, with false positive rates estimated between 50-75%. This means hundreds of thosands of innocent Europeans—families sharing vacation photos, partners sexting—will be wrongly flagged by faulty algorithms and black box AI systems. Hundreds of scientists recently issued a warning.

(bron)
The amount of energy needed to refute bullshit is an order of magnitude bigger than that needed to produce it (Brandolini's Law)
geplaatst door: doctor_apple
@Dr. Apple, ‘grappig’ dat je dit schrijft.

Het schijnt zo te zijn of te worden dat OpenAI helemaal niet uit is op een ChatBot, maar op een SuperApp…


"I Know"  :dozingoff: :confused:  :sad:

En hiermee zie ik uiteindelijk dat de supermachten hun keizerrijk enkel verruimen en van elkaar leren. Oftewel: Europa en Amerika krijgen uiteindelijk ook een "WeChat" zoals in China met allerlei functionaliteiten en met 20 jaar ongetwijfeld ook een "Social Scoring" alwaar je als burger een codering meekrijgt of je volgzaam genoeg bent, financieel betrouwbaar, vaderlandlievend (lees: patriotisme zal uitgelegd worden of je de machthebbers hun versie van de werkelijkheid onderschrijft of niet) ...

... Het zal beginnen als commerciele initiatieven, maar mettertijd zal de overheid zich hiermee bemoeien. En voorspelling: uiteindelijk zal OpenAI hier hoogstwaarschijnlijk, zeker in Nederland en aantal andere Europese landen, mee weg komen of zelfs een dikke vinger in de pap krijgen.

Waarom? Omdat Nederland, Belgie, Duitsland en ongeveer 3/4 van Europese overheden afgelopen decennia zijn gevallen voor het narratief van Microsoft (lees: steekpenningen, leuke snoepreisjes en intelligente verkopers alsook gemak en soms erger nog: prive gewin of onwetendheid) ...

Microsoft heeft een "sterke band met OpenAI" en zal CoPilot techologie ongetwijfeld meer "Organisatieproof maken". En gelet op het feit dat CoPilot inmiddels op redelijk wat ENTERPRISE en zelfs OVERHEIDS computers begint te komen, is het een kwestie van "gewenning".

Dus als Microsoft in 2027 met het idee komt een dienst te hebben die een "Europese WeChat" mogelijk gaat kunnen maken, zal het hoogst waarschijnlijk: kat in het bakkie zijn (voor Microsoft).

En al die normen, waarden, leuk maar daarmee is geen droog brood te verdienen, en gelet op onze transitie als samenleving van een (verhoudingsgewijs) linkse, sociaal democratische samenleving naar een meer "capitalistisch gedreven, rechtse samenleving", met hier en daar nog een stuiptrekking van het linkse verleden, welk met de volgende generatie kiezers mogelij helemaal uitsterft, is Nederland, en vele landen in Europa gewoon een satelliet-staat van de VS, oftewel, gaan we ook die kant op.

En Amerika zelf? Begint toch best wat akelig autocratische trekken te vertonen, heeft een kappot rechtssysteem, nog te zwijgen van politiek systeem, en voeg daar dus zometeen een crypto-munt, chat controle (die ook in de VS overigens op de loer licht), machtsgeile bestuurders, gedreven door lobbyisten en dus het grote geld, met beproefde technologie en concepten reeds getest op "de vijand diens bevolking", te weten: China. En je weet welke kant we opgaan ...

Het zijn juist dergelijke technologische ontwikkelingen die bepaalde "politieke, militaristische en economische mogelijkheden" vergemogelijken. Wat een zienend oog hadden sommige SciFi schrijvers en filmmakers uit de vorige eeuw ...

Overigens in Europa begint men er ook wat voor te voelen, denk aan de Revolut App alwaar je zowel een Simkaart kunt kopen, verzekeringen kunt afsluiten, sparen, beleggen, en allerlei diensten in het interne ecosysteem kunt regelen.

https://www.miquido.com/blog/super-apps-europe/

Maar goed, ik denk dat de meesten van ons zich wel kunnen vinden in het feit dat ChatControl nu niet direct iets is waar we blij van worden, noch de ontwikkeling van superapps.

Maar aangezien er een dikke laag "candij" op de hoop stront gespoten is en inmiddels opgedroogd, ziet het er uit als een ongekende mooie berg zoet ... Totdat we in ons "gekwijl" tot de kern komen van wat deze technologie binnen een context van overheden en grote spelers nu echt betekend voor klanten en ... burgers ...