Apple algemeen > Tips, nieuwtjes en mededelingen

De gevaren van AI

(1/7) > >>

puk1980:
'The Godfather of AI' verlaat Google en waarschuwt voor gevaar in het verschiet

(Original)

https://news.ycombinator.com/item?id=35771104


NOS: https://nos.nl/artikel/2473634-godfather-van-kunstmatige-intelligentie-verlaat-google-en-waarschuwt-voor-ai

doctor_apple:
(Helaas) een van de dingen die ik heb moeten leren in de informatie technologie is niet zozeer het gevaar van een zekere technologie, maar de mens als falende factor. Zij het als individu, consument, maar (soms) ook als professional of leider.

De NDA is nog niet verstreken, dus details gaan we zeker niet delen, maar ik heb genoeg bedrijven en overheden mogen bedienen in mijn carriere en de mate van idioterie, luiheid, bukken voor "den grote roerganger" in de hoop een wit voetje te mogen halen, onverschilligheid, gebrek aan kennis en soms gewoon bedrijfspolitiek.

Heb ook de gevolgen mogen zien van dit handelen, toeslagenaffaire was er slechts een van. Sommige zaken zijn nog steeds niet aan het licht, anderen veel minder erg van aard, maar over het algemeen ... Best dramatisch.

Om enkele voorbeelden te geven: implementatie van zekere analyse tools, uitdenken/implementeren van registers, koppelen van gegevens en platforms, introduceren van nieuwe diensten/producten en gaat zo maar door.

Daarbij komt ofwel big data, cloud, analyses, machine learning en (zeker tegenwoordig) vrijwel altijd kunstmantige intelligentie bij kijken ...

... en laat ik het zo formuleren: de gevolgen mogen duidelijk zijn. Of het nu gaat om een stad Rotterdam die bepaalde uitkeringsgerechtigden "proactief volgt", "proactief toezicht" voor bepaalde belastingplichten geldt, een "(potentieel) fraude classificatie systeem" betreft binnen de overheidsgelederen danwel een pensioenhoogte calculator, ziektekosten optimalisatie algoritme of het "automatisch aanpassen van de handelsprijzen".

Ik heb goede en slechte implementaties gezien. En daarbij was een gemene deler bij de slechte implementaties: de mens en diens belang.

Ik heb ambtenaren meegemaakt die moedwillig instructies uit Den Haag negeerden, kritiek inzake het gemis aan veiligheids en controle maatregelen naast zich neerlegden omwille het eigen plan alsmede melagomane karakters die bijna een spontaan orgasme kregen op het moment zij de controle en toezichtmogelijkheden als "nieuw speeltje" kregen.

Bedrijfsleven is hierin niet anders, ook dat vaak genoeg gedient. Alleen de gevolgen zijn niet overal even zichtbaar.

Het drama hierin, is dat velen "de IT" als een gegeven zien. Een voldongen feit, "het is er". Nu al bepaalt AI je maximale verzekeringsbedrag in geval van een levensverzekering, nu al bepaalt AI of je hypotheek-aanvraag in behandeling wordt genomen, AI bepaalt of een ambtenaar je thuis komt opzoeken om te toetsen of je niet fraudeert met toeslagen, AI bepaalt of je aangemerkt wordt als potentieel staatsgevaarlijk, AI bepaalt ...

... uiteindelijk de bedenker van het algoritme en ... de vaardigheid van de programmeur (of helaas diens onkunde) bepalen dit, maar goed ...

... En hierin schuilt het ware gevaar. Niet in AI, of kunstmatige instelligentie, zelf. Maar hoe dit wordt ingezet. AI wordt namelijk geprogrammeerd, en dit programmeren gebeurd aan de hand van een zekere vooringenomenheid, zij het in de vorm van het trainingsmateriaal (fraude gevallen), opgelegde regels  alsook de beslissingsmomenten en paramters. En hierin schuilt het echte gevaar.

Het gevaar van verborgen racisme, discriminatie, maaar ook van een geprogrammeerd privilege om nog te zwijgen van de politieke macht. Het klinkt wrang, maar met de huidige staat van onze wereld (xenofobie, groeiende armoede, economische terugval, verharding, wantrouwen van alles wat maar niet alternatief is) is het niet heel moeilijk voor te stellen wat de gevolgen kunnen zijn.

Jodenvervolging 2.0? Maar dan op andere gronden? Vele malen efficienter dan in de jaren 1930 mogelijk en het vernietigend effect, zonder dat er een kogel wordt afgevuurd, kan ook nog veel groter zijn.

Distopie? Weet niet, wist al jaren voor het lekken van de belangrijkste affaire in Nederland van diens bestaan. Ook de zuiderburen kennen zo hun eigen varianten en ook de oosterburen hebben niet geheel schone handen in deze. Zij het allemaal in hun eigen varianten.

Ik vind mijn werk nog steeds leuk, maar heb dus geleerd dat de mens - zeker als diens bonus of uitzicht op "beter"  (lees: promotie) aan het resultaat gekoppeld is, veelal - de falende factor is. Oftewel, hebzucht, drang naar macht, onverschilligheid en alles wat al eerder genoemd is.

Doet me denken aan een van de vele andere discussies die ik dagelijks voerde totdat mijn eigen energie op was 🤣 ... "Een klassieke ontwikkelomgeving is niet snel of dynamisch, maar hierbij is de gewone gebruiker of productieomgeving niet verworden tot een doorlopende testgebruiker/testcase. Nee doctor Apple, dat zie je verkeer: in geval van agile en devops is de gebruiker geen testgebruiker".

Wel, gelet hoe software wordt ontwikkeld heden ten dage, ben ik er echt van overtuigd dat het erin gesleten is, en wij wel degelijk zijn verworden tot testgebruikers, zie de kwaliteits issues. Het gaat om snelheid, veranderingen en nieuwe dingen te presenteren en niet zozeer top kwaliteit en gladstrijken. "dat volgt later wel". En zo ook geschiede met AI 😞 in de breedste zin des woords.

En dat is volgens mij het ware gevaar van AI. Niet AI zelf.

ouwemac:
Samenvattend: AI is het wapen.
De kogel in het hoofd is de toepassing.
De schutter is degene die het implementeert. Is hij dan de schuldige?
Of toch ook de wapenfabrikant?
Of misschien de wettenmakers?

Het maakt niet uit. Al sinds de mens rechtop ging staan en lopen speelt dit dilemma al.
Het wordt alleen maar meer.

nnsa:
https://www.rtlnieuws.nl/tech/artikel/5381514/ai-pionier-vertrekt-bij-google-om-te-waarschuwen-voor-zijn-werk?

GeorgeM:

--- Citaat van: ouwemac,  2 mei 2023 - 09:07 ---Samenvattend: AI is het wapen.
De kogel in het hoofd is de toepassing.
De schutter is degene die het implementeert. Is hij dan de schuldige?

--- Einde van citaat ---
Volgens mij mist in jouw samenvatting dat AI ook zelf de schutter en het wapen kan zijn, en (op termijn) nieuwe wapens en schutters aan kan maken.

We hadden hier op MacFreak trouwens al eerder een draadje over:
https://www.macfreak.nl/tips-nieuwtjes-mededelingen/i-tried-using-ai-it-scared-me

Navigatie

[0] Berichtenindex

[#] Volgende pagina