'The Godfather of AI' verlaat Google en waarschuwt voor gevaar in het verschiet

(Original)

https://news.ycombinator.com/item?id=35771104


NOS: https://nos.nl/artikel/2473634-godfather-van-kunstmatige-intelligentie-verlaat-google-en-waarschuwt-voor-ai

(Helaas) een van de dingen die ik heb moeten leren in de informatie technologie is niet zozeer het gevaar van een zekere technologie, maar de mens als falende factor. Zij het als individu, consument, maar (soms) ook als professional of leider.

De NDA is nog niet verstreken, dus details gaan we zeker niet delen, maar ik heb genoeg bedrijven en overheden mogen bedienen in mijn carriere en de mate van idioterie, luiheid, bukken voor "den grote roerganger" in de hoop een wit voetje te mogen halen, onverschilligheid, gebrek aan kennis en soms gewoon bedrijfspolitiek.

Heb ook de gevolgen mogen zien van dit handelen, toeslagenaffaire was er slechts een van. Sommige zaken zijn nog steeds niet aan het licht, anderen veel minder erg van aard, maar over het algemeen ... Best dramatisch.

Om enkele voorbeelden te geven: implementatie van zekere analyse tools, uitdenken/implementeren van registers, koppelen van gegevens en platforms, introduceren van nieuwe diensten/producten en gaat zo maar door.

Daarbij komt ofwel big data, cloud, analyses, machine learning en (zeker tegenwoordig) vrijwel altijd kunstmantige intelligentie bij kijken ...

... en laat ik het zo formuleren: de gevolgen mogen duidelijk zijn. Of het nu gaat om een stad Rotterdam die bepaalde uitkeringsgerechtigden "proactief volgt", "proactief toezicht" voor bepaalde belastingplichten geldt, een "(potentieel) fraude classificatie systeem" betreft binnen de overheidsgelederen danwel een pensioenhoogte calculator, ziektekosten optimalisatie algoritme of het "automatisch aanpassen van de handelsprijzen".

Ik heb goede en slechte implementaties gezien. En daarbij was een gemene deler bij de slechte implementaties: de mens en diens belang.

Ik heb ambtenaren meegemaakt die moedwillig instructies uit Den Haag negeerden, kritiek inzake het gemis aan veiligheids en controle maatregelen naast zich neerlegden omwille het eigen plan alsmede melagomane karakters die bijna een spontaan orgasme kregen op het moment zij de controle en toezichtmogelijkheden als "nieuw speeltje" kregen.

Bedrijfsleven is hierin niet anders, ook dat vaak genoeg gedient. Alleen de gevolgen zijn niet overal even zichtbaar.

Het drama hierin, is dat velen "de IT" als een gegeven zien. Een voldongen feit, "het is er". Nu al bepaalt AI je maximale verzekeringsbedrag in geval van een levensverzekering, nu al bepaalt AI of je hypotheek-aanvraag in behandeling wordt genomen, AI bepaalt of een ambtenaar je thuis komt opzoeken om te toetsen of je niet fraudeert met toeslagen, AI bepaalt of je aangemerkt wordt als potentieel staatsgevaarlijk, AI bepaalt ...

... uiteindelijk de bedenker van het algoritme en ... de vaardigheid van de programmeur (of helaas diens onkunde) bepalen dit, maar goed ...

... En hierin schuilt het ware gevaar. Niet in AI, of kunstmatige instelligentie, zelf. Maar hoe dit wordt ingezet. AI wordt namelijk geprogrammeerd, en dit programmeren gebeurd aan de hand van een zekere vooringenomenheid, zij het in de vorm van het trainingsmateriaal (fraude gevallen), opgelegde regels  alsook de beslissingsmomenten en paramters. En hierin schuilt het echte gevaar.

Het gevaar van verborgen racisme, discriminatie, maaar ook van een geprogrammeerd privilege om nog te zwijgen van de politieke macht. Het klinkt wrang, maar met de huidige staat van onze wereld (xenofobie, groeiende armoede, economische terugval, verharding, wantrouwen van alles wat maar niet alternatief is) is het niet heel moeilijk voor te stellen wat de gevolgen kunnen zijn.

Jodenvervolging 2.0? Maar dan op andere gronden? Vele malen efficienter dan in de jaren 1930 mogelijk en het vernietigend effect, zonder dat er een kogel wordt afgevuurd, kan ook nog veel groter zijn.

Distopie? Weet niet, wist al jaren voor het lekken van de belangrijkste affaire in Nederland van diens bestaan. Ook de zuiderburen kennen zo hun eigen varianten en ook de oosterburen hebben niet geheel schone handen in deze. Zij het allemaal in hun eigen varianten.

Ik vind mijn werk nog steeds leuk, maar heb dus geleerd dat de mens - zeker als diens bonus of uitzicht op "beter"  (lees: promotie) aan het resultaat gekoppeld is, veelal - de falende factor is. Oftewel, hebzucht, drang naar macht, onverschilligheid en alles wat al eerder genoemd is.

Doet me denken aan een van de vele andere discussies die ik dagelijks voerde totdat mijn eigen energie op was 🤣 ... "Een klassieke ontwikkelomgeving is niet snel of dynamisch, maar hierbij is de gewone gebruiker of productieomgeving niet verworden tot een doorlopende testgebruiker/testcase. Nee doctor Apple, dat zie je verkeer: in geval van agile en devops is de gebruiker geen testgebruiker".

Wel, gelet hoe software wordt ontwikkeld heden ten dage, ben ik er echt van overtuigd dat het erin gesleten is, en wij wel degelijk zijn verworden tot testgebruikers, zie de kwaliteits issues. Het gaat om snelheid, veranderingen en nieuwe dingen te presenteren en niet zozeer top kwaliteit en gladstrijken. "dat volgt later wel". En zo ook geschiede met AI 😞 in de breedste zin des woords.

En dat is volgens mij het ware gevaar van AI. Niet AI zelf.

Samenvattend: AI is het wapen.
De kogel in het hoofd is de toepassing.
De schutter is degene die het implementeert. Is hij dan de schuldige?
Of toch ook de wapenfabrikant?
Of misschien de wettenmakers?

Het maakt niet uit. Al sinds de mens rechtop ging staan en lopen speelt dit dilemma al.
Het wordt alleen maar meer.

Samenvattend: AI is het wapen.
De kogel in het hoofd is de toepassing.
De schutter is degene die het implementeert. Is hij dan de schuldige?

Volgens mij mist in jouw samenvatting dat AI ook zelf de schutter en het wapen kan zijn, en (op termijn) nieuwe wapens en schutters aan kan maken.

We hadden hier op MacFreak trouwens al eerder een draadje over:
https://www.macfreak.nl/tips-nieuwtjes-mededelingen/i-tried-using-ai-it-scared-me

@GeorgeM:
Niet helemaal. Het ging mij niet om de mogelijkheden van AI maar om de doorgaande ontwikkelingen vanaf de oertijd.
Steeds opnieuw worden dingen, (al dan niet terecht), als bedreiging gezien. 

@ouwemac: klopt, en niet onterecht (zie de ontwikkeling van knotsen naar een nucleair arsenaal).

En dit keer zijn de mogelijke problemen alleen maar groter geworden, want voorgaande wapens konden niet zelf nieuwe wapens maken.

En dit keer zijn de mogelijke problemen alleen maar groter geworden, want voorgaande wapens konden niet zelf nieuwe wapens maken.

So what? Bij het ontwerpen van een nieuwe computer is het gebruik van een computer onmisbaar. Daar zit het gevaar dan ook niet in. Autonome systemen, dat is wat anders. Zeker in deze overgangstijden waarbij de ontworpen algorithmen nog zeer krakkemikkig zijn.

Soms gebeuren er dingen die we niet beschouwen als een bedreiging, maar die na verloop van tijd ineens heel bedreigend kunnen worden voor sommige groepen mensen.
Toen Napoleon Nederland binnen viel en een Burgerlijke Stand in het leven riep, zag niemand dat als een bedreiging. Sommigen zagen het als een grap en bedachten rare achternamen om zichzelf in te schrijven. Ze dachten dat het wel zou overwaaien en dan gaan we weer terug naar hoe we al honderden jaren achternamen gebruiken.

Toen de Duitsers in 1940 Nederland binnenvielen hadden we het wel heel gemakkelijk gemaakt om alle Joden te laten oppakken. Iedereen stond keurig netjes in de Burgerlijke Stand ingeschreven met hun geloofsovertuiging er bij. Dus ja, soms wordt er iets bedacht dat ook negatief kan uitwerken of bepaalde groepen tegenwerken.

AI heeft voor mij hetzelfde effect. Het kan positief of negatief gebruikt worden. Daarom vind ik het wel belangrijk om de discussie over AI gaande te houden. Misschien moet er uiteindelijk wetgeving over worden vast gelegd.
Wat willen we dat AI wel kan/mag doen en wat niet?

Een paar leuke boeken hierover gelezen van Yuval Noah Harari.

@ Tjag63: jouw conclusie is dus "soms wordt er iets bedacht dat ook negatief kan uitwerken of bepaalde groepen tegenwerken".
Ja, en? Met dergelijke vaagheden kom je niet veel verder. Het voorbeeld over de Burgelijke Stand laat zien dat het zichzelf ook zodanig kan reguleren dat er geen discussie meer over nodig is. Waarom zou dat tezijnertijd niet ook voor AI kunnen gelden?

@sluisje Burgerlijke Stand en zelf reguleren en geen discussie meer nodig?
Er zijn de afgelopen jaren vele discussies geweest over registreren, privacy en wat je er wel en niet mee mag doen.
Lijkt me niet meer dan logisch dat dat tezijnertijd ook voor AI zou kunnen gelden.

Ik denk niet dat het vaag is om na te denken over welke invloeden we niet willen van Ai, als dat überhaupt mogelijk is...

Even een reactie die mogelijk niet in deze diskutie thuis hoort, maar wel betrekking heeft op o.a automatisatie,  ik ga jaarlijks op controle bij specialist dermatoloog, mijn huisarts waarschuwt me dat ik toch dringend naar iets moet laten kijken, contact genomen met uitgegeven dermatoloog administratie, kan niet, digitale agenda is volzet, "zullen u bellen als er iemand af zegt"

Ik word gecontacteerd via anoniem nummer, kan iedereen zijn ( wijnverkoper, abonnement op weekblad, bevraging en veel andere anonieme bellers) ik neem dus niet op, tja, niet gereageerd op dermatoloog administratie, dus terug achteraan op de wachtlijst, je word blijkbaar gebeld door een computer program.

Dat is dus ook automatisatie, vermoedelijk als ik dan op jaarlijkse controle ga is de reactie "daar had u wat vroeger moeten mee komen" ja, hoe? (Uiteraard ook andere mogelijkheden gezocht en allemaal volzet) dokter studenten en andere tekorten is vermoedelijk ook het resultaat van computer berekeningen die een quota vastleggen, dit moest ik toch even onder de aandacht brengen.

@eoms Ja, dat is onvermijdelijk. Er gaat zeker op de arbeidsmarkt van helpdesk en back-office en anderen functies veel veranderen. Dus de nieuwe generatie werknemers moeten een stuk flexibeler worden, de tijd dat je jaren bij 1 bedrijf werkt is voor een een grote groep niet meer aan de orde.
En natuurlijk dit is heel vervelend voor de betreffende personen, maar het kan ook nog vervelender worden met AI...

Ik denk niet dat het vaag is om na te denken over welke invloeden we niet willen van Ai, als dat überhaupt mogelijk is...

Het water (vergelijk AI) in een stromende rivier laat zich ook niet reguleren...

Hier is al jaren (achter de schermen) aan gewerkt.

En nu is de geest uit de fles... en de ene AI is de andere niet.

Het water (vergelijk AI) in een stromende rivier laat zich ook niet reguleren...

Misschien is er wel regulering mogelijk?
Rivieren worden ook gereguleerd zei het niet door bevers en andere dieren dan wel door de mens.
Als we Apple zover kunnen krijgen dat die in Europa alle apparaten van een USB C aansluiting voorziet...
Moet er vast ook iets mogelijk zijn met regulering van AI, als "we" dat willen/noodzakelijk vinden.

@sluisje Burgerlijke Stand en zelf reguleren en geen discussie meer nodig?
Er zijn de afgelopen jaren vele discussies geweest over registreren, privacy en wat je er wel en niet mee mag doen.

Aha, je trekt je opmerking over de Burgelijke Stand hiermee veel breder. Wil je er een discussie over registratie en privacy van maken?

@nnsa, grappig om het in verband met regulatie over water en rivieren te hebben. In een discussie over AI raakt dat m.i. kant noch wal. 

Moet er vast ook iets mogelijk zijn met regulering van AI, als "we" dat willen/noodzakelijk vinden.

Men is druk bezig met bangmakerij. Er zullen inderdaad dingen gaan veranderen door het toepassen van AI. Dat is nu al zo. Maar is dat voornamelijk ten kwade? Of zijn we gewoon bang voor veranderingen?

@nnsa, grappig om het in verband met regulatie over water en rivieren te hebben. In een discussie over AI raakt dat m.i. kant noch wal. 

Inderdaad, zeker nooit van beeldspraak gehoord c.q. van water naar de zee dragen... ? 

[b.t.w. ik denk dat er van jou in de discussies meer kant nog wal raakt dan van mij]

Hee uuuh laten we de discussie wel leuk houden @sluisje en @nnsa
En open staan over elke discussie over AI, want het is een verdomd leuk onderwerp.
We weten bij god niet waar het naar toe kan leiden!

Net als internet onze wereld heeft veranderd gaat AI dat ook doen.
We gaan echt een nieuwe wereld creëren.

En welke kant willen we op?

Nederlandse versie van het bericht in de OP.
https://tweakers.net/nieuws/209274/deeplearningpionier-geoffrey-hinton-verlaat-google-wil-waarschuwen-voor-ai.html

En welke kant willen we op?

De kant waar het leuk en gezellig blijft.
Helaas is dat met Internet ook niet overal gelukt.

Zoals altijd zal er misbruik van gemaakt worden. Met ChatGPT gebeurt dat nu al. Daar hoeven we ons dus geen illusie over te maken.

Pogingen om het te reguleren zullen altijd achter lopen. Niets is zo inventief in het verzinnen van manieren om geld te verdienen als de mens zelf. Daar kan geen AI tegenop.

Ik word gecontacteerd via anoniem nummer, … je word blijkbaar gebeld door een computer program.

Er bestaat al heel lang zoiets als anoniem bellen. Dat betekent gewoon dat de nummer van de persoon/het bedrijf wat belt niet meegestuurd wordt. Jouw telefoon laat het dan dus niet zien. Dat heeft niets met een computer te maken, behalve dat die ergens een vinkje heeft staan dat het nummer niet meegestuurd moet worden.

De persoon die jou een (paar) keer probeert te bereiken zet jou dan handmatig achteraan op de wachtlijst.

Ik snap persoonlijk niet zo waarom mensen anonieme bellers of onbekende nummers niet opnemen. Ik heb écht niet alle nummers in mijn telefoon staan van partijen waarmee ik zaken doe als consument. Gewoon aanpakken, ophangen kan altijd, dat heb je zelf in de hand.

Tja ik werd opeens elke dag gebeld op mijn mobiel over aandelen kopen.
Eerst nam ik nog wel op, en begon een discussie over niet meer gebeld willen worden...
Dat hielp helemaal niet !
Dus dan heb je inderdaad de neiging om niet meer op te nemen.
Vooral als je aan het werk bent met je "werk".
De laatste tijd helemaal geen last meer van gelukkig...

Kennelijk ben ik "uiteindelijk" weer ergens uitgeschreven ofzo.
Ergens hadden ze mijn mobiel nr. te pakken, en is dat nu weer de verleden tijd... Haha

Je word die anonieme telefoontjes toch echt wel beu, en allemaal willen ze wat van je met "fantastische" aanbiedingen die je niet kan weigeren, eigenlijk moet ik echt heel onbeleefd gaan zijn en gewoon inhaken, maar zo ben ik niet opgevoed, misschien kan het deze tijden wel, maar dit is al ver off topic en ga me verder afzijdig houden, t'is wel leerrijk deze diskutie.