Terwijl we onze wereld steeds meer regelen met algoritmes worden de zorgen daarover ook steeds groter. Terwijl die algoritmes steeds complexer worden, wordt de kans dat daar vooroordelen ingebakken zitten ook steeds groter. Maar zolang die nog opvallen zijn ze in ieder geval nog aan te pakken.

De vreemde resultaten van het algoritme dat Goldman Sachs bij de Apple Card gebruikt hebben in ieder geval wel de aandacht getrokken, en hoe. Het begon met een tweet van David Heinemeier Hansson, onder andere bekend als de man achter Ruby on Rails. In die tweet is hij duidelijk pissig dat hij 20 keer meer krediet krijgt op zijn Apple Card dan zijn vrouw, terwijl zij zo’n beetje alles delen.

https://twitter.com/dhh/status/1192540900393705474

Na die tweet verstuurden nog een heleboel anderen tweets over hetzelfde onderwerp. En dat trok de aandacht, onder anderen van Apple’s mede-oprichter van Steve Wozniak. Ook in dat huishouden wordt alles gedeeld, maar Steve kreeg tien keer zoveel krediet van Goldman Sachs op zijn Apple Card dan zijn vrouw.

https://twitter.com/stevewoz/status/1193422616016519168

Ook bij Goldman Sachs hebben ze inmiddels door wat er aan de hand is, in de tweet hieronder kan je de eerste reactie van de bank lezen, waarin ze duidelijk maken dat ze beslist niet op gender discrimineren. Prachtig, maar kennelijk is de praktijk in dit geval een stuk weerbarstiger dan de theorie.

https://twitter.com/gsbanksupport/status/1193703266003177472

Inmiddels heeft Carey Halio, de CEO van Goldman Sachs, zelf gereageerd. Hij herhaalt nog eens dat de bank beslist niet op gender discrimineert. Hij vertelt verder dat de bank met een derde partij nog eens gekeken heeft naar het algoritme. En hij komt met een mogelijk andere verklaring: als een partner later aan een account is toegevoegd heeft de bank mogelijk veel minder historische gegevens daarvan, wat een verklaring zou kunnen zijn voor de lagere kredietwaardigheid.

https://twitter.com/gsbanksupport/status/1194022629419704320



Bereik MacFreak’s 85.000 maandelijkse bezoekers met sponsoring, advertorials of pagelinks.
Reach MacFreak’s 85.000 monthly visitors through sponsoring, advertorials or pagelinks.