Is het algoritme achter de Apple Card seksistisch?
geplaatst: 12 november 2019 - 10:26
https://www.macfreak.nl/modules/news/images/AppleCard-icoon.jpg
Is het algoritme achter de Apple Card seksistisch?
Terwijl we onze wereld steeds meer regelen met algoritmes worden de zorgen daarover ook steeds groter. Terwijl die algoritmes steeds complexer worden, wordt de kans dat daar vooroordelen ingebakken zitten ook steeds groter. Maar zolang die nog opvallen zijn ze in ieder geval nog aan te pakken.

De vreemde resultaten van het algoritme dat Goldman Sachs bij de Apple Card gebruikt hebben in ieder geval wel de aandacht getrokken, en hoe. Het begon met een tweet van David Heinemeier Hansson, onder andere bekend als de man achter Ruby on Rails. In die tweet is hij duidelijk pissig dat hij 20 keer meer krediet krijgt op zijn Apple Card dan zijn vrouw, terwijl zij zo’n beetje alles delen.


Na die tweet verstuurden nog een heleboel anderen tweets over hetzelfde onderwerp. En dat trok de aandacht, onder anderen van Apple’s mede-oprichter van Steve Wozniak. Ook in dat huishouden wordt alles gedeeld, maar Steve kreeg tien keer zoveel krediet van Goldman Sachs op zijn Apple Card dan zijn vrouw.


Ook bij Goldman Sachs hebben ze inmiddels door wat er aan de hand is, in de tweet hieronder kan je de eerste reactie van de bank lezen, waarin ze duidelijk maken dat ze beslist niet op gender discrimineren. Prachtig, maar kennelijk is de praktijk in dit geval een stuk weerbarstiger dan de theorie.


Inmiddels heeft Carey Halio, de CEO van Goldman Sachs, zelf gereageerd. Hij herhaalt nog eens dat de bank beslist niet op gender discrimineert. Hij vertelt verder dat de bank met een derde partij nog eens gekeken heeft naar het algoritme. En hij komt met een mogelijk andere verklaring: als een partner later aan een account is toegevoegd heeft de bank mogelijk veel minder historische gegevens daarvan, wat een verklaring zou kunnen zijn voor de lagere kredietwaardigheid.




Bereik MacFreak’s 85.000 maandelijkse bezoekers met sponsoring, advertorials of pagelinks.
Reach MacFreak’s 85.000 monthly visitors through sponsoring, advertorials or pagelinks.
geplaatst door: Robert