Vertaling van het vrolijke stukje voor de zaterdagochtend met DeepL:
De onheilspellende voortekenen regenen als uit een emmer. Denk na of ga ten onder. Pas je aan of sterf. Kijk omhoog of je valt buiten de boot. En zo is het, met deze niet bepaald subtiele dreigementen, zover gekomen dat het Tijdperk van AI – Echte Idiotie, Echte Superidiotie, Recursieve Sneeuwbaleffect-Idiotie – voor de deur staat.
Verdorie, ik heb in deze openingsalinea al twee streepjes gebruikt. Dat is, zoals ze zeggen, een verraderlijk teken. Dus misschien heb ik dit essay helemaal niet geschreven. Je zou een AI-app moeten gebruiken om te controleren of het daadwerkelijk AI is, en of ik echt, of niet echt, of slechts gedeeltelijk mezelf ben. Je kunt je instincten niet meer gebruiken. Je moet de app gebruiken. Nu AI het langstreepje in bezit heeft, wat zullen toekomstige generaties dan denken van Emily Dickinson en haar voorliefde voor die streepjes? Is zij ook aan de machine gevoerd? Zullen ze minder van haar houden? Worden we geleidelijk uitgesloten van de taal? Maakt het nog iets uit?
Om redenen die meer te maken hebben met het ego van een schrijver dan met geloof, ben ik altijd gefascineerd geweest door het eerste vers van Het Evangelie volgens Johannes: „In den beginne was het Woord, en het Woord was bij God, en het Woord was God.“ Ik geloof dat dit waar is. Ik geloof dat het verstoren en aantasten van de fundamentele relatie tussen mensen en taal elke schijn van sociale samenhang zal ondermijnen.
AI is de literaire wereld binnengestormd, waardoor schrijvers, uitgevers, literaire agenten, lezers, critici, docenten en studenten het gevoel hebben dat de grond onder hun voeten wegzakt. Hoogleraren moeten nu met wantrouwen naar opdrachten van studenten kijken. Uitgevers moeten nieuwe schrijvers beoordelen als rechercheurs die een mogelijke plaats delict inspecteren. Het is moeilijk te beschrijven wat dit met lezen of leren doet. De vreugde en uitdaging van intellectuele betrokkenheid zijn vervangen door iets gesloten, bijtends en mechanisch. Een Shangri-La voor taxidermisten waarin alles wat ooit leefde, is gevild en opgezet, en je onbewogen aankijkt, met een veelbetekenende glinstering in zijn heldere, onechte ogen. Het is alsof je naar iemand kijkt en je afvraagt of het echt degene is die je denkt dat het is. Of in de spiegel kijken en je evenbeeld zien, maar weten dat het niet echt jij bent.
Na verloop van tijd zullen we misschien ook die kennis kwijtraken. Dan zullen we niet langer weten wie we zijn, of zelfs of we wel bestaan.
En wanneer dit gebeurt met een hele samenleving, een hele soort, wanneer we niet langer kunnen vertrouwen op instincten die door de eeuwen heen zijn aangeleerd en van generatie op generatie zijn doorgegeven, wanneer we ons hart niet langer kunnen vertrouwen, onze ogen of onze oren, wanneer we waarheid niet meer van leugen kunnen onderscheiden of het virtuele van het echte, wanneer de tijd instort en het verleden, het heden en de toekomst in elkaar overlopen, wanneer een miljoen talen en culturen tot een brij worden gepureerd, wanneer een eeuwenoud sociaal pact – wat de beperkingen en gebreken ervan ook mogen zijn – onherkenbaar wordt vernietigd, maken we onszelf dan kwetsbaar voor massapsychose?
Deze gedachtegang kan mij blootstellen aan beschuldigingen dat ik ten prooi ben gevallen aan de onvermijdelijke morele paniek die ontstaat wanneer we worden geconfronteerd met iets nieuws en onbegrijpelijks – dezelfde paniek die voorafging aan de Industriële Revolutie of de komst van de computer. De vraag is: is dat alles wat het is? Doormaken we slechts een ongemakkelijk overgangsmoment in de evolutie van de menselijke „vooruitgang“? Of is dit inderdaad een catastrofale breuk?
Misschien moeten we luisteren naar de mensen die deze glorieuze nieuwe technologie aan het bouwen zijn. Vorige maand nam een jonge medewerker van Anthropic, Jacob Coxon, ontslag, omdat zijn geweten hem niet toestond te werken aan een project dat de mensheid mogelijk zou kunnen vernietigen. Het beeld dat hij schetste van zijn werkplek leek min of meer op het Manhattan-project op steroïden. Maar zoals we weten, worden de wetenschappers deze keer grotendeels gedreven door winstbejag en een race om ‘als eerste te zijn’ . Wat volgde op het ontslag van Coxon was verbijsterend. De CEO’s van de grootste AI-bedrijven buitenden elkaar in hun haast om te discussiëren, het oneens te zijn of het eens te zijn met de klokkenluider die hen had ontmaskerd. Onze schermen stonden vol met video’s van die miljardair-oligarchen die ons op sombere, grafstemmen vertelden dat er een reële kans bestond dat de Machinegod die ze aan het inwijden zijn, het einde van de menselijke beschaving zou kunnen betekenen.
Nadat ze hun heerschappij over onze soort hadden gevestigd, stelden ze ons gerust dat ze hun best deden om het risico te beperken. Ze pleitten voor overheidsregulering. Hun roep om hulp duidde op een soort pathologie. Er zat iets een beetje kinky aan – een soort Tie Me Up! Tie Me Down!-sfeer. Is het dat, of is het gewoon de inherente aard van het kapitalisme? Hulpeloosheid tegenover ongebreidelde hebzucht?
De oligarchen lijken wel degelijk te geloven in hun verhaal over uitsterven – in ieder geval genoeg om voor zichzelf bunkers te bouwen aan de uiterste uithoeken van de aarde, volgestouwd met water, voedsel en munitie.
Maar uitsterven is niet wat ze de rest van ons verkopen. (Donald Trump en tech-libertariërs noemen het openlijk een hoax.) Vooruitgang, glorie en het welzijn van de mensheid vormen de kern van hun verkooppraatje. Een van hen, Peter Thiel van Palantir, is zelfs zo ver gegaan dat hij critici en voorstanders van regulering de ‘Antichrist’ noemt, die de duivel het hof maken – waarmee hij zijn bedrijf en diens ambities automatisch een goddelijke status toekent. (Ja, dezelfde persoon die, toen hem werd gevraagd of hij geloofde dat de mensheid zou moeten overleven, het beroemde antwoord ‘Ummm…’ gaf en vervolgens begon te stotteren en te mompelen.)
Het geknetter en gekraak kwam uiteindelijk tot rust langs scheidslijnen die tech-insiders bekend zijn – doemdenkers, accelerationisten, sceptici. Maar wanneer andere stemmen zich uitspreken over de reële, rampzalige schade die de AI-industrie momenteel aanricht, worden ze opzettelijk genegeerd en buitengesloten.
Interessant genoeg lijken de oligarchen zich veel meer op hun gemak te voelen bij Jacob Coxon dan bij sommige andere klokkenluiders. Ze kwamen niet in het verweer voor Meredith Whittaker, nu voorzitter van de Signal Foundation, die in 2019 ontslag nam bij Google nadat ze het contract van het bedrijf voor de ontwikkeling van machine vision-technologie voor Amerikaanse drones aan de kaak had gesteld. Zeven jaar later is die versmelting tussen de AI-industrie en de wapenindustrie voor iedereen zichtbaar. (Zie bijvoorbeeld de Amerikaanse ‘double-tap’-aanval op een meisjesschool in Minab, in het zuiden van Iran, in februari, waarbij 156 mensen, waaronder 120 schoolkinderen, omkwamen. Er werden geen excuses aangeboden, omdat niemand het had gedaan. Door machines geplande moorden gaan zonder schuldgevoel gepaard. Dit geldt ook voor Lavender, Gospel en Where’s Daddy?, de AI-systemen achter de Israëlische moordcampagne tegen Hamas-militanten in Gaza, waarbij volgens mensenrechtenrapporten de gezinswoning de basisdoeleenheid was voor de lokalisatie- en volgsystemen.)
Er was geen golf van steun van de oligarchen toen Timnit Gebru, een van de weinige zwarte vrouwen in een hoge technische functie in Silicon Valley, in 2020 door Google werd ontslagen omdat ze weigerde een onderzoeksartikel te verwijderen waarvan zij medeauteur was. Het artikel bracht de milieukosten van het trainen van grote taalmodellen (LLM’s) – waaronder die van Google – aan het licht en toonde aan hoe deze modellen blanke suprematie en vrouwenhaat uit de datasets die ze in hun geheel hadden opgeslokt, versterkten en reproduceerden. Ze waarschuwde dat deze pathologieën alleen maar zouden toenemen naarmate de modellen opgeschaald werden en moeilijker te controleren zouden worden. Haar bevindingen werden ondersteund door een andere onderzoekster, Abeba Birhane, die medeauteur was van een artikel getiteld „On Hate Scaling Laws for Data-Swamps“.
Waarom zouden Whittaker en Gebru en hun zeer specifieke beschuldigingen de oligarchen meer zorgen baren dan de profeten van totale uitsterving, zoals de tot criticus omgeschoolde AI-wetenschapper Geoffrey Hinton of Jacob Coxon? Misschien omdat de waarschuwingen van Hinton en Coxon, net als een groot vuurwerk, de sfeer wat extra spanning geven. Uiteindelijk versterken ze het machtsspel van de oligarchen, wat hen, wanneer hun bedrijven naar de beurs gaan – wat binnenkort zal gebeuren – zeer goed van pas zal komen. Hun waardering zal afhangen van hoe geavanceerd – en, in het geval van AI-wapensystemen, hoe dodelijk – hun modellen zijn.
*
Wie zijn deze miljardairs die beweren de macht over leven en dood van de mensheid in handen te hebben? Ze wekken de indruk dat ze zich al hebben losgemaakt van het menselijk ras en van deze planeet die we ons thuis noemen. Zijn het saters? Half mens, half machine? Laten we ze Cyclopen noemen – „pees”, in het meervoud. Die reusachtige, eenogige, in grotten wonende herders uit de Griekse en Romeinse mythologie. (In de eenentwintigste eeuw zijn hun grotten weelderig en zijn hun schapen mensen.)
Zie ze als één geheel. Een mutatie. De cyclopen hebben één hoofd en één bleek, onbewogen oog in hun voorhoofd, ver rechts van het midden, dat zijn geelzuchtige blik op gewone mensen richt en alleen ziet wat mijnwerkers zien in een mineraalrijk bos, of wat dammenbouwers zien in machtige, stromende rivieren. Een grondstof om te winnen, te verzamelen en op de markt te brengen. Fuck het bos. Fuck de rivier. Fuck de mens.
Maar in tegenstelling tot de zwijgzame, onhandige cycloop die we onlangs op het bioscoopscherm zagen, vertakt Cyclopes zich bij de nek in verschillende ruziënde lichamen die de indruk wekken dat ze niet met elkaar overweg kunnen, maar als het gaat om de Eindtijd – of, om precies te zijn, Eindtijdfascisme, om de titel van het prachtige nieuwe boek van Naomi Klein en Astra Taylor te lenen – is dat duidelijk wel het geval.
De uitstervingsorgie van Cyclopes leek voor veel waarnemers uit de sector een geënsceneerde voorstelling om een steeds bozer en onrustiger publiek ervan te overtuigen hoe centraal, belangrijk, onmisbaar en onomkeerbaar AI-bedrijven zijn voor de Amerikaanse economie, en voor de veiligheid en toekomst van de bevolking.
Vragen om regulering is een poging om de sector aan de staat te enten, om elk laatste sprankje daglicht tussen de overheid en deze bedrijven uit te sluiten. De oligarchen hopen dat deze regelgevende omhelzing hen de blanco cheque zal opleveren die ze zo hard nodig hebben. Want de omvang aan geld, land, water en energie die ze nodig hebben, kan alleen door de overheid worden verstrekt. Om het maar even duidelijk te zeggen: wat ze echt willen, is toestemming van de overheid om zichzelf te reguleren. Legitimiteit zonder de controle uit handen te geven.
Dit soort delicate manoeuvres moet worden uitgevoerd als een kabuki-toneelstuk. Er is een schurk nodig, een boeman, om een steeds onrustiger wordend publiek bang te maken, en om eventuele toekomstige regeringen af te schrikken die misschien niet zo kneedbaar zijn als het Trump-regime.
En dan komt, vanaf links, China ten tonele.
Om de VS te beschermen tegen de dreiging van een opkomend China, biedt Cyclopes de Amerikaanse regering een scala aan dodelijke autonome wapensystemen aan waar andere landen alleen maar van kunnen dromen, evenals de fantasie van in het laboratorium gekweekte virussen en biowapens die tot nu toe onbekend zijn in de wetenschap. Om onrustige bevolkingsgroepen in eigen land in toom te houden en op één lijn te brengen, biedt het de VS en andere bevriende regeringen bewakings- en gezichtsherkenningssystemen aan die de Israëlische Pegasus-spionagesoftware doen lijken op speelgoed. In ruil daarvoor eist het onbelemmerde kapitaalstromen en de belofte van zoveel land, water en energie als het nodig heeft om zijn gigantische datacenters en supercomputers te laten draaien.
Vertaald in directe rede klinkt het ongeveer zo: we zullen onszelf op de markt brengen als het speerpunt van de menselijke verlichting, en als de beheerder en verspreider van menselijke kennis zonder grenzen. Maar in werkelijkheid zullen we de vorm van een kaart aannemen. We zullen ons versmelten met onze natie, haar economie, haar inlichtingennetwerk en haar veiligheidsapparaat, totdat jullie ons niet meer van jezelf kunnen onderscheiden. Behalve dan wat onze banksaldi betreft. In ruil daarvoor mogen jullie doen alsof jullie ons reguleren, totdat we onze missie om de maan en de ruimte te koloniseren hebben volbracht. Geen grenzen, geen angsten. Dan zullen we de ladder wegschoppen die jullie ons zo vriendelijk hebben geleend. We hoeven jullie niet eens te vervangen. Jullie zullen simpelweg niet meer bestaan. Wij zullen jullie bevolking, jullie steden, jullie communicatie, jullie financiële systemen, jullie rechtbanken, jullie leger en jullie politie besturen. Als wij het niet zijn, zal China jullie besturen.
Deze pleidooien van de grote, in de VS gevestigde AI-bedrijven voor overheidsregulering dienen ook om concurrentie door kleinere spelers uit te sluiten, zodat wanneer internationale verdragen over AI worden ondertekend (zoals dat moet gebeuren), alleen zij – het handjevol „gereguleerde“ bedrijven – in de ring zullen staan.
De versmelting tussen bedrijven en landen is in volle gang. De wetenschap achter AI mag dan nieuw zijn, maar de manier waarop ze ons wordt opgedrongen is net zo oud als het kolonialisme zelf. In India hebben we een geschiedenis van kolonisatie door een bedrijf. En ja, onze heersende klassen hebben hen uitgenodigd, net zoals de Amerikaanse machthebbers dat nu doen. De Oost-Indische Compagnie werd uiteindelijk overgenomen door de Britse kroon. Nu gebeurt het natuurlijk in omgekeerde richting. Een groot deel van de Indiase infrastructuur is in handen van twee conglomeraatbedrijven, de Adani Group en de Reliance Group, die beide klaar staan om de AI-oceaan in te duiken.
Cyclopes maakt zich op om de Amerikaanse staat over te nemen. Dit is Alex Karp, CEO van Palantir: „Ik denk dat het belangrijkste risico voor Palantir, Amerika en de wereld een regressieve manier van denken is die onze instellingen corrumpeert en uitholt.” Hij ergerde zich aan analisten die suggereerden dat Palantir overgewaardeerd was. (Ik bedoel, hoe kun je het in je hoofd halen om een ‘God’ te ‘waarderen’?) Hij reageerde daarop met wat van die kenmerkende, coole, rijke-man-achtige humor: “Ik vind het een geweldig idee om een drone te regelen en lichte, met fentanyl vermengde urine te laten spuiten op analisten die ons hebben proberen te naaien.”
En dit is, zoals bekend, Sam Altman, nu werkzaam bij OpenAI, die tegelijkertijd erkent dat AI de mensheid wellicht via een kortere weg naar de hel leidt: „… maar in de tussentijd zullen er geweldige bedrijven ontstaan dankzij serieuze machine learning“. Of wat dacht je hiervan, van Marc Andreessen – de ultra-accelerationist die volledig op één lijn zit met Trump en hetzelfde superhoge IQ lijkt te hebben? „Technologie moet een gewelddadige aanval zijn op de krachten van het onbekende, om ze te dwingen voor de mens te buigen… Wij zijn geen slachtoffers; wij zijn veroveraars.”
2.
Er zijn verschillende varianten van de Apocalyps, en de daarmee gepaard gaande ellende, waarmee mensen te kampen hebben. Er is het angstaanjagende verhaal over uitsterven. Er is de versie waarin we worden onderworpen door een soort die intelligenter is dan wijzelf. (Om de gevolgen hiervan te begrijpen, denk eens na over wat we hebben aangedaan aan de andere soorten waarmee we onze planeet delen; dat maakt uitsterven bijna aantrekkelijk.)
En dan is er nog de bezorgdheid vanuit de wereld van niet-technische mensen – klimaatactivisten die radeloos zijn over de CO₂-voetafdruk van de AI-industrie; studenten en werknemers die massale werkloosheid en een onzekere toekomst zien; kunstenaars, muzikanten en schrijvers, zoals ikzelf, die de centrifugale werveling kunnen voelen die het kloppende hart uit onze lichamen zuigt en de stalen draden van maatschappelijke controle samenbrengt tot één gebalde, mechanische vuist.
Hoe moeten we hierop reageren? Door op te roepen tot regelgeving? Hoe leg je een industrie aan banden die Francis Ford Coppola’s Apocalypse Now – inclusief racistische clichés – doet lijken op een actualiteitenreportage?
Cyclopes is kolonel Kurtz, een oudere ex-marinier die gek is geworden door de wreedheden van de oorlog en die heerst over zijn ontregelde, met bloed doordrenkte, door drugs verpeste rijk en zijn inheemse onderdanen in het Hart van de Duisternis (overgeplant van Conrads Afrika naar Coppola’s Vietnam). De instructie van de hoogste leiding van het Amerikaanse leger aan de jonge officier die is gestuurd om de opstand van zijn collega-marinier te beëindigen, is ondubbelzinnig: „Beëindig met uiterste vooringenomenheid.“
Wat zou onze slogan moeten zijn? Reguleren met uiterste vooringenomenheid? Misschien. Hoewel ik eerlijk gezegd niet weet wat dat betekent, of hoe dat eruitziet.
Het voelt een beetje als dat moment vlak voor de tsunami in 2004. Weet je nog hoe in Thailand en Indonesië de oceaan zich terugtrok van de kustlijn? Mensen renden naar buiten om zich te verwonderen over de mijlenlange ongerepte nieuwe strandstrook die plotseling tevoorschijn kwam, zonder te beseffen dat zich ver op zee een muur van water aan het opbouwen was die over hen heen zou komen beuken. We bevinden ons nu in dat moment. Een torenhoge muur van domheid staat op het punt ons te overspoelen.
Het spoor van verrukkelijke kruimels op het glinsterende zand lokt ons steeds dieper de oceaan in. Het onthult magische schatten, met edelstenen versierde schelpen en geheime kastelen die een eeuwigdurende huwelijksreis beloven, of een ‘geldhuwelijksreis’, als je dat liever hebt. Raap die schelpen op en verwonder je over wat ze voor je kunnen doen. De lelijke naam ervoor is ‘consumententoepassingen’. Ze kunnen je moeder, geliefde, therapeut of dokter zijn. Ze kunnen binnen een minuut romans voor je schrijven, in de stijl van jouw keuze, en die vertalen naar elke taal die je maar wilt. Ze kunnen je films monteren, je muziek componeren, je onderzoek doen en je juridische documenten opstellen. Wat ze op medisch gebied kunnen doen, is niets minder dan een wonder. (Het zal niet voorkomen dat de armen blijven sterven aan cholera, malaria en tuberculose, of simpelweg aan honger en armoede.) Ze beloven je ook onmiddellijke gerechtigheid, onderwijs en democratie via je telefoon. Als je de andere kant opgaat, kunnen ze je nazigroet verbeteren en je bewapenen met een mentale kettingzaag. Wat is er niet leuk aan? Hoe kun je dit weerstaan? En waarom zou je dat moeten doen?
Ondanks al het gepraat over AI en autoritarisme: is het niet zo dat enkele van onze beste, meest geliefde antifascistische YouTubers en onvermoeibare activisten (zeker in India), met samen tientallen miljoenen abonnees, toegewijde voorstanders van AI zijn? Of dat de Gen-Z-‘Kakkerlakkenopstand’ tegen de regering-Modi, die als regen op uitgedroogde aarde over ons neerdaalde, voortkwam uit de meest verrukkelijke, oneerbiedige AI-video’s?
Dat is zo.
Maar wanneer de dreigingsanalyse echt gevaar aangeeft, kan dat venster in een oogwenk dichtgeslagen worden. Terwijl ik dit schrijf, tijdens wat ‘Seizoen 2’ van de ‘Cockroach’-protesten in Delhi wordt genoemd, is het internet in mijn buurt afgesloten. Tijdens andere protesten in staten als Kasjmir en Manipur heeft de Indiase regering internetafsluitingen bevolen die maandenlang duurden.
*
Cyclopes houdt de Machinegod, die nog in de kinderschoenen staat, in zijn bloedeloze armen omhoog en nodigt ons uit om voor hem te buigen. Vertrouw op Hem en geef Hem alles wat je hebt, en in ruil daarvoor zal Hij je Zijn schitterende spektakel schenken.
Kolonisatie komt altijd met glanzende geschenken. Maar AI is een vorm van kolonisatie die maar weinigen van ons zich zelfs maar kunnen voorstellen. Het is de eindbestemming van het kapitalisme.
Cyclopes schroomt nooit om het onuitgesprokene hardop te zeggen.
Hier is nogmaals Peter Thiel, voorzitter van Palantir: „De oorspronkelijke visie bij de oprichting was dat we technologie zouden gebruiken om de hele wereld te veranderen, om het monetaire systeem van de wereld omver te werpen… We zouden nooit een verkiezing kunnen winnen… omdat we zo’n kleine minderheid vormen. Maar misschien zou je de wereld wel eenzijdig kunnen veranderen, zonder voortdurend mensen te hoeven overtuigen, smeken en bedelen bij mensen die het nooit met je eens zullen zijn.”
En hier is Shlomo Kramer, CEO van het Israëlische technologiebedrijf Cato Networks: „Het is tijd om het Eerste Amendement in te perken om het te beschermen… We moeten de platforms controleren, alle sociale platforms. We moeten de authenticiteit van elke persoon die zich online uitdrukt rangschikken en op basis van die rangschikking controle uitoefenen over wat ze zeggen.”
Dit recht, deze rijkdom, deze macht, deze arrogantie, is hun niet door God gegeven. Het is ons ontnomen.
3.
Om zijn Machinegod te trainen, moet Cyclopes alles wat de menselijke beschaving ooit heeft bereikt, leegplunderen en opslaan. Het wil de cumulatieve verworvenheden – de vrucht van de gezamenlijke arbeid van miljoenen van ons, gedurende duizenden jaren, waaronder literatuur, kunst, muziek, wiskunde, schaken, academisch onderzoek – alles – massaal overbrengen naar bedrijfsbezit. Het zal deze kennis opslaan, manieren vinden om deze te beheersen, te zuiveren, te politiseren en te bepalen wie er toegang toe heeft en wie niet. En tegen welke prijs? Laten we het de privatisering en corporatisering noemen van de geschiedenis van het menselijk streven, van de beschaving zelf. Het enige wat je hoeft te doen, is toestaan dat je ziel wordt gedigitaliseerd en omgezet in data. Wat van jou overblijft, zal menselijk slib en slijk zijn. Industrieel afvalwater.
Hier is Sam Altman weer: „We zien een toekomst waarin intelligentie een nutsvoorziening is, net als elektriciteit of water, en mensen het bij ons kopen via een meter.”
Maar is het wel echt van hen om te verkopen?
Ik ben een van de honderdduizenden auteurs wier boeken Anthropic zonder toestemming heeft gebruikt om zijn LLM te trainen. Naar aanleiding van een collectieve rechtszaak ontving ik een brief waarin mij een schikking van een paar duizend dollar per titel werd aangeboden. Dit zijn boeken waar ik mijn hele leven aan heb gewerkt en waar ik jarenlang aan heb geschreven. In de brief staat dat het bedrijf de boeken heeft gedownload van twee websites die illegale PDF’s hosten, maar “Anthropic ontkent dat het iets verkeerds heeft gedaan”. Ik krijg een claimnummer en een pincode aangeboden. Het is alsof er zonder mijn medeweten organen uit mijn lichaam zijn gehaald. Nu de machine is getraind op mijn werk, vrees ik dat ik heel binnenkort, wanneer ik schrijf – net als ikzelf – in een taal waar ik decennia lang aan heb gewerkt om die uniek van mij te maken, te horen zal krijgen dat het niet klinkt als mijn werk. Dat het in feite AI is. Wat moet ik de rest van mijn leven doen? Mijn eigen schrijfstijl ontwijken? Een nieuwe taal zoeken? Hoe moeten we dit noemen? Hart-mining? Hersenen-mining?
Leven-mining?
In haar indringende, vlijmscherpe boek Empire of AI beschrijft Karen Hao de voortdurende, meedogenloze plundering van land en hulpbronnen, en de dwangarbeid van werknemers in arme landen die voor hongerlonen zwoegen om „datavangers“ te worden en zo de dromen van Cyclopes in stand te houden. Aangezien er waarschijnlijk niet genoeg water of elektriciteit zal zijn om de enorme energiehonger van zijn bedrijven en zijn supercomputers van 100 miljard dollar te stillen, lobbyt Cyclopes agressief voor particuliere kerncentrales en het afzwakken van veiligheidsprotocollen. Als back-up worden miljarden dollars gestoken in de ontwikkeling van niet-uitputtbare bronnen van fusie-energie, zodat datacenters naar de ruimte of naar de maan kunnen worden verplaatst.
Ondertussen heeft de Indiase regering, hier op onze dierbare, armoedige oude aarde, het initiatief genomen om de vestiging van nog meer energieverslindende datacenters te verwelkomen. Zes alleen al in Visakhapatnam, waaronder een hub van 15 miljard dollar voor Google. Ze krijgen toestemming zonder dat er sprake is van enig milieutoezicht, alsof het slechts gebouwen of pakhuizen zijn. Het is een oude traditie tussen India en de VS: geef ons jullie afval, jullie giftige industrieën, jullie vergiftigde kelk. Wij zullen er zorgvuldig mee omgaan. En net als in de VS zetten activisten in India hun leven op het spel om de vergiftiging van het water en de lucht te stoppen voor de tienduizenden mensen die in de omgeving van de voorgestelde „magazijnen“ wonen.
Activisten die zich in de VS tegen datacenters verzetten, worden tegenover bouwvakkers geplaatst die een baan hebben gekregen bij de bouw van deze gigantische faciliteiten. Deze activisten, die opkomen voor lokale gemeenschappen, worden bestempeld als door het buitenland gefinancierde verraders, terroristen of linkse extremisten die banen afpakken van fatsoenlijke, hardwerkende Amerikanen die in dienst zijn bij patriottische Amerikaanse bedrijven. Mensen op deze manier tegen elkaar uitspelen is een truc die zo oud is dat hij stinkt als een lijk op het hoogtepunt van de middag. Door te zien hoe dit zich afspeelde in Kerala, de zuidelijke deelstaat van India waar ik vandaan kom, heb ik geleerd dat het niet altijd zinvol is om alles alleen door het polariserende prisma van ‘links’ of ‘rechts’ te bekijken.
Hier volgt een kort verhaal, ver verwijderd in zowel ruimte als tijd, maar dat nog steeds lessen bevat voor het heden.
Een van de eerste dingen die de eerste democratisch gekozen communistische regering van Kerala eind jaren vijftig deed, was een groot bedrijf uitnodigen om een rayonfabriek op te zetten in het noorden van de staat, stroomopwaarts van de stad Calicut aan de oevers van de rivier de Chaliyar. De industrieel beloofde dat de fabriek 3.000 banen zou opleveren en vroeg in ruil daarvoor overheidssubsidies voor grondstoffen, elektriciteit en water. De fabriek kreeg bamboe uit de nabijgelegen bossen voor één roepie per ton, terwijl bamboearbeiders – voornamelijk inheemse bevolking – het moesten kopen voor één roepie per stengel.
Toen de fabriek met de productie begon, verbruikte ze in één dag meer water dan de hele stad Calicut, waarna ze haar giftige afvalwater rechtstreeks terug in de rivier loosde. Stroomafwaarts raakte het stadswater vervuild. Vissen stierven. Duizenden vissers raakten hun broodwinning kwijt. Toen alle beschikbare bamboe was opgebruikt, gingen ze eucalyptus gebruiken. Hectaren dichtbegroeid oerbos werden gekapt voor een monocultuur van eucalyptusplantages. Duizenden bosbewoners, bamboe- en rietenwerkers verloren hun broodwinning. Maar de 3.000 fabrieksarbeiders organiseerden zich in een vakbond en bloeiden op.
Totdat, na verloop van tijd, giftige fabrieksdampen uitbraken van kanker en aandoeningen aan de luchtwegen onder de arbeiders begonnen te veroorzaken. Ze gingen in staking en eisten schadevergoeding. De industrieel bouwde een (particulier) kankerziekenhuis. De militante fabrieksarbeiders hielden sit-ins en organiseerden uitsluitingen om loonsverhogingen en andere voordelen te eisen. Ze behaalden kleine, stapsgewijze overwinningen voor zichzelf en gingen weer aan het werk.
Na een paar jaar verdween ook de eucalyptusplantage. De fabriek sloot haar deuren. De arbeiders met goede, vakbondgebonden banen gingen in hongerstaking om de heropening te eisen. Die kwam er nooit.
Dit is een dilemma – bijna een existentiële uitdaging – ook voor de ‘dataverzamelaars’ over de hele wereld.
India, met zijn enorme bevolking, is een datafeest voor de onverzadigbare honger van de Cyclopen. De allerarmsten, die in afgelegen dorpen en kleine stadjes wonen, worden ingezet om elke denkbare soort informatie te leveren die kan worden ontgonnen. Werknemers op bouwplaatsen en in fabrieken moeten werken met camera’s die aan hun hoofd zijn bevestigd, zodat AI hun bewegingen kan ontleden om de robots te trainen die hen binnenkort zullen vervangen. De arbeiders weten dat ze hun eigen graf graven, maar ze kunnen niet weigeren, omdat er massa’s mensen klaarstaan om hun plaats in te nemen. Als hun banen eenmaal verdwenen zijn, wat gaat de wereld dan doen met de miljoenen ‘overtollige mensen’, de fascistische classificatie voor degenen die de beperkte hulpbronnen van de aarde verbruiken maar geen bijdrage leveren aan de samenleving? Fascisten hebben hier al lang hun eigen genocidale ideeën over.
Cyclopes – of het Nerd Reich, zoals Gil Durán het noemt in zijn boek met die titel – heeft af en toe geflirt met een andere weg. Het speelt met horten en stoten met het idee van een universeel basisinkomen (UBI). Met andermans geld. Niet met zijn eigen geld. Hoe cool en antikapitalistisch is dat? Misschien zou het eens moeten proberen om zich een paar jaar lang te onderhouden met een maandelijkse UBI-uitkering. Misschien zou dat stap één moeten zijn in het programma ‘Regulate with Extreme Prejudice’.
Laten we dit voor de goede orde vaststellen: iedereen ter wereld zou vandaag, op dit moment, een universeel basisinkomen kunnen ontvangen als de rijkdom gelijkmatiger verdeeld zou zijn. Je hoeft de planeet niet te vernietigen om dat te doen. En trouwens, wie gaat het UBI uitbetalen? Wie beslist wie er in aanmerking komt en wie niet? Ik vraag het maar even. Misschien kunnen mensen, voortbordurend op het thema van kameraad Shlomo Kramer, worden gerangschikt op basis van hun ras, kaste, religie, geslacht, politieke opvattingen en gehoorzaamheidsquotiënt?
Of misschien kan de Indiase regering een handje helpen. Bij de onlangs uitgevoerde „Special Intensive Revision“ van de kiezerslijsten van het land zijn 130 miljoen mensen geschrapt. Bijna een tiende van de bevolking. Een flink stuk. Een beschaafde vorm van uitdunning. Zij zouden niet in aanmerking komen voor een basisinkomen, of voor welke rechten dan ook. In staten als Assam worden sommigen van hen ingezet als bouwvakkers om de enorme detentiecentra te bouwen die bedoeld zijn om mensen zoals zijzelf te huisvesten. Een regering kiest haar volk. Cyclopen controleren de regering. Keurig.
Dan is er nog de goedbedoelde democratisch-socialistische versie. Bernie Sanders wil dat het publiek – het Noord-Amerikaanse publiek in ieder geval – direct eigenaar wordt van de AI-bedrijven. Hij stelt een eenmalige belasting van 50% voor op de aandelen van de grootste AI-bedrijven, om een staatsinvesteringsfonds met onafhankelijk toezicht op te richten. Dit fonds zou naar verluidt bijna 7 biljoen dollar waard zijn, waaruit jaarlijks honderden miljarden dollars rechtstreeks aan Amerikaanse burgers zouden worden uitgekeerd, evenals aan programma’s voor gezondheidszorg, huisvesting en onderwijs. (Nogmaals: de triljoenen zijn er al. De politieke wil ontbreekt. Wat zou er veranderen?) Maar zelfs bij deze democratisch-socialistische optie zullen gegevens nog steeds uit het Zuiden – India, Afrika, Zuid-Amerika – worden weggezogen, terwijl de winsten in het Noorden blijven.
Natuurlijk moeten bedrijven voor gegevens betalen. Maar is het al zo ver gekomen? Is het verkrijgen van aandelen in de apocalyps nu onze enige optie?
*
Terwijl er zoveel discussie is over wat AI wel en niet voor mensen kan doen, wordt er te weinig gesproken over wat het met mensen doet. Studies hebben gewaarschuwd voor een verband tussen AI en cognitieve achteruitgang bij mensen. De menselijke intelligentie lijkt in verhouding tot de opkomst van kunstmatige intelligentie te zullen kelderen. Misschien zullen onze ongebruikte hersenen atrofiëren, zullen onze hoofden krimpen en zullen onze vingers veranderen in golvende, snelle tentakels.
Degenen onder ons die hun leven al in een andere wereld hebben geleefd, weten wat we verliezen. Maar hoe zit het met de generatie die op het punt staat volwassen te worden? Zal zij haar eigen taal, haar eigen gedachten, haar eigen verdriet hebben? Zal zij het recht hebben om te streven? Om te vallen? Om te falen? Om onvolmaakt te zijn? Zal zij de onmogelijke pijn en het extatische genot ervaren van het oplossen van een wiskundige vergelijking of het creëren van eigen kunst, literatuur of muziek – hoe gebrekkig ook?
De triomf van AI zal een misdaad tegen de menselijkheid zijn. Het zal onze hersenen in formaldehyde inmaken.
Het zal de wereld zoals wij die kennen vernietigen. De mannen die het promoten en er profijt van trekken, zijn zich hiervan bewust en hebben al maatregelen genomen om naar een ander rijk te vertrekken.
De oligarchen trekken luid en trots de strijdlijnen op: het is wij tegen hen. Ze suggereren, zonder met de ogen te knipperen, dat de mensheid wellicht moet sterven opdat de Cyclopen kunnen gedijen. De jonge generatie die in opstand komt om hiertegen te vechten, begrijpt dit. Ik weet dat ik eerder in dit essay heb gesuggereerd dat we „met uiterste vooringenomenheid moeten reguleren”. Maar wat ik eigenlijk over die AI-bedrijven wil zeggen, is dit: maak er met uiterste vooringenomenheid een einde aan.
Een deel van dit essay zal worden voorgedragen als lezing tijdens The People’s AI Assembly op 19 oktober in New York City.
©
Arundhati RoyMet dank aan ©Boiing voor het leuke stukje...
Gast
