Tegen de almacht van de algoritmen – Een kritische bespreking van Harari’s Homo Deus

Wees koppig en laat je niet door algoritmen inpakken, is de boodschap van Patrick Nullens. Als bevrijde mensen moeten we niet terugvallen in slavernij.

Zal de toekomstige mens door middel van nieuwe technieken zichzelf verhogen of vernietigen? Deze prangende vraag staat centraal in het boek Homo Deus: Een kleine geschiedenis van de toekomst, geschreven door de bekende Israëlische historicus Yuval Noah Harari. Dit toegankelijke boek staat in de top tien van meest verkochte non-fictieboeken van de voorbije zomer. Dat is deels te verklaren uit de thematiek. Immers, wie is er niet geïnteresseerd in onze toekomst? Geschiedenis, politiek, economie, biologie, neurologie, elektronica en informatica vloeien in elkaar over en scheppen een nieuwe leefwereld met andere bewoners. De technologie ontwikkelt zich de laatste decennia exponentieel snel. Volgens Harari, die deze ontwikkelingen schetst, ontstaat er uiteindelijk een duistere paradox: “Dezelfde technieken die mensen in goden kunnen veranderen zouden mensen ook nutteloos kunnen maken” (78). De mens wordt vaardiger, slimmer en gezonder en verdwijnt gaandeweg in de mist van zijn eigen technologie. Leidt dit tot menselijke goden, Homo Deus? Inderdaad, zegt Harari, de fortuinlijken zullen zich met behulp van neuro-technische snufjes weten te upgraden tot supermensen. Middels dit proces van human enhancement overwinnen ze hun biologische beperkingen, alsof het hierbij om ziektes gaat die ons opwaartse pad naar steeds groter geluk dwarsbomen. Nanorobots zullen werken in onze bloedbanen, cyborgs zullen onze kwetsbare organische lichamen verbinden met anorganische ‘organen’ als kunstogen, enzovoorts. Belangrijk om te beseffen, zegt Harari, is dat dit slechts voor sommigen zal gelden: de meeste mensen zullen achterblijven en worden overbodige maatschappelijke ballast, volledig vervangbaar. Een ander gelijklopend scenario, en hier wordt de paradox scherp, is dat de ontwikkeling leidt tot een exponentiële groei van Artificial Intelligence (AI), resulterend in singulariteit. Deze laatste term refereert aan het moment in de toekomst waarop computers intelligenter worden dan mensen – vanaf dat moment zullen ze zelfstandig machines kunnen ontwikkelen die weer intelligenter zijn dan de vorige, in een exponentieel versnellend tempo. De eerste superintelligente computer wordt dan de laatste grote uitvinding van de mens – vanaf dat moment is de mensheid volledig afhankelijk van het technische supernetwerk. De homo sapiens wordt vervangbaar of gaat op in het grotere transhumane geheel. Speculaties over technologische singulariteit lopen sterk uiteen en Harari waagt er zich niet aan concreet aan te geven hoe dit proces zal verlopen. Maar volgens Ray Kurzweil, de goeroe van technologische singulariteit, zal dit rond 2045 zijn. Wat Harari wél duidelijk omschrijft zijn de menselijke drijfveren die de processen van technologisering aansturen: de hang naar onsterfelijkheid en het verlangen naar geluk. Harari ziet heel scherp dat ‘geluk’ onze opperste waarde is geworden en de ultieme rechtvaardiging vormt van onze morele besluiten.

Harari schrijft meeslepend met sprekende voorbeelden en refereert voortdurend aan diepgaand en contemporain wetenschappelijk onderzoek, waarmee hij zijn relaas over de technologische ontwikkelingen ondersteunt. Harari reduceert echter de complexiteit van de relatie tussen mens en techniek en bouwt zijn argument op met een selectie van feiten die passen in zijn grote verhaal over wetenschap. De weerbarstigheid in het onder controle krijgen van bijvoorbeeld ongeneeslijke ziekten, irrationeel geweld, milieuproblemen en computercriminaliteit wordt wat geminimaliseerd. Vanuit de christelijke filosofie en ethiek wil ik kort vier fundamentele ‘kritieken’ benoemen die het grote verhaal van Harari kritisch bevragen. Niet dat ik op deze manier de antwoorden weet over hoe we ethisch met allerlei nieuwe mogelijkheden moeten omgaan. Maar de vier punten vormen een uitnodiging voor de lezer tot verdere reflectie over Harari’s toekomstscenario’s.

Een metafysica van algoritmen en data

Ten eerste hanteert Harari de metafysica van algoritmen en data. Al het zijn, ook het leven, kan worden herleid tot verzamelingen van algoritmen die data verwerken. Volgens Harari is het “… algoritme aantoonbaar het allerbelangrijkste concept van onze wereld” (95). Het algoritme is de alpha en de omega, het eerste en het laatste. Deze gedachte is niet nieuw. De antieke Griekse filosoof Pythagoras zag reeds de alomtegenwoordigheid van het getal. En ook de verlichtingsfilosoof en wiskundige Gottfried Leibniz vond dat we elk probleem moesten herleiden tot het berekenbare – via een wiskundige objectieve taak konden we dan alle intermenselijke conflicten oplossen. Algoritmen zijn geen getallen, maar eerder logische reeksen van instructies die we kunnen vertalen in wiskundige stappen en weergeven in formules en getallen. Een algoritme is niet de berekening zelf, maar de methode van berekening die in verschillende situaties kan worden herhaald. Zo is bijvoorbeeld een eenvoudig kookrecept een algoritme – en het kan best een complex algoritme zijn voor de robot die een omeletje probeert te maken. Alle leven is een som van biochemische algoritmen, dat geldt voor een bacterie, de giraf en de mens. De kern van leven is het vermogen tot dataverwerking. Ons bewustzijn is het product van neurologische processen die we steeds makkelijker kunnen manipuleren. Ook onze emoties, kunstuitingen en spirituele ervaringen zijn biochemische algoritmen die onderdeel zijn van een evolutionaire overlevingsstrategie.