De Client Gaat Op In De Tool

Het cultiveren van de "derde ruimte" waar natuur, technologie en menselijke autonomie samenkomen.

'Humanisme' wordt geassocieerd met de bloei van wetenschap en kunst tijdens de Renaissance van de 15e en 16e eeuw, toen het cultiveren van de menselijke essentie in al zijn potentieel centraal werd gesteld, waardoor de afstompende kast van de Middeleeuwen werd gelucht en de beredeneerde gevoeligheid nieuw leven werd ingeblazen uit de Grieks-Romeinse oudheid. Tot op de dag van vandaag informeert de humanistische kijk de open samenlevingen van het moderne Westen over hun materiële vooruitgang, culturele verworvenheden en individuele vrijheden.

Maar wat zal er gebeuren met de menselijke centrale rol als onze soort van zijn voetstuk wordt gestoten door machines die intelligenter zijn dan wij, en gedecentreerd door het nederige besef dat overleven afhangt van het verkleinen van onze buitensporige voetafdruk op deze fragiele planeet?

De bankschroef van deze twee ontwikkelingen zet aan tot een heroverweging van wat humanisme in de komende toekomst zou kunnen betekenen.

De klant gaat op in de tool

De controverses van de laatste tijd over de gevaren en beloften van generatieve AI hebben opnieuw de filosofische vraag doen rijzen waar technologische soevereiniteit ophoudt en menselijke autonomie begint. Zullen de superintelligente capaciteiten van de vermeende dienaar die we hebben uitgevonden uiteindelijk onze werkelijke meester worden?

"Feit is dat de machten die de technologie lijken te gebruiken en te beheersen, in werkelijkheid min of meer onbewust worden gebruikt en erdoor worden bestuurd", merkte Giorgio Agamben, de filosoof van de biopolitiek, op in zijn presentatie op het openingssymposium van het Berggruen Institute Europe in Venetië. “Zowel totalitaire als democratische regimes delen hetzelfde onvermogen om technologie te besturen, en uiteindelijk transformeren ze zichzelf door de technologieën waarvan ze dachten dat ze die voor hun eigen doeleinden gebruikten. Waarom lijkt het zo moeilijk en zelfs onmogelijk om technologie te besturen?” hij vroeg.

Al in het midden van de 20e eeuw waren prominente denkers bang dat de menselijke autonomie aan het kortste eind zou trekken. In zijn boek “The Technological Society” uit 1954 concentreerde de Franse theoloog en socioloog Jacques Ellul zijn kritiek niet op een bepaalde technologie, maar op de “techniek” zelf, die hij definieerde als “geordende efficiëntie” – elk complex van gestandaardiseerde middelen voor het realiseren van een vooraf bepaald resultaat gericht op het bereiken van "het enige beste resultaat". Voor Ellul is "allesomvattende techniek in feite het bewustzijn van de gemechaniseerde wereld." De geprogrammeerde monopolisering van mogelijkheden maakt menselijke keuzevrijheid onbruikbaar door het te beroven van elke alternatieve competentie.

Elluls zorgen komen vrijwel overeen met Yuval Noah Harari's recentere concept van 'dataïsme', waarin het universum is geconfigureerd als een permanente reserve van 'big data', waarvan de waarde wordt bepaald door algoritmen die het voor specifieke doeleinden verwerken.

Voor medereizigers van Ellul, zoals Ivan Illich, koloniseert techniek de stemming, het ritme en de lokale kwaliteit van het gezellige leven, door de sociale technologie van instellingen van massaonderwijs tot het medisch-industriële complex. In het laatste voorzag hij de komst van "een dappere nieuwe biocratie" die individuen zou beroven van "hygiënische autonomie" en hen zou terugbrengen tot een gedepersonaliseerd immuunsysteem dat wordt beheerd door experts "van baarmoeder tot graf". Ook dit anticipeerde op de latere gedachte van Harari, die vermoedt dat de meeste mensen hun privacy zullen overgeven aan het idool van gezondheid door constant toezicht op hun lichaam door AI te verwelkomen.

Voor Illich boeien technologieën die bedoeld zijn om het welzijn en de vrijheid van mensen te verbeteren hen op een andere manier. Zoals hij het in een indringende kwinkslag verwoordde: "de klant gaat op in de tool", waardoor hij het vermogen verliest om buiten het systeem te werken.

Antropogenese is technogenese

Agamben benadert de vraag die hij stelde door te stellen dat technologie niet buiten de menselijke conditie staat. Integendeel, het is technologie die ons mens maakt. In tegenstelling tot andere lichamelijke wezens die zich aanpassen aan hun omgeving, hebben alleen mensen geprobeerd onszelf te bevrijden van de noodzaak door middel van de hulpmiddelen die we hebben uitgevonden.

Agamben citeert twee denkers over het onderwerp die tot vergelijkbare, maar symmetrisch tegengestelde opvattingen kwamen.

Lodewijk Bolk, de Nederlandse anatoom van het begin van de 20e eeuw, geloofde dat mensen hulpmiddelen hebben uitgevonden om hun zwakte in het wild te compenseren, met name de geboorte van nakomelingen die zich nog in de prematuratiefase van foetalisatie bevinden, waar de baby niet in staat is om in zijn eigen overleving te voorzien, iets ongeëvenaard onder andere zoogdieren.

Voor Bolk belemmert deze technologische verplaatsing het vitale aanpassingsvermogen en voorspelt het donkere tijden die voor ons liggen. Ruim voordat de klimaatramp aan de horizon verscheen, waarschuwde hij dat "hoe meer de mensheid vordert op het pad van de techniek, hoe meer ze dichter bij het fatale punt komt waarop vooruitgang vernietiging betekent. En de aard van de mens stopt niet voor de kloof.”

Agamben citeert ook de theorie van Paul Alsberg, een Duitse antropoloog die in de jaren dertig 'The Enigma of the Human' schreef. Hij veronderstelde dat "Het principe van de evolutie van dieren is Körperanpassung, de aanpassing van het lichaam. Het principe van de menselijke evolutie is Körperausschaltung, het uitschakelen van het lichaam door middel van kunstmatige instrumenten.”

Zoals Agamben Alsberg leest: “de deactivering van het lichaam is helemaal geen vermindering, het is integendeel een bevrijding van het lichaam van zijn natuurlijke beperkingen. "The liberation from the body is at the same time a liberation of the body." In tegenstelling tot het dier kan de mens geestelijk vrij zijn, alleen omdat de techniek hem bevrijdt van de beperkingen van zijn lichaam. Deactivering en bevrijding van het lichaam zijn één principe dat de mensheid definieert en de materiële grond vormt voor de vrijheid van de mens.”

In deze manier van denken, verre van op weg naar regressieve vernietiging, "is de mens voorbestemd om door middel van technologie en cultuur zijn vervulling en zijn triomf te bereiken."

Hoe dan ook, zoals Agamben het ziet, begrepen Bolk en Alsberg dat de menswording door middel van technologie een essentieel onderdeel is van onze evolutie. Kortom, "antropogenese is technogenese."

De menselijke drempel

De exosomatische kwaliteit van het uitvinden van hulpmiddelen om aan de noodzaak te ontsnappen, is misschien wat mensen onderscheidt, maar het vernietigt in onszelf niet de endosomatische dierlijke kwaliteit van aanpassing aan de omgeving.

"Feit is dat wat ons tot mens maakt, niet kan worden verdeeld", zegt Agamben. “Antropo-technogenese, de menswording van de mens, is niet een gebeurtenis die voor eens en voor altijd is bereikt. Het is een proces dat altijd aan de gang is, waarbij menselijkheid en dierlijkheid niet kunnen splitsen. Het dier, het levende wezen, blijft in het menselijk lichaam bestaan en kan nooit volledig vermenselijkt worden.”

Voor Agamben, "zal het exosomatische element de neiging hebben zichzelf te doen gelden ten koste van het endosomatische. Technologieën en cultuur zullen de vorm aannemen van macht en overheersing over de natuur en zullen noodzakelijkerwijs zichzelf vervangen door de natuur.” Maar dat is niet het einde van het verhaal. "De mens is geen substantie die je voor eens en voor altijd kunt definiëren, het is eerder een drempel tussen endosomatisch en exosomatisch, tussen lichaam en techniek."

Bij die drempel is er altijd een caesuur of breekpunt dat onbepaald is. "Alleen op deze drempel", concludeert Agamben, "kunnen ethiek en politiek hun juiste plaats vinden, ethiek en politiek die niet alleen de natuur willen beheersen en domineren door middel van technologie, maar veeleer de relatie tussen natuur en cultuur, lichaam en techniek onder de knie willen krijgen. Het is in deze derde ruimte tussen menselijk en niet-menselijk, lichaam en technologie, dat we ons onderzoek moeten lokaliseren.”

Katechon: het achterhouden van worden

In dit perspectief markeert de huidige klimaatcrisis een breekpunt in Agambens 'derde ruimte' waar de zoektocht naar vrijheid van noodzaak door middel van technologie tegen de planetaire grenzen aanloopt.

Bij deze caesuur wordt het adaptieve dier in de mens gedwongen te ontwaken om de gevolgen van de techniek te overleven. Peter Sloterdijk noemt dit ontwaken 'co-immunisme', het overlevingsinstinct van de soort, waarbij mensen hun exosomatische genialiteit opnieuw in evenwicht brengen met de vereisten van het lichamelijke bestaan op aarde. Voor de Duitse filosoof betekent dat een verschuiving van de 'allotechnologie' uit eerdere tijdperken, die bedoeld was om de natuur te domineren, naar een bewuste 'antropo-technologie' die co-creatief is in afstemming met de natuur.

Hoe soortaanpassing kan uitpakken voor de vrijheid van de persoon, is een open vraag waarop geen eenvoudig antwoord bestaat. In een interview met Noema tegen het einde van zijn leven speculeerde James ("Gaia") Lovelock over de mogelijkheid van een "novaceen tijdperk" waarin onstoffelijke superintelligentie de overhand krijgt naarmate de biosfeer verslechtert.

Hij mijmerde dat de menselijke beschaving dan georganiseerd zou zijn als een wespennest waar alle functies worden toegeschreven door algoritmen om geordende efficiëntie te bereiken in het gebruik van hulpbronnen als noodzakelijke voorwaarde voor het verkleinen van de ecologische voetafdruk. Zonder zo'n regeling zouden zelfs transhumanisten die hun bewustzijn naar de cloud uploaden niet kunnen overleven, aangezien machines de thermische drempel net zomin kunnen weerstaan als belichaamde geesten.

Een alternatief voor dit scenario zou een post-Antropoceen humanisme zijn dat Sloterdijk, in navolging van Martin Heidegger, 'homo humanus' noemt ~ een voortdurend waakzame staat van 'zorgzaamheid', die in de relatie tussen mens, techniek en natuur bemiddelt om te waken tegen inhumaan worden, buiten onze essentie.

Om een thuis te vinden in de derde ruimte van Agamben, is het leidende principe dat het meest geschikt lijkt voor homo humanus het oud-Griekse concept van "katechon" - bewuste terughoudendheid, of "het weerhouden van worden" dat de binding van zijn vermijdt door onze tools of door noodzaak. Technogene mensen moeten leren onze belichaming te respecteren, maar er niet door worden opgesloten. En vice versa.

Vrij naar Nathan Gardels, hoofdredacteur van Noema