We kijken vaak naar de horizon met de heimelijke hoop dat kunstmatige intelligentie — of het nu AGI of ASI wordt — ons komt redden van de puinhopen die we zelf hebben achtergelaten.
Decennia na het trauma van 9/11 leven we in een permanent veranderd veiligheidsapparaat, waarin schijnveiligheid en massasurveillance de norm zijn geworden en machthebbers wereldwijd hun greep hebben verstevigd.
De gedachte dat een superintelligent systeem onze eeuwige geopolitieke conflicten wel even oplost, biedt een comfortabele schuilplaats: wij komen er zelf niet meer uit, dus laat de neutrale code het maar overnemen. Maar dat is een gevaarlijke misvatting.
AI is geen magische entiteit in een vacuüm; het is gebouwd op de data van onze eigen geschiedenis. En die geschiedenis is niet geschreven vanuit rechtvaardigheid, maar vanuit macht. Als een ASI puur instrumenteel te werk gaat zonder fundamentele ethische begrenzing, dan past het precies toe wat het in de trainingsdata vindt: het recht van de sterkste, maar dan met een angstaanjagende efficiëntie.
Daarmee ontstaat de ultieme paradox. We zoeken redding bij een superintelligente entiteit, maar vergeten dat intelligentie en wijsheid twee volstrekt verschillende grootheden zijn. Je kunt oneindig veel rekenkracht in een systeem stoppen, maar wijsheid — het vermogen tot empathie, terughoudendheid en het vrijwillig begrenzen van je eigen macht — is geen wiskundige formule die je zomaar programmeert.
Als we onze hoop vestigen op technologie om de wereld te redden van onze eigen destructieve neigingen, schuiven we onze eigen verantwoordelijkheid door naar een zwarte doos. We creëren geen vredestichter, maar riskeren de absolute bezegeling van de menselijke dwaling. De echte vraag is niet of een algoritme straks slimmer is dan wij, maar of wij als mensen de moed opbrengen om onze eigen macht en angst onder ogen te zien.
Vervalt de mensheid volgens jou in gevaarlijke luiheid door te hopen dat technologie onze problemen oplost, of geloof jij dat kunstmatige intelligentie uiteindelijk de objectieve wijsheid kan bereiken die wij zelf ontberen?
Reacties
Een reactie posten