Opinie van de week: "Het grootste AI-risico zijn misschien wijzelf"

Onmogelijk is dat niet. Maar het is ook lang niet zeker dat AI zich zo zal ontwikkelen. Toch verschijnen er geregeld zelfverklaarde profeten die beweren dat er bijvoorbeeld 10 procent kans is dat AI de mensheid uitroeit. Zo’n cijfer klinkt indrukwekkend precies, maar als wetenschapper bekijk ik het met argwaan. Wie naar de onderbouwing zoekt, ontdekt al snel dat zulke percentages vaak meer weg hebben van persoonlijke overtuigingen dan van meetbare kansen. Soms is de methode moeilijk te onderscheiden van tarotkaarten leggen of ingewanden lezen.

AI hoeft geen eigen kwaadaardige bedoelingen te ontwikkelen om gevaarlijk te zijn. Mensen hebben die namelijk al. Cybercriminelen gebruiken vandaag al AI om kwetsbaarheden te zoeken en aanvallen te automatiseren. Fraudeurs kunnen stemmen en beelden namaken. Propaganda kan nu op immense schaal worden geproduceerd. Ook militaire toepassingen en massale monitoring van worden toegankelijker. Daar is geen superintelligentie voor nodig. Dat gebeurt vandaag al.

Volgende generatie

Sam Altman, Dario Amodei en Elon Musk lijken op pyromanen die met een jerrycan onder de arm komen uitleggen waarom we dringend strengere brandvoorschriften nodig hebben. De mensen die miljarden investeren om als eerste de volgende generatie AI te bouwen komen ons plechtig vertellen dat diezelfde wedloop gevaarlijk is. Vaak mis ik een kritische blik in de berichtgeving hierover. Misschien menen de CEO’s hun waarschuwingen oprecht. Maar hun bedrijven hebben tegelijk veel te winnen bij regels die duur, technisch en complex genoeg zijn om kleinere concurrenten uit de markt te houden.Sociale media tonen hoe weinig eigen bedoelingen een technologie nodig heeft om grote maatschappelijke schade aan te richten. In de praktijk bleek het probleem vooral te zitten in het uitbuiten van menselijke zwaktes voor commercieel gewin: polarisatie, desinformatie en verslaving waren geen gevolg van een kwaadaardig algoritme dat zelf ontspoorde. Het algoritme was er op gericht onze aandacht zo lang mogelijk vast te houden, terwijl mensen en organisaties leerden hoe ze dat systeem konden exploiteren.

Dat betekent niet dat we waarschuwingen over ontsporende AI moeten wegwuiven. Wel dat we onderscheid moeten maken tussen wat mogelijk is en wat al bewezen is. Een centraal idee in veel doemscenario’s is recursive self-improvement. Zodra een AI-systeem slim genoeg wordt om betere AI-systemen te ontwerpen, zo gaat de redenering, ontstaat een zichzelf versterkende lus. Een slimmer systeem bouwt een nog slimmer systeem, dat vervolgens weer een beter systeem bouwt.

Maar daarin zit een belangrijke aanname verborgen: dat iedere verbetering het systeem ook beter maakt in het vinden van de volgende verbetering. Dat weten we helemaal niet. AI kan vandaag al code schrijven en helpen bij het ontwikkelen van andere AI-modellen. Maar daaruit volgt niet automatisch dat dit proces onbeperkt kan blijven versnellen.De huidige AI-boom is vooral gebaseerd op schaalvergroting. Maar opschalen is niet altijd voldoende. Een auto wordt geen vliegtuig door er een steeds krachtigere motor in te leggen. Soms heb je nieuwe informatie nodig. Soms een fundamenteel ander ontwerp.

Computers

Bij AI zou hetzelfde kunnen gelden. Meer rekenkracht heeft enorme vooruitgang opgeleverd, maar het is geen natuurwet dat honderd keer meer computers automatisch honderd keer meer intelligentie opleveren. Wat er in het begin exponentieel uitziet, kan later zomaar afvlakken wanneer nieuwe data, experimenten of een andere architectuur belangrijker worden dan nog meer schaal.
En zelfs een hypothetische superintelligentie ontsnapt niet aan de wetten van de fysica. Computers hebben energie nodig. Chips moeten worden geproduceerd. Datacenters moeten worden gebouwd en gekoeld. Nieuwe wetenschappelijke ideeën moeten worden getest in de echte wereld. Een AI kan misschien in enkele seconden een briljant ontwerp voor een nieuwe kernreactor bedenken. Maar staal produceren, beton storten, machines bouwen en experimenten uitvoeren gebeurt niet in enkele seconden. Bits zijn goedkoop te manipuleren. Atomen niet.

Dat onderscheid wordt soms vergeten wanneer we spreken over een zogenaamde intelligentie-explosie. Een computer kan miljoenen ideeën genereren. Maar om te weten welke daarvan werken, bots je opnieuw op laboratoria, grondstoffen, energie en tijd. Hoe snel robotica ook ontwikkelt: tussen ons en een wereld waarin biologische wapens automatisch van de band rollen staan hopelijk nog een lange reeks van hele domme beslissingen.

Misschien komt er ooit werkelijk een systeem dat veel intelligenter is dan ieder mens en dat zichzelf steeds verder kan verbeteren. Niemand kan vandaag met zekerheid zeggen dat dit onmogelijk is. Maar onzekerheid werkt in twee richtingen. We mogen een denkbaar toekomstscenario niet behandelen alsof het een vaststaande uitkomst is. Zeker niet wanneer veel concretere problemen zich vandaag al voor onze neus afspelen.

Veiligheid

De verstandigste AI-veiligheid begint daarom niet alleen bij de vraag hoe we ooit een almachtige machine onder controle houden. Ze begint ook bij betere cyberbeveiliging, controle op toegang tot gevoelige systemen, bescherming tegen fraude en het uitwerken van een juridisch kader voor AI-systemen die zelfstandig handelingen uitvoeren. Verder mag er ook een gezonde dosis scepsis zijn tegenover persberichten uit AI-bedrijven.

AI is volgens mij vooral een versterker. Ze kan wetenschappers, programmeurs en bedrijven veel productiever maken. Maar dezelfde hefboom werkt ook voor mensen met slechte bedoelingen. Misschien moeten we ons daarom iets minder afvragen wanneer de computer besluit zich tegen ons te keren. En iets meer wat mensen ermee zullen doen voordat die computer ooit zo ver komt.