Onze visie op de toekomst van AI

“Jij bent vast een AI-optimist.”

AI wordt waarschijnlijk steeds krachtiger

Als mensen ademloos opgewonden raken over de huidige ontwikkelingen in AI, beseffen ze vaak niet dat de technologie achter de laatste golf AI-hype in 2014 is uitgevonden, en dat het onderliggende principe van neurale netwerken bouwen met computers al sinds 1943 bestaat.

Sinds de eerste echte AI-gekte in de jaren 50 is het vakgebied uiteengevallen en weer samengevoegd in veel verschillende technische subdisciplines.

Kennisgrafen, adversariële systemen, self-play. En dan hebben we het nog niet eens over alle soorten AI die sindsdien zijn uitgevonden, waaronder modellen van intelligentie die vanuit eerste principes zijn afgeleid en nog in de kinderschoenen staan. AI is een enorm vakgebied met veel takken, waarvan er één (transformers) in staat blijkt natuurlijke taal om te zetten in code. Dat betekent niet dat deze tak algemeen intelligent wordt. Het is gewoon één capaciteit meer op een lange lijst.

Het ontstaan van allerlei soorten kunstmatige intelligentie valt samen met veel netwerkeffecten, en in netwerkeffecten schuilen vaak machtswetten zoals de wet van Metcalfe. Alle processen die nodig zijn om AI te maken profiteren van de schaalwetten die de andere voortbrengen. Zelfs als één optimalisatieproces tegen zijn grens aanloopt, nemen andere het over, zodat de waarde blijft stijgen en de kosten blijven dalen.

De gedachtegang is ongeveer zo:

1. Naarmate chips dichter worden (de wet van Moore) maken ze steeds meer toepassingen mogelijk.

2. Naarmate chips en de verbindingen tussen chips (denk aan CUDA) beter worden, kunnen we steeds grotere supercomputers bouwen, ÉN steeds kleinere, lichtere en efficiëntere computers voor in je hand (denk aan Apple Silicon).

3. Naarmate onze computers beter worden, worden alle sectoren die het maken van chips überhaupt mogelijk maken efficiënter: van grondstofwinning tot productie, logistiek, connectiviteit, administratie en zelfs recycling.

4. Naarmate onze apparaten informatie over de wereld vastleggen in hogere resolutie, goedkoper, langer en in grotere aantallen, ontstaat er steeds meer data. Er zijn zelfs aardverschuivingen in industriële kennisoverdracht, zoals een startup die nu optische precisielenzen maakt met processen die lijken op die voor computerchips.

5. Naarmate informatie toegankelijker wordt, worden de slimste geesten ter wereld niet langer beperkt door waar ze opgroeien, maar hebben ze toegang tot het beste lesmateriaal. Zij kunnen uitgroeien tot belangrijke spelers die in nog meer schakels van de waardeketen innoveren.

6. Al deze feedbackloops en netwerkeffecten maken AI in de loop van de tijd krachtiger.

7. Zelfs als de wet van Moore vertraagt, of zelfs stopt, doen de andere schaalwetten dat misschien niet.

8. Dus: dat AI in de komende 30 jaar ordes van grootte nuttiger wordt, is niet alleen haalbaar, het is zeer waarschijnlijk.

9. Als er een doorbraak in redeneren komt die AI zo capabel maakt als AI-onderzoekers zelf, kunnen we een intelligentie-explosie bereiken waarbij ChatGPT eruitziet als een tamagotchi.

“Denk je niet dat de vooruitgang afvlakt?”

Zelfs als transformers een grens bereiken in betrouwbaarheid, kunnen we verificatiesystemen en kennisgrafen bouwen voor feitelijke data. Als ze een grens bereiken in sample-efficiëntie, kunnen we systemen bouwen die leren vanuit eerste principes, door abstracties op hoog niveau te combineren tot nieuwe concepten.

In plaats van een transformer te trainen om het volgende token te voorspellen op een ongestructureerde trainingsset, zouden we gelaagde modellen kunnen bouwen die eerst heel basale concepten leren, zoals aanwezig versus afwezig, of elementaire logica, voordat we complexiteit toevoegen en ze trainen op taal, code, recht, kunst. Dit gebeurt al tot op zekere hoogte: een recent paper liet zien dat een variatie aan trainingsstrategieën én trainingsdata het redeneervermogen verbeterde. Zoals iemand op Twitter opmerkte (geretweet door de auteur van het paper):

Stuur de robot af en toe naar de algebrales.

Nieuwe architecturen die de foutgevoelige creativiteit van transformers combineren met symbolische solvers (bijvoorbeeld het antwoord wiskundig controleren) leiden tot intelligenties die effectiever zijn dan de som van hun delen.

Al met al: denken dat verder verkennen niet genoeg zal zijn om ons in een toekomst te brengen die flink door AI wordt ontwricht, lijkt me een slechte gok.

Natuurlijk is een plateau mogelijk. Ik denk dat een Butleriaanse Jihad in de stijl van Dune ook mogelijk is. In mogelijkheden denken hoeft niet te betekenen dat je een absolute positie inneemt. Het is vruchtbaar om veel mogelijke toekomsten te overwegen en daarop te plannen. In het huidige klimaat lijkt plannen voor superintelligentie verstandig.

“En waar staan we dan?”

In alle toekomsten is het belangrijk dat we manieren vinden om de voordelen van machine-intelligentie te benutten zonder dat de nadelen de overhand krijgen. Hoe doen we dat? Hoe ziet een toekomst met Artificial Super Intelligence (ASI) eruit? Ik geloof dat, naarmate AI steeds meer expert- en specialistenrollen overneemt, de belangrijkste taak die voor mensen overblijft zal zijn: verantwoordelijkheid nemen.

Stel je voor: iemand zet een zwerm autonome AI-robots in die een regenwoud verandert in een houtopslag. Diezelfde robots hadden ook bomen kunnen planten of bedreigde soorten kunnen beschermen. Het was iemand, of een groep mensen met een zekere morele verantwoordelijkheid, die dat besluit nam. Als de samenleving ecologisch erfgoed en het recht op leven van niet-menselijke wezens meer waardeert dan wat hardhouten meubels, dan moeten de verantwoordelijken ter verantwoording worden geroepen.

Hoe moeten ze ter verantwoording worden geroepen? Waarvoor? Dat is aan ons om te bepalen.

We zien deze dynamiek al in grotere organisaties, waar sommige mensen zich uitsluitend richten op beslissingen nemen en (idealiter) verantwoordelijkheid dragen, terwijl anderen gespecialiseerde rollen vervullen. Naarmate AI vordert, neemt het waarschijnlijk veel van die gespecialiseerde functies over, zodat mensen zich kunnen richten op de grote beslissingen die machines niet kunnen of niet zouden moeten nemen.

Maar wat betekent het voor mensen om verantwoordelijkheid te nemen in een wereld die door AI wordt gestuurd? Ik denk dat het neerkomt op een paar kernpunten:

1. Bepalen waarvoor we verantwoordelijkheid willen nemen: welke projecten, doelen en uitkomsten willen we sturen?

2. Waardesystemen opbouwen en onderhouden: welke ethische principes en prioriteiten moeten onze beslissingen en de AI-systemen die we maken sturen?

3. Beslissen met wie (of wat) we samenwerken: met welke AI-systemen, menselijke organisaties en andere partijen gaan we in zee om onze doelen te bereiken?

4. Duidelijke doelstellingen bepalen: welke concrete doelen streven we na, en hoe meten we voortgang en succes?

In een wereld waarin meerdere groepen verantwoordelijkheid nemen voor verschillende dingen, met verschillende waardesystemen en prioriteiten, worden coördinatie en conflictoplossing cruciaal. We kunnen niet naar geweld of manipulatie grijpen om onze zin te krijgen. In plaats daarvan hebben we robuuste democratische processen nodig om met meningsverschillen om te gaan en gemeenschappelijke grond te vinden. Fractale processen, waarin druk van bovenaf en van onderaf samen een landschap van prikkels voor samenwerking vormen, zijn misschien de sleutel: misschien bewaakt een door de staat beheerde intelligentie de grenzen voor kleinere modellen, terwijl juist de kleinere netwerken het grotere samenwerkingsnetwerk legitimiteit en kracht geven.

Dit wordt niet makkelijk. Er zijn risico's op machtsongelijkheid, corruptie en verlamming. We zullen systemen moeten ontwerpen die ruimte laten voor uiteenlopende standpunten en tegelijk effectieve besluitvorming mogelijk maken. AI zelf kan hier een rol spelen, door ons beter in staat te stellen weloverwogen keuzes te maken, mogelijke uitkomsten te modelleren en democratische processen op grote schaal uit te voeren. De kern blijft menselijk oordeel en menselijke verantwoordelijkheid. Hoe geavanceerd onze AI ook wordt, we kunnen onze morele verantwoordelijkheid niet uitbesteden. Uiteindelijk ligt de verantwoordelijkheid bij ons.

De missie van dembrane

We hebben altijd gezegd dat we het democratische membraan voor de slimme organisatie bouwen. ASI die onze waarden niet deelt of zelfs niet begrijpt, is slecht nieuws. Dat staat vast. In elk toekomstscenario hebben we de morele plicht om een platform te maken waarop mensen samenkomen, hun morele verantwoordelijkheid delen, zorgen oplossen en gedeelde waarden vinden, op een vreedzame manier. We geloven oprecht dat veel verschillende AI-technieken ons daarbij kunnen helpen. Waar we nu staan is stap 0.1, en er zijn nog veel meer stappen te zetten.

Dus terwijl we bouwen aan een toekomst van kunstmatige algemene intelligentie en verder, moeten we onszelf en onze instituties voorbereiden op deze nieuwe werkelijkheid. We moeten onszelf afvragen: waarvoor willen we verantwoordelijkheid nemen? Welke waarden moeten ons leiden? En hoe kunnen we samenwerken, over uiteenlopende groepen en perspectieven heen, om onze technologische vooruitgang een positieve kant op te sturen?

Dit zijn zware vragen, maar we kunnen het ons niet veroorloven ze te negeren. De toekomst van menselijk werk en menselijke besluitvorming staat op het spel. Het is aan ons om de uitdaging aan te gaan en een nieuwe rol voor onszelf te bepalen in een door AI gestuurde wereld: als de uiteindelijke dragers van verantwoordelijkheid, die onze technologische creaties sturen naar de uitkomsten die we samen kiezen.

Het wordt niet de laatste menselijke baan. Maar het wordt misschien wel de belangrijkste. Laten we nu het gesprek beginnen over hoe we ons erop kunnen voorbereiden.