“Je moet een AI-optimist zijn.”

AI zal waarschijnlijk steeds capabeler worden

Wanneer mensen ademloos praten over de huidige ontwikkelingen in AI, realiseren ze zich vaak niet dat de technologie die verantwoordelijk is voor de nieuwste golf van AI-hype in 2014 is uitgevonden, en dat het onderliggende principe van het bouwen van neurale netwerken met computers sinds 1943 bestaat.

Sinds de eerste echte AI-gekte in de jaren 50, heeft het veld zich gesplitst en samengevoegd tot veel verschillende technische subdisciplines.

Kennisgrafieken, adversariële systemen, zelflerende systemen. Dat raakt niet eens aan alle verschillende soorten AI die sindsdien zijn uitgevonden, inclusief modellen van intelligentie afgeleid van eerste principes en nog in hun kinderschoenen. AI is een enorm studieveld met veel takken, waarvan één (transformers) is opgekomen als de mogelijkheid om natuurlijke taal om te zetten in code. Dat betekent niet dat deze tak algemeen intelligent zal worden. Het is slechts een mogelijkheid die wordt toegevoegd aan een lange lijst.

De creatie van allerlei soorten kunstmatige intelligentie valt samen met veel netwerkeffecten, en die netwerkgebeurtenissen hebben de neiging om schaallaws zoals Metcalfes wet te verbergen. Alle processen die nodig zijn om AI te creëren profiteren van de schaallaws die worden geproduceerd door de anderen. Zelfs als één optimalisatieproces zijn limiet bereikt, nemen anderen het over om de waarde verder te verhogen en de kosten te verlagen.

De gedachtegang is ongeveer als volgt:

1. Naarmate chips dichter worden (Wet van Moore) maken ze steeds meer gebruiksmogelijkheden mogelijk.

2. Naarmate chips en chipconnectiviteit (denk aan CUDA) beter worden, kunnen we steeds grotere supercomputers maken, EN steeds kleinere, lichtere en efficiëntere handheld computers (denk aan Apple Silicon).

3. Naarmate onze computers verbeteren, worden alle sectoren die het mogelijk maken dat chips überhaupt worden gemaakt efficiënter. Van grondstofwinning tot productie, logistiek, connectiviteit, administratie en zelfs recycling.

4. Naarmate onze apparaten om informatie over onze wereld vast te leggen dit doen met hogere resoluties, goedkoper, langer en in grotere aantallen, wordt steeds meer data gecreëerd. Er zijn zelfs seismische momenten van industriële kennisoverdracht, zoals hoe een startup nu precisie optische lenzen maakt met vergelijkbare processen gebruikt om computerchips te maken.

5. Naarmate informatie toegankelijker wordt, worden de slimste geesten ter wereld niet langer belemmerd door waar ze opgroeien, maar hebben ze toegang tot het beste educatieve materiaal. Ze kunnen opgroeien tot belangrijke spelers die in nog meer aspecten van de waardeketen innoveren.

6. Al deze feedbackloops en netwerk effecten vergroten na verloop van tijd het vermogen van AI.

7. Zelfs als de wet van Moore vertraagt of zelfs stopt, hoeven de andere schaallaws dat niet te doen.

8. Daarom: het is niet alleen haalbaar maar ook zeer waarschijnlijk dat AI in de loop van de komende 30 jaar orders van grootte nuttiger wordt.

9. Als er een doorbraak in redeneren komt die AI in staat stelt met de capaciteiten van AI-onderzoekers zelf, kunnen we een explosie van intelligentie bereiken die ChatGPT als een tamagotchi doet lijken.

“Denk je niet dat de vooruitgang zal stagneren?”

Zelfs als transformers een limiet bereiken in betrouwbaarheid, kunnen we verificatiesystemen en kennisgrafieken bouwen voor feitelijke gegevens. Als ze een limiet bereiken in steelefficiëntie, kunnen we systemen bouwen die leren van eerste principes, door hoge abstracties te combineren om nieuwe concepten te produceren.

In plaats van een transformer te trainen om de volgende token op een ongestructureerde trainingsset te voorspellen, kunnen we gelaagde modellen bouwen die heel basale concepten leren, zoals aanwezigheid versus afwezigheid, of basale logica eerst, voordat we complexiteit toevoegen en ze trainen op taal, code, recht, kunst. Dit gebeurt al tot op zekere hoogte: Een recent artikel toonde aan dat het gebruik van een verscheidenheid aan trainingsstrategieën evenals een verscheidenheid aan trainingsgegevens de redeneercapaciteiten verbeterde. Zoals opgemerkt door iemand op Twitter (geretweet door de auteur van het artikel):

Stuur de robot zo nu en dan naar de algebraklas.

Nieuwe architecturen die de foutgevoelige creativiteit van transformers combineren met symbolische oplosmiddelen (bijvoorbeeld wiskundige controle van het antwoord) leiden tot intelligenties die effectiever zijn dan de som van hun delen.

Al met al: denken dat voortdurende verkenning niet voldoende zal zijn om ons naar een toekomst zwaar verstoord door AI te brengen, lijkt een slechte gok.

Natuurlijk is een plateau mogelijk. Ik denk dat een Dune-stijl Butleriaanse Jihad ook mogelijk is. Denken in mogelijkheden hoeft niet te betekenen dat je je subscribeert aan een absolute positie. Het is vruchtbaar om veel mogelijke toekomsten te overwegen en dienovereenkomstig te plannen. In het huidige klimaat lijkt plannen voor superintelligentie verstandig.

“Dus waar laat dat ons?”

In alle toekomsten is het belangrijk dat we manieren bedenken om de voordelen van machinale intelligentie te benutten zonder de negatieve gevolgen te laten prevaleren. Hoe kunnen we dat doen? Hoe ziet een toekomst met Kunstmatige Superintelligentie (ASI) eruit? Ik geloof dat naarmate AI steeds meer rollen van experts en individuele bijdragers overneemt, de belangrijkste taak voor mensen zal zijn verantwoordelijkheid nemen.

Stel je voor: Iemand heeft een autonoom AI-robotleger ingezet dat een regenwoud omtoverde tot een houtzagerij. De robots hadden ook bomen kunnen planten of bedreigde diersoorten kunnen beschermen. Het was iemand, of een groep mensen met enige morele autoriteit die die beslissing nam. Als de samenleving ecologisch erfgoed en het recht op leven van niet-mensen meer waardeert dan enig hardhouten meubel, moeten de verantwoordelijken ter verantwoording worden geroepen.

Hoe moeten ze ter verantwoording worden geroepen? Voor wat? Dat is aan ons om te beslissen.

We zien deze dynamiek al in grotere organisaties, waar sommige mensen zich uitsluitend richten op het nemen van beslissingen en (idealiter) verantwoordelijkheid nemen, terwijl anderen gespecialiseerde rollen vervullen. Naarmate AI vordert, is het waarschijnlijk dat het veel van deze gespecialiseerde functies overneemt, zodat mensen zich kunnen concentreren op de hoge beslissingen die machines niet kunnen of niet mogen nemen.

Maar wat betekent het voor mensen om verantwoordelijkheid te nemen in een door AI gedreven wereld? Ik geloof dat het neerkomt op een paar belangrijke aspecten:

1. Bepalen waarvoor we verantwoordelijkheid willen nemen - welke projecten, doelen en uitkomsten willen we sturen?

2. Vaststellen en onderhouden van waardesystemen - welke ethische principes en prioriteiten moeten onze beslissingen en de AI-systemen die we creëren leiden?

3. Bepalen met wie (of wat) we willen samenwerken - met welke AI-systemen, menselijke organisaties en andere entiteiten moeten we samenwerken om onze doelen te bereiken?

4. Helder doelen stellen - welke specifieke doeleinden moeten we nastreven, en hoe zullen we vooruitgang en succes meten?

In een wereld waarin meerdere groepen verantwoordelijkheid nemen voor verschillende dingen, met verschillende waardesystemen en prioriteiten, worden coördinatie en conflictoplossing cruciaal. We kunnen niet terugvallen op geweld of manipulatie om onze zin te krijgen. In plaats daarvan hebben we robuuste democratische processen nodig om meningsverschillen te navigeren en een gemeenschappelijke basis te vinden. Fractale processen, waarbij top-down en bottom-up drukken een landschap van prikkels voor samenwerking kunnen creëren, kunnen de sleutel zijn: Misschien dwingt een door de staat gerunde intelligentie grenzen af op kleinere modellen, terwijl kleinere netwerken het grotere samenwerkingsnetwerk legitimiteit en macht geven.

Dit zal niet gemakkelijk zijn. Er zijn risico's van machtsonevenwichtigheden, corruptie en stilstand. We moeten systemen ontwerpen die ruimte bieden voor diverse standpunten en toch effectief beslissingen kunnen nemen. AI zelf kan hier een rol spelen door ons vermogen om weloverwogen keuzes te maken te verbeteren, mogelijke uitkomsten te modelleren en democratische processen op schaal te implementeren. De kern van de zaak blijft het menselijk oordeel en verantwoordelijkheid. Hoe geavanceerd onze AI ook wordt, we kunnen onze morele verantwoordelijkheid niet uitbesteden. Het eindigt bij ons.

De missie van Dembrane

We hebben altijd gezegd dat we het democratische membraan bouwen voor de slimme organisatie. ASI die onze waarden niet deelt of zelfs begrijpt, zal slecht zijn. Dat is een gegeven. In elk toekomstscenario hebben we de morele verplichting om een platform te creëren dat mensen in staat stelt samen te komen en hun morele verantwoordelijkheid te delen, zorgen op te lossen en gedeelde waarden zonder geweld te identificeren. We geloven echt dat veel verschillende AI-technieken ons kunnen helpen daar te komen. Waar we nu zijn, is stap 0.1 en er zijn nog veel meer stappen te zetten.

Dus terwijl we naar een toekomst van kunstmatige algemene intelligentie en daarbuiten bouwen, moeten we onszelf en onze instellingen voorbereiden op deze nieuwe realiteit. We moeten ons afvragen: waar willen we verantwoordelijkheid voor nemen? Welke waarden moeten ons leiden? En hoe kunnen we samenwerken, over verschillende groepen en perspectieven heen, om onze technologische vooruitgang in een positieve richting te sturen?

Dit zijn gewichtige vragen, maar het zijn vragen die we niet kunnen negeren. De toekomst van menselijk werk en besluitvorming hangt in de balans. Het is aan ons om de uitdaging aan te gaan en een nieuwe rol voor onszelf te definiëren in een door AI gedreven wereld - als de ultieme verantwoordelijkheid-nemers, onze technologische creaties richting gevend naar de uitkomsten die we collectief kiezen.

Het zal niet de laatste menselijke taak zijn. Maar het kan wel eens de belangrijkste zijn. Laten we het gesprek nu beginnen over hoe we ons erop kunnen voorbereiden.