Democratische Input voor AI - Meetup in San Francisco!
OpenAI nodigde de 10 teams die werken aan het onderzoeksproject Democratic Inputs to AI uit op het hoofdkantoor van OpenAI in San Francisco. Het doel? Meer leren over de verschillende projecten en de mensen erachter ontmoeten.
Achteraf gezien was het een masterclass in hoe je een gemeenschap op gang brengt.
Een heldere missie (democratic inputs to AI)
Stimulerende prikkels (de subsidie)
Regelmatige check-ins (wekelijkse calls)
Altijd aanwezige, vriendelijke en energieke ondersteuning (bedankt Teddy, Tyna en Nathalie!)
Elkaar minstens één keer in het echt ontmoeten
Eten!
Een kans om te ontspannen en samen herinneringen te maken (bedankt Karl!)
Onzekerheid omarmen
Plannen maken voor de toekomst
De reis
We reisden met een team van 7 naar San Francisco: Pepijn & Lei (BMD) die aan de ontwikkeling van de app werken, Rolf (Drostan) die expertise in sociale deliberatie meebrengt, Rich (Sortition Foundation) die expert is in representatieve loting van burgers, Bram (JADS) die zich richt op de ethiek, en Evelien & Jorim (dembrane) als kern van het consortium.
Op donderdag om 15:00 uur liepen we naar het hoofdkantoor van OpenAI om in te checken voor het diner en de mixer. We wandelden door het zonnige Mission District van San Francisco. Blok na blok, en ineens stonden we voor een onopvallend betonnen kantoorgebouw.
Ik dacht: is dit het?
We waren wat vroeg. Het zag er rustig uit, als een vijfsterrenhotel. Vriendelijk. En toen zagen we de gezichten van mensen die we tot dan toe alleen online hadden gezien.
Ik raakte in gesprek met een medewinnaar van de subsidie. Een man uit Kenia, we praatten over zijn promotieonderzoek naar taalmodellen. Leuk! We doken bijna meteen de diepte in. De tweede vrouw met wie ik sprak, deed al jaren postdoconderzoek naar DAO's (Decentralised Autonomous Organisations). Die expertise herken je meteen!
Al snel kwamen er te veel nieuwe gezichten binnen om bij te houden. Het was als de stilte voor de storm. Met zo'n grote groep daar zijn, het voelde alsof we hier thuishoorden.
De uren daarna vlogen voorbij, gevuld met interessante gesprekken met al die verschillende mensen van vier continenten. Professionele vredeswerkers, succesvolle ondernemers, academici van de meest prestigieuze universiteiten, democratische activisten, journalisten van een nieuwsorganisatie die de Nobelprijs voor de Vrede won, meerdere OpenAI-medewerkers waaronder een van de oprichters, en nog veel meer bijzonder deskundige, interessante en aardige mensen. Allemaal verbonden door minstens één gedeelde interesse: nieuwe democratische processen verkennen om AI te alignen en een betere toekomst mét AI te waarborgen.
Iedereen was zo vriendelijk, geïnteresseerd, enthousiast en open om te praten. We voelden ons al snel op ons gemak en thuis. Na een heerlijk diner dwong de jetlag ons vrij vroeg naar huis, met volle hoofden. Jorim, Pepijn, Lei en Bram bleven nog even op om te werken aan de presentatie voor het Frontier Model Forum.
De volgende dag begon om 8 uur met een rustig ontbijt, een goede basis voor de volle dag die zou volgen. Van 9 tot 12 uur was er een presentatiesessie waarin alle teams hun werk in 10 minuten presenteerden, met daarna tijd voor een paar vragen per presentatie. Naast alle teams schoven meerdere geïnteresseerde OpenAI-medewerkers aan, en geïnteresseerde medewerkers van Google, Anthropic en Microsoft keken online mee. Het was verhelderend om de andere teams over hun werk te horen, en deze presentaties gaven ons veel meer inzicht in hoe de verschillende projecten elkaar kunnen versterken en gecombineerd kunnen worden tot grotere democratische processen. Ik vind dat Jorim onze presentatie geweldig deed!
Na de lunch doken we de technische details in. Teams splitsten op en kwamen weer samen. Dit was het moment voor mensen met interesse in vergelijkbare aspecten van democratische processen om dieper op hun onderwerpen in te gaan. Er waren presentaties over het proces en de gedachte achter Pol.is, Community Notes van X en het inclusieve consultatieproces van vTaiwan, en een discussiesessie over de fundamentele waarden en doelen onder dit project.
Tijdens de lunch sprak ik iemand die werkte aan een AI om met dieren te praten! Ik had jaren geleden een vergelijkbaar idee, maar dacht dat het nog wel tien jaar zou duren voor het praktisch haalbaar zou zijn. De toekomst is blijkbaar nu?!
Tijdens de workshops kwam een mooie vraag op: waarom doen we dit? Waarom bouwen we democratische processen? Andrew van Remesh had een prachtig antwoord. Licht geparafraseerd:
“Ik wil dat mensen in de toekomst zeggenschap hebben. Hoe definieer je dat? Hoe kom je daar? Daar zijn processen voor nodig. We hebben er al een paar, maar we zijn er nog niet. Niet alle mensen hebben op dit moment controle. We zijn het er allemaal over eens dat we problemen als dakloosheid of klimaatverandering liever niet hebben, maar we lijken ze niet te kunnen oplossen. We hebben betere processen en tools nodig!”
Na uren van diepgaande discussies was het tijd om even stoom af te blazen, wat we deden met een prachtige zeiltocht op de baai. Een van de groepen nam een zelfrijdende auto naar de pier: een vreemd gezicht! De golven maakten de boottocht behoorlijk spannend, Karl the Fog ontnam ons het zicht op de brug, maar dat maakte het bijna nog epischer!
In de praktijk gingen de diepgaande discussies gewoon door tijdens het zeilen, en zelfs tot laat in de avond bij een van de leden van het evaluatieteam thuis, simpelweg omdat er zoveel te bespreken was.
De vele gesprekken hebben ons begrip van de subtiele details van dit probleemgebied verdiept, en gaven een overzicht van waar nu aan gewerkt wordt of wat al gedaan is (kortom: heel veel!). We hebben ook contact gelegd met veel slimme, deskundige en aardige mensen die onze gezamenlijke democratische projecten verder kunnen helpen. En tot slot heeft het ons volop inspiratie gegeven om door te werken aan nieuwe democratische processen, voor een toekomst met AI die op ons is afgestemd. Om Abraham Lincoln vrij te citeren: Aligned AI is kunstmatige intelligentie van het volk, door het volk en voor het volk.
En San Francisco is een geweldige stad, maar dat is iets voor een andere blogpost. 🏝️
- geschreven door Bram Delisse, geredigeerd door Jorim Theuns