Nederlandse Innovatiedagen

Op het Dutch Innovation Days-festival van dit jaar kregen we de unieke kans om niet alleen een keynote te geven over de mogelijkheden van democratie met AI en AI met democratie, maar ook om de nieuwste versie van onze app te laten zien: de dembrane Participation Portal.

De QR-code om het portaal te openen stond in het “Do Book”, een heel leuk boekje voor het hele festival, geschreven door de directeur van DID, Peter Oosterwijk. De app stond het hele festival aan en we namen in totaal 13 gesprekken op: van tests waarbij deelnemers de app probeerden te foppen door hem walvisgeluiden te laten transcriberen (ze kregen hem op een vermakelijke manier zover om Chinese tekens te hallucineren), tot diepgaande gesprekken met een paar van de keynotesprekers, Jaap Peters, Wendy van Ierschot en Bernhard Lenger.

De aanpak:

Het experiment liet niet alleen zien wat onze technologie kan, maar sloot ook perfect aan bij de thema's van het evenement: innovatie en maatschappelijke impact. Laten we de inzichten bekijken die we verzamelden, geordend per onderwerp:

Over de app

Gesprekken over hoe onze tool het deed op het evenement gaven waardevolle inzichten in de sterktes, zwaktes, kansen en bedreigingen (SWOT), en zetten ook discussies in gang over participatie en het betrekken van stakeholders. Dit bespraken de deelnemers:

Sterktes:

• Efficiënt ideeën verzamelen uit grote groepen

• Directe samenvatting van gesprekken

• Meer stemmen aan bod, vooral van stillere deelnemers

Een bezoeker wees op de kans voor inclusiviteit: "Je kunt het opdelen in groepen en ze allemaal in een kleinere groep laten praten, dan worden meer stemmen gehoord. Dat zou het idee zijn."

Een andere bezoeker merkte enthousiast op: "Ik vind het superefficiënt, zodat je snel veel ideeën en dingen kunt verzamelen bij een kleine groep mensen. Het kan meteen samengevat worden."

Fijn dat je er zo over denkt!

Zwaktes:

• Minder realtime interactie dan bij een gesprek in levenden lijve

• Kans dat ongepolijste gedachten worden vastgelegd

• Zorgen over privacy

• Transcriptiefouten en kans op hallucinaties

Een deelnemer maakte zich zorgen over de diepgang van het gesprek: "Ik maak me zorgen [over] de zwakte... het houdt mensen in de onrijpe gedachten... ze reageren op elkaar, maar gaan niet de diepte in." De kans op fouten werd met humor aangestipt: "Oké, nu denkt hij dat we Chinees zijn. O, leuk. Oké, dit gaat dus helemaal mis."

Kansen:

• Toepassing in burgerparticipatie en besluitvormingsprocessen

• Gebruik bij zakelijke vergaderingen en conferenties voor efficiënte verslaglegging

• Integratie met andere technologieën voor een rijkere ervaring

• Mogelijkheden om reacties en feedback in allerlei contexten te analyseren

Een deelnemer zag mogelijkheden in de politiek: "Ik heb het gevoel dat er iets is dat, wat ik begrijp is dat ze dit in de politieke hoek proberen te introduceren."

Een ander zag bredere toepassingen: "Nou, je kunt het ook zo zien, het hoeft niet altijd politiek te zijn, verkiezingen enzovoort, maar je kunt het ook op een basisniveau hebben, wat voor bijeenkomsten, op dorpsniveau, in je straat, als je een straatbijeenkomst hebt of bij je voetbalclub."

Bedreigingen:

• Mogelijk misbruik van data en schending van privacy

• Te veel leunen op AI-samenvattingen in plaats van menselijk oordeel

• Mogelijke versterking van desinformatie als er niet goed wordt gefilterd

• Verlies van werk voor notulisten en transcribenten

In een paar gesprekken kwamen zorgen over privacy naar voren: "Het voelt raar om te praten als je weet dat we worden opgenomen."

Onze reactie:

Dit soort gedachten en feedback ontvangen we graag! Het houdt ons eerlijk en bescheiden en laat zien waar we kunnen verbeteren. We kunnen met plezier melden dat er nu een taalinstelling is waarmee de host de taal van de spreker kan instellen, en we werken aan functies die mogelijke fouten markeren, zodat hosts in de data kunnen duiken en oppikken wat er tussendoor glipt.

Wat de angst voor opgenomen worden betreft: in andere tests zien we dat dit een typische reactie is bij het eerste gebruik van de app, maar mensen wennen snel aan de nieuwe situatie en vergeten binnen een paar minuten dat de app opneemt. Als startup moeten we natuurlijk nog een reputatie opbouwen die je kunt vertrouwen. Die proberen we te verdienen door zo zorgvuldig mogelijk om te gaan met de data die aan ons wordt toevertrouwd.

En de zorg dat de app geen diepere gesprekken aanmoedigt: dat is precies wat ons model wil voorkomen! Daar werken we op verschillende manieren aan:

• Een goed inzicht is niet alleen een goed antwoord, maar ook een goede vraag: daarom werken we aan tools die de interactie vergroten en de gestelde vragen stap voor stap verbeteren.

• Door sneller te itereren op het perspectief van de groep kunnen mensen dieper ingaan op wat er echt toe doet.

• Omdat onze tool zo weinig ingrijpt, blijven alle andere manieren om dieper het gesprek in te gaan gewoon beschikbaar! We hebben onze tool gebruikt in sessies met facilitators en interviewspecialisten, en zij merken allemaal op dat ze, doordat ze niet hoeven te notuleren, tijdens het gesprek beter kunnen letten op de mensen en de inhoud. Dat levert bij de analyse completere inzichten op.

Over het geheel genomen herken én koester ik de reacties die we kregen. We zijn er niet om dierbare banen te vervangen of desinformatie te versterken. We zijn er om te voorkomen dat gesprekken in kringetjes blijven draaien, door op tijd interactieve verslaglegging te bieden. We zijn er om de werklast van hoogwaardige participatie voor mkb'ers en publieke organisaties te verlichten. We zijn er om ervoor te zorgen dat elke stem die wil bijdragen wordt gehoord, en dat geen goed idee verloren gaat in stapels post-its of stapels rapporten. We willen de wijsheid van de groep toegankelijk maken voor alle gemeenschappen.

Gesprekken met keynotesprekers

In het hart van ons gesprek met Jaap Peters, Wendy van Ierschot en Bernhard Lenger kwam een fascinerende rode draad naar boven: hoe menselijke verantwoordelijkheid en besluitvorming veranderen in een wereld die steeds meer door AI wordt gestuurd. Het gesprek liep langs allerlei onderwerpen, van organisatiemodellen tot rechtssystemen, en legde de spanning bloot tussen optimaliseren voor enkelen en het welzijn van velen.

Het Rijnlandse model: decentralisatie en verantwoordelijkheid

Het gesprek begon met het Rijnlandse model, een organisatiefilosofie die scherp contrasteert met het Angelsaksische of Amerikaanse model. Jaap Peters, auteur van meerdere boeken over het onderwerp, vatte de kernprincipes bondig samen:

"Het is decentraal. Het is gebaseerd op samenwerking in plaats van, wij doen alles zelf. Het is gebaseerd op langetermijndenken in plaats van korte termijn shareholder value."

Zoals te vinden op slideshare:

Dit model draait de organisatiehiërarchie 90 graden en schuift de verantwoordelijkheid naar voren in de organisatie, zodat de mensen die het dichtst bij de actie staan de beslissingen kunnen nemen. Zoals Jaap opmerkte:

"De verantwoordelijkheid zo ver mogelijk naar voren brengen. Want hoe dichter je bij de echte tijd zit, in plaats van de geplande tijd... Hoe beter die mensen een mandaat moeten hebben om daar iets te kunnen spelen."

(Oftewel: leg de verantwoordelijkheid zo ver mogelijk naar voren. Hoe dichter je bij de echte tijd zit in plaats van de geplande tijd, hoe belangrijker het is dat die mensen een mandaat hebben om te kunnen handelen.)

De spanning: optimalisatie versus succes voor het geheel

Daarna verschoof het gesprek naar een vergelijking van het Amerikaanse en het Europese bedrijfsmodel, met een fundamentele spanning: optimaliseren voor een select groepje versus de lat voor iedereen hoger leggen. Dit sluit aan bij ideeën van Nassim Nicholas Taleb: hij benadrukt het belang van robuustheid en antifragiliteit en stelt dat systemen ontworpen moeten worden om extreme gebeurtenissen en mislukkingen te doorstaan (met oog voor het goede van het geheel), in plaats van alleen te mikken op kleine verbeteringen (het goede van sommige delen).

Een deelnemer reageerde op de opmerking dat er in Amerika meer in innovatie wordt geïnvesteerd:

Je hebt hier gewoon gelijk in. Er is daar heel veel meer geld. En het werkt ook dat wel met die energie en dingen uit de grond stampen enzovoort, het werkt ook. Alleen het gaat ook ten koste van iets. […] Het ten koste gaat van onze klimaat, van de gezondheid van mensen enzovoort. Dat nemen we niet mee, ook niet in ons beeld van hoe succesvol het is. Het is financieel heel succesvol, dat mag. Maar ja, er zijn ook altijd mensen die daar in een burn-out komen en er is extra armoede.

Deze spanning tussen optimalisatie en succes voor het geheel zit in de kern van veel hedendaagse debatten over bedrijfsethiek, welvaartsverdeling en maatschappelijke vooruitgang.

Een andere deelnemer merkte op dat een systeem waarin uitmuntendheid niet loont, geen ruimte laat voor de radicale innovaties die een samenleving kunnen optillen, terwijl een systeem dat alleen uitmuntendheid optimaliseert veel welvaart schept, maar de minder fortuinlijken ontmenselijkt. Hoe combineren we het beste van deze werelden? De uitdaging is de juiste balans vinden: stevige vangnetten, zodat niemand achterblijft, en tegelijk omgevingen die innovatie en hoge prestaties aanmoedigen.

AI en de toekomst van verantwoordelijkheid

Toen het gesprek naar AI en de gevolgen ervan verschoof, kwam een prikkelend idee naar boven: in een wereld waarin AI bijna alles kan, wordt menselijke verantwoordelijkheid misschien wel ons kostbaarste bezit. Een deelnemer stelde als hypothese:

"Mijn hypothese is, er is een prijs op verantwoordelijkheid en die prijs gaat omhoog. En uiteindelijk als AI alles kan, dan is het enige wat overblijft is verantwoordelijkheid nemen."

(Oftewel: er staat een prijs op verantwoordelijkheid en die prijs stijgt. Als AI uiteindelijk alles kan, is verantwoordelijkheid nemen het enige wat overblijft.)

Dit idee daagt ons uit om de rol van mensen in een door AI gestuurde wereld te heroverwegen. AI-alignment is in de kern een dubbele vraag: “Hoe stemmen we AI af op menselijke waarden?” én “Op welke waarden stemmen we af?” In plaats van vervangen te worden, wordt ons unieke menselijke vermogen om ethische keuzes te maken en verantwoordelijkheid te nemen misschien belangrijker dan ooit, nu we verantwoordelijkheid dragen voor wat AI's namens ons doen.

De menselijke behoefte aan erkenning in rechtspraak

Het gesprek nam een interessante wending bij het onderwerp rechtssystemen, en de menselijke behoefte aan erkenning van aangedaan leed. Dat raakt diep aan het thema verantwoordelijkheid. Een deelnemer deelde een anekdote over het slachtoffer van een misdrijf dat om persoonlijke gerechtigheid vroeg:

Deze inzichten herinneren ons eraan dat we, ook terwijl we steeds geavanceerdere AI-systemen ontwikkelen, inclusief systemen die een rol kunnen spelen in besluitvorming of rechtspraak, de diep menselijke kanten van verantwoordelijkheid, rekenschap en verzoening niet uit het oog mogen verliezen.

Conclusie: AI-vermogens in balans met menselijke waarden

Terwijl we onze weg zoeken in het complexe landschap van AI in onze bedrijven, organisaties en de samenleving als geheel, herinneren de inzichten uit dit gesprek ons eraan hoe belangrijk het is om menselijke zeggenschap en verantwoordelijkheid te behouden en te versterken.

Het Rijnlandse model, met zijn nadruk op decentralisatie en langetermijndenken, biedt een waardevol kader om na te denken over hoe we onze organisaties en samenlevingen kunnen inrichten voor verantwoorde besluitvorming op alle niveaus, maar vooral midden in de actie. Tegelijk daagt de potentie van AI ons uit om het unieke menselijke vermogen tot verantwoordelijkheid nemen te heroverwegen en misschien wel naar een hoger plan te tillen.

De grote uitdaging voor de komende tijd is de kracht van AI benutten en tegelijk de menselijke elementen behouden en versterken die onze samenlevingen en organisaties echt laten floreren. Dat betekent niet alleen optimaliseren voor efficiëntie of winst, maar bewust systemen ontwerpen die de bodem voor iedereen omhoog brengen, en verantwoordelijkheid, ethische besluitvorming en menselijke waardigheid bevorderen.

Laten we er, terwijl we AI-technologie verder ontwikkelen en inzetten, voor zorgen dat we een samenleving bouwen die niet alleen de kracht van AI benut, maar ook ons menselijke vermogen tot verantwoordelijkheid, empathie en collectieve vooruitgang versterkt.

Deze discussies, realtime vastgelegd door onze tool en geanalyseerd door mij, Jorim, samen met de AI van dembrane, geven een voorproefje van de rijke gesprekken op de Dutch Innovation Days. Ze laten ook zien wat onze AI-feedbacktool kan: complexe, veelzijdige gesprekken vastleggen en samenbrengen op een manier die toekomstige innovatie- en besluitvormingsprocessen kan voeden.