dembrane start een initiatief om de regie van de gebruiker in onze tools te maximaliseren en zo de beweging weg van het simpelweg implementeren van grote, geavanceerde AI-modellen te versnellen. Hoewel het overmatig gebruiken van deze krachtige modellen misschien makkelijker is, sluit het niet aan bij ons doel om mensen te versterken met eenvoudige en fijne tools.
Concreet betekent dit dat we ernaar streven om:
AI-componenten te ontwikkelen die gebruikers de controle geven, met duidelijke grenzen rondom door AI gegenereerde inhoud. Gebruikers krijgen de mogelijkheid om AI-suggesties te accepteren, te weigeren of aan te passen.
Transparantiemaatregelen te implementeren, zodat gebruikers begrijpen wanneer ze met AI communiceren en hoe dit hun ervaring verbetert. Geen verborgen AI, minimale black boxes.
Onze AI-toepassingen streng te testen op vooroordelen en blinde vlekken, en proactief te zoeken naar diverse perspectieven in onze data en feedbackloops van gebruikers.
Prioriteit te geven aan AI-toepassingen die menselijke creativiteit en besluitvorming vergroten in plaats van deze weg te automatiseren. Onze tools moeten actieve menselijke betrokkenheid en kritisch denken vereisen.
De effecten van onze AI-systemen in de echte wereld voortdurend te monitoren en te beoordelen, en bereid te zijn om onze aanpak aan te passen en te veranderen voor meer ethische resultaten.
Deze blogpost dient als een ethisch witboek waarin we ons standpunt en onze inzet voor het investeren in mensgerichte "low AI"-tools uiteenzetten. We geloven dat deze aanpak, hoewel uitdagender op de korte termijn, op de lange termijn zal leiden tot technologieën die meer zeggenschap geven en ethisch beter op één lijn liggen. Ons doel is om leidend te zijn in verantwoorde AI-innovatie waar de samenleving echt wat aan heeft.
Aandacht voor complexiteit en pionieren met "Low AI" voor ethische collectieve intelligentie
Nu kunstmatige intelligentie (AI) zich in een snel tempo blijft ontwikkelen, worstelen overheden, bedrijven en individuen met de gevolgen ervan. De recente acties van de Nederlandse overheid, die generatieve AI omarmt maar zich tegelijkertijd voorbereidt op mogelijke regelgeving, benadrukken de complexe ethische overwegingen rondom deze transformerende technologie. Bij dembrane erkennen we de noodzaak om voorzichtig door dit onontgonnen gebied te navigeren, en als team putten we vaak uit de wijsheid van ethische grootheden om onze aanpak te sturen.
Context
Naar schatting driekwart van de Nederlandse gemeenten gebruikt ChatGPT, maar afgelopen november lekte uit dat de Rijksoverheid een verbod voorbereidde om te voorkomen dat ambtenaren en hun leveranciers tekstgeneratoren zoals ChatGPT gebruiken vanwege ethische overwegingen, zoals schendingen van privacy en auteursrecht. Als AI-bedrijf dat zich inzet voor de publieke sector heeft dit een tastbare impact gehad op onze bedrijfsvoering. De publieke sfeer worstelt met de implicaties van AI, en we bevinden ons op een cruciaal moment.
Het standpunt van de Nederlandse overheid over AI weerspiegelt een fundamentele tegenstrijdigheid die typerend is voor de bredere uitdagingen waar overheden wereldwijd voor staan. Aan de ene kant is de aantrekkingskracht van de transformerende kracht van AI onmiskenbaar; het belooft processen te stroomlijnen, nieuwe inzichten te ontsluiten en innovatie in verschillende sectoren te stimuleren.
Aan de andere kant overweegt de Nederlandse overheid een verbod op het gebruik van generatieve AI door ambtenaren. Deze voorgestelde beperking komt voort uit terechte zorgen over de ethische implicaties van AI, waaronder kwesties rond privacy, vooroordelen, transparantie en verantwoording. De gelekte voorbereidingen voor dit verbod tonen een diepe onrust over de mogelijke risico's en onbedoelde gevolgen van het inzetten van AI in de publieke sector.
Op het eerste gezicht lijken deze twee standpunten lijnrecht tegenover elkaar te staan en weerspiegelen ze een simplistisch "AI vs. Geen AI"-verhaal. Het is verleidelijk om het debat te framen als een binaire keuze tussen het volledig omarmen van AI of het volledig afwijzen ervan. De realiteit is echter veel genuanceerder en complexer.
"Alleen als we ook meer investeren in AI-innovaties, zijn we in de positie om te concurreren en de koers te bepalen voor de passende en veelbelovende ontwikkeling van deze technologie" - Minister van Economische Zaken en Klimaat Micky Adriaansens
De schijnbare tegenstrijdigheid van de Nederlandse overheid benadrukt de moeilijke evenwichtskunst die overheden moeten vertonen in het AI-tijdperk. Ze moeten een manier vinden om de voordelen van AI te benutten en tegelijkertijd de risico's ervan te beperken en ervoor te zorgen dat de ontwikkeling en inzet ervan aansluiten bij maatschappelijke waarden en prioriteiten. Dit is geen gemakkelijke taak, want het vereist het aanpakken van een hele reeks complexe ethische, sociale en politieke overwegingen.
Bovendien weerspiegelt het standpunt van de overheid de bredere maatschappelijke spanningen rondom AI. Aan de ene kant is er een groeiend publiek enthousiasme over de potentie van AI om ons leven te verbeteren. Veel mensen zijn enthousiast over het vooruitzicht van efficiëntere diensten, gepersonaliseerde ervaringen en datagestuurde besluitvorming. Aan de andere kant is er een groeiende bezorgdheid over de potentiële nadelen van AI, waaronder banenverlies, schending van de privacy en het versterken van bestaande vooroordelen en ongelijkheden, en het mogelijk creëren van nieuwe.
"Vooringenomenheid is een probleem, zelfs als het mij uitkomt."
Een kort verhaal over de uitdaging van vooringenomenheid, waar deze zich ook voordoet
Tijdens het analyseren van de resultaten van een specifiek participatietraject had ik mijn eerste ervaring met AI-bias (vooringenomenheid). Ik had gevraagd om een samenvatting van een set documenten, en het antwoord dat ik kreeg was volkomen redelijk. Precies waar ik om had gevraagd, inclusief de standpunten van minderheden en de weergave van een klein conflict tussen twee groepen belanghebbenden.
Het voelde te gelikt. Ik vroeg welke groepen belanghebbenden zich over het hoofd gezien of zelfs beledigd zouden voelen door de samenvatting. De AI gaf me het volgende antwoord:
Kleine ondernemers
Mensen die in buitenwijken wonen
Mensen die vaak autorijden
Hulpdiensten
Ik behoor tot geen van die groepen. Verblind door mijn eigen vooringenomenheid had ik het rapport bijna ingediend zonder hun cruciale perspectieven mee te nemen.
Ik zag nu "in het wild" hoe de ontwikkeling en inzet van AI geen neutraal proces is, maar een proces dat bestaande ongelijkheden en discriminatie kan bestendigen en versterken, en nieuwe vooroordelen kan creëren. Deze bias was niet opzettelijk of kwaadaardig, maar eerder een weerspiegeling van de waarden in de data en algoritmen achter het AI-systeem. Het was een duidelijke herinnering dat AI geen wondermiddel is, maar een krachtig hulpmiddel dat met zorg en verantwoordelijkheid moet worden gebruikt.
Deze ervaring onderstreepte het belang van Audre Lorde's perspectieven op intersectionaliteit en de noodzaak om diverse standpunten op te nemen in de ontwikkeling van AI-systemen. Lorde betoogt dat onze identiteiten en ervaringen niet uniek of scheidbaar zijn, maar elkaar op complexe manieren overlappen en beïnvloeden. Logischerwijs moet elke poging om AI-systemen te ontwikkelen die echt inclusief en rechtvaardig zijn, rekening houden met de volledige breedte van menselijke diversiteit en ervaring. Intersectionaliteit kan niet worden gereduceerd tot seksisme, racisme, classisme of validisme. Natuurlijk moeten deze aspecten worden geïdentificeerd en aangepakt, maar voor elke correctie in het ethische kompas van de AI zal er een groep buiten de boot vallen. Een perspectief dat verblind is, een goed idee of een belangrijke richtlijn die verloren gaat.
Het integreren van intersectionele ideeën in de ontwikkeling van AI is een gigantische maar nobele uitdaging. Het vereist het aanpakken van diepgewortelde vooroordelen en machtsongelijkheid die in onze samenleving en onze data doorsijpelen. Het vraagt om een bereidheid om ongemakkelijke waarheden onder ogen te zien en de status quo uit te dagen. Dit vereist een fundamentele heroverweging van de manier waarop we AI-systemen ontwerpen, ontwikkelen en inzetten.
Het zijn niet onze verschillen die ons verdelen. Het is ons onvermogen om die verschillen te herkennen, te accepteren en te vieren. - Audre Lorde
Staying with the trouble
Vooral bij het ontwerpen, ontwikkelen en inzetten van AI-systemen is het werk van Donna Haraway uiterst relevant. Haraway biedt een manier om onze blik te verruimen tot buiten de nauwe grenzen van technische expertise en dominante paradigma's van scheiding. Door de grenzen tussen mens en machine, natuur en cultuur te vervagen, daagt Haraway ons uit om na te denken over het complexe web van relaties en onderlinge afhankelijkheden die onze wereld vormen.
Technologie is niet neutraal. We zitten in wat we maken, en het zit in ons. We leven in een wereld van verbindingen — en het maakt uit welke worden gemaakt en welke worden verbroken. - Donna Haraway
Haraway's oproep om "met de problemen te blijven zitten" (stay with the trouble) en "aan te modderen" is een krachtige herinnering dat het doel van AI-ontwikkeling niet moet zijn om een soort mythische staat van perfectie of neutraliteit te bereiken, maar juist om de confrontatie aan te gaan met de rommelige realiteit van de wereld zoals die is. Het gaat erom dat we onze handen vuil maken, fouten maken en daarvan leren. Het gaat om het omarmen van de onzekerheid en ambiguïteit die hoort bij het verkennen van nieuw terrein.
Dit perspectief sluit nauw aan bij het complexiteitsparadigma van Edgar Morin. Morin betoogt dat het dominante paradigma van versimpeling, dat de wereld probeert te reduceren tot eenvoudige, deterministische modellen, fundamenteel tekortschiet om de wereld in al haar rijkdom en diversiteit te begrijpen. In plaats daarvan pleit hij voor een complexiteitsparadigma dat onzekerheid, tegenstrijdigheid en urgentie omarmt als essentiële kenmerken van de realiteit. Voor Morin is complex denken niet alleen een intellectuele oefening, maar een ethische plicht. Het vereist dat we de verleiding van gemakkelijke antwoorden en snelle oplossingen weerstaan en de volledige complexiteit van de uitdagingen waar we voor staan aangrijpen. Het vraagt om een bereidheid om meerdere perspectieven te overwegen, de dialoog en het debat aan te gaan, en open te blijven staan voor nieuwe ideeën en mogelijkheden.
Het eenvoudige is niet meer dan een moment. Een aspect te midden van verschillende complexiteiten. - Edgar Morin
Door de inzichten van Lorde, Haraway en Morin samen te brengen, kunnen we beginnen met het schetsen van een nieuwe benadering van AI-ontwikkeling die is geworteld in een diepe betrokkenheid bij rechtvaardigheid, inclusie en complexiteit. Deze aanpak wijst de valse tweedeling van "AI vs. Geen AI" af en probeert in plaats daarvan de voorwaarden van het debat te veranderen. Het erkent dat de ontwikkeling van AI geen nulsomspel is, maar een collectieve inspanning die de participatie en inbreng van alle belanghebbenden vereist.
"Het complexe […] vraagt om en biedt een middel tot zelfkritiek… Het draagt waarheden in zich die biologisch afbreekbaar zijn…" - Edgar Morin
Low AI
Bij dembrane laten we ons inspireren door deze visie op een meer participerende en inclusieve benadering van AI-ontwikkeling. We geloven dat we door het ontwerpen van tools en platforms die collectieve intelligentie en besluitvorming faciliteren, de kracht van AI kunnen benutten om de menselijke regie en creativiteit te versterken in plaats van te vervangen.
Daarom pionieren we met "low AI": we gebruiken AI minimaal en strategisch om de toegankelijkheid, betaalbaarheid en het bereik van participatietrajecten te vergroten, zonder de verantwoordelijkheid over te dragen aan een black box. We willen systemen creëren die de menselijke vermogens voor complex denken en moreel redeneren versterken, in plaats van ze weg te automatiseren.
Centraal in deze aanpak staat de filosofie van Iris Murdoch, die het belang van aandacht en perceptie in het morele leven benadrukt. Murdoch betoogt dat de sleutel tot ethisch gedrag niet de toepassing van abstracte principes of regels is, maar eerder het cultiveren van een specifieke kwaliteit van aandacht die wordt gekenmerkt door openheid, empathie en de bereidheid om de wereld te zien zoals die werkelijk is. Als we terugkijken naar het moment waarop ik werd geconfronteerd met AI-bias, zien we de waarde van dit perspectief. Door "rechtvaardige en liefdevolle aandacht" te schenken en de AI om een ander perspectief te vragen, werd de volledige breedte van stemmen meegenomen en verbeterde het uiteindelijke resultaat van de AI.
Wat [fantasie, verblindende egocentrische doelen en beelden] tegengaat, is aandacht voor de realiteit die is geïnspireerd door, en bestaat uit, liefde. - Iris Murdoch
Door tools te ontwerpen die de aandacht en interactie tussen mensen onderling vergemakkelijken of naar een hoger niveau tillen, geloven we dat we ruimtes kunnen creëren voor het soort moreel werk waar Murdoch voor pleit. Ons doel is niet om antwoorden of oplossingen te bieden, maar om individuen en gemeenschappen in staat te stellen zich bezig te houden met de subtiliteiten en bijzonderheden van morele ervaringen, en hun eigen vermogen tot ethische reflectie en actie te ontwikkelen.
Wat als we falen?
Natuurlijk brengt de ontwikkeling van elke technologie het risico van kwaadwillenden en onbedoelde gevolgen met zich mee. We zijn ons terdege bewust van het potentieel van AI om te worden gebruikt op manieren die schadelijk of onderdrukkend zijn, en we zetten ons in om systemen te ontwerpen die veerkrachtig en flexibel zijn in het licht van deze uitdagingen. Zoals je zult zien is het niet de bedoeling om je te focussen op kwaadwillenden door systemen te bouwen die de noodzaak voor vertrouwen of samenwerking minimaliseren, maar om het idee te omarmen, in de woorden van Rutger Bregman, dat de meeste mensen deugen.
Hier biedt het werk van Rosi Braidotti een waardevol perspectief. Braidotti's visie op een levensbevestigend posthumanisme erkent de inherente complexiteit en onvoorspelbaarheid van de wereld, maar ook het vermogen van het leven (al het leven, niet alleen dat van mensen) om te bloeien en zich aan te passen in tijden van tegenspoed. Door geleefde actie en creativiteit de kern van onze systemen te maken, geloven we dat we dit vermogen kunnen aanboren en kunnen bijdragen aan de voortdurende evolutie van AI in een positieve en bevestigende richting.
Met andere woorden, mensen zijn – net als alle levende wezens – geneigd om positiviteit in stand te houden en er structureel omheen te bewegen. - Rosi Braidotti
Uiteindelijk is de weg voorwaarts voor onze AI-ontwikkeling geen rechte lijn. Het vereist een voortdurende dialoog met klanten, continu experimenteren en gedeeld leren. Het vraagt om een bereidheid om met de problemen te blijven zitten, aan te modderen en open te staan voor nieuwe mogelijkheden en perspectieven.
Potentieel en richting
Bij dembrane zetten we ons in om deze weg met nederigheid, nieuwsgierigheid en een diep gevoel van verantwoordelijkheid te bewandelen. We geloven dat we door de inzichten van filosofen als Lorde, Haraway, Morin, Murdoch en Braidotti samen te smelten, een meer genuanceerde en contextgevoelige benadering van AI-ethiek kunnen ontwikkelen die complexiteit omarmt, individuen en gemeenschappen versterkt en aandacht heeft voor de nuances van de geleefde ervaring.
Onze "low AI"-aanpak is het bewijs van deze toewijding. Door AI minimaal en strategisch in te zetten, kunnen we systemen creëren die prachtige menselijke kwaliteiten versterken - het delen van complexe gedachten en filosofieën in speelse interacties ten dienste van participatieve besluitvorming. We erkennen dat dit geen wondermiddel is, maar eerder een startpunt voor een breder gesprek over de rol van AI in ons leven en in onze samenleving.
Naarmate we verder gaan, blijven we ons inzetten voor de dialoog met diverse belanghebbenden, om te leren van onze fouten en ons aan te passen aan nieuwe uitdagingen en kansen. We geloven dat we door trouw te blijven aan onze waarden and onze visie, een betekenisvolle bijdrage kunnen leveren aan de voortdurende evolutie van AI op een manier die rechtvaardigheid, inclusie en menselijke bloei bevordert.
Uiteindelijk is de ontwikkeling van AI niet alleen een technische uitdaging, maar een diep menselijke uitdaging. Het vereist dat we ons bezighouden met fundamentele vragen over wie we zijn, wat we waarderen en wat voor wereld we willen creëren. Het vraagt om een bereidheid om moeilijke gesprekken te voeren, onze aannames ter discussie te stellen en open te blijven staan voor nieuwe manieren van denken en zijn. We geloven dat we door samen te werken in een geest van samenwerking, creativiteit en zorgzaamheid, de kracht van AI kunnen gebruiken om een rechtvaardigere, gelijkere en bloeiendere wereld op te bouwen.
Tot slot wil ik je dit meegeven.
Tussen zeggen en doen worden heel wat schoenzolen versleten. - Iris Murdoch
📨 Denk je dat we een fout hebben gemaakt of wil je reageren? We staan daar altijd voor open! Neem gerust contact op via info@dembrane.com
Bronnen
Nederlandse overheid presenteert visie op generatieve AI: government.nl
Gelekte voorbereidingen voor een verbod op het gebruik van generatieve AI door Nederlandse ambtenaren en hun leveranciers: volkskrant.nl
Edgar Morin, On Complexity: amazon.com
Rosi Braidotti, “The Ethics of Joy”, Posthuman Glossary: bloomsbury.com
Iris Murdoch, Stanford Encyclopedia of Philosophy: plato.stanford.edu
Audre Lorde, Your Silence Will Not Protect You: amazon.com
Rutger Bregman, De meeste mensen deugen: amazon.com
Donna Haraway, Staying with the Trouble: amazon.com
Geschreven in samenwerking met Claude 3 Opus: anthropic.com
