Ethisch whitepaper
dembrane start een initiatief om de eigen regie van gebruikers in onze tools te maximaliseren, en versnelt daarmee de beweging weg van het naïef inzetten van grote frontier-AI-modellen. Deze krachtige modellen overmatig gebruiken is misschien makkelijker, maar het past niet bij ons doel: mensen versterken met eenvoudige tools om van te houden.
Concreet betekent dit dat we ernaar streven om:
AI-componenten te ontwikkelen die gebruikers de controle geven, met duidelijke grenzen rond door AI gegenereerde inhoud. Gebruikers kunnen AI-suggesties accepteren, afwijzen of aanpassen.
Transparantiemaatregelen in te voeren, zodat gebruikers begrijpen wanneer ze met AI te maken hebben en hoe die hun ervaring verbetert. Geen verborgen AI, zo min mogelijk black boxes.
Onze AI-toepassingen grondig te testen op bias en blinde vlekken, en proactief diverse perspectieven op te zoeken in onze data en in de feedbackloops met gebruikers.
Voorrang te geven aan AI-toepassingen die menselijke creativiteit en besluitvorming versterken in plaats van ze weg te automatiseren. Onze tools moeten actieve menselijke betrokkenheid en kritisch denken vragen.
De impact van onze AI-systemen in de echte wereld voortdurend te volgen en te beoordelen, en bereid te zijn onze aanpak te herzien en bij te stellen waar dat nodig is voor ethischere uitkomsten.
Deze blogpost dient als ethische whitepaper, waarin we onze positie en onze toezegging uiteenzetten om te investeren in mensgerichte “low AI”-tools. We geloven dat deze aanpak, hoewel op de korte termijn uitdagender, op de lange termijn technologieën oplevert die mensen meer versterken en ethisch beter zijn afgestemd. Ons doel is om voorop te lopen in verantwoorde AI-innovatie die de samenleving echt ten goede komt.
Aandacht voor complexiteit en pionieren met “Low AI” voor ethische collectieve intelligentie
Terwijl kunstmatige intelligentie (AI) zich in hoog tempo blijft ontwikkelen, worstelen overheden, bedrijven en individuen met de gevolgen. De recente stappen van de Nederlandse overheid, die generatieve AI omarmt en tegelijkertijd mogelijke regulering voorbereidt, laten zien hoe complex de ethische afwegingen rond deze ingrijpende technologie zijn. Bij dembrane zien we de noodzaak om dit onbekende terrein met zorg te verkennen, en als team putten we vaak uit de wijsheid van grote ethische denkers om onze aanpak richting te geven.
Context
Naar schatting driekwart van de Nederlandse gemeenten gebruikt ChatGPT, maar afgelopen november lekte uit dat de Rijksoverheid bezig was met het voorbereiden van een verbod dat ambtenaren en hun leveranciers zou beletten tekstgeneratoren zoals ChatGPT te gebruiken, vanwege ethische overwegingen zoals schendingen van privacy en auteursrecht. Als AI-bedrijf dat zich inzet voor de publieke sector heeft dit een tastbare impact op ons bedrijf gehad. De publieke sfeer worstelt met de gevolgen van AI, en wij staan op een kritiek punt.
De houding van de Nederlandse overheid tegenover AI weerspiegelt een fundamentele tegenstrijdigheid die kenmerkend is voor de bredere uitdagingen waar overheden wereldwijd voor staan. Aan de ene kant is de aantrekkingskracht van de transformerende kracht van AI onmiskenbaar: ze belooft processen te stroomlijnen, nieuwe inzichten bloot te leggen en innovatie in alle sectoren aan te jagen.
Aan de andere kant overweegt de Nederlandse overheid een verbod op het gebruik van generatieve AI door ambtenaren. Deze voorgestelde beperking komt voort uit legitieme zorgen over de ethische implicaties van AI, waaronder kwesties rond privacy, bias, transparantie en verantwoording. De uitgelekte voorbereidingen voor dit verbod laten een diep ongemak zien over de mogelijke risico's en onbedoelde gevolgen van de inzet van AI in de publieke sector.
Op het eerste gezicht lijken deze twee standpunten lijnrecht tegenover elkaar te staan, als een simplistisch “AI versus geen AI”-verhaal. Het is verleidelijk om het debat te framen als een binaire keuze tussen AI volledig omarmen of helemaal afwijzen. De werkelijkheid is echter veel genuanceerder en complexer.
“Alleen als we ook meer investeren in AI-innovaties zijn we in staat om te concurreren en de koers uit te zetten voor een passende en veelbelovende ontwikkeling van deze technologie” - minister van Economische Zaken en Klimaat Micky Adriaansens
De schijnbare tegenstrijdigheid van de Nederlandse overheid laat zien welke lastige evenwichtsoefening overheden in het tijdperk van AI moeten uitvoeren. Ze moeten een manier vinden om de voordelen van AI te benutten en tegelijkertijd de risico's te beperken en ervoor te zorgen dat de ontwikkeling en inzet ervan aansluiten bij maatschappelijke waarden en prioriteiten. Dat is geen eenvoudige opgave, want het vraagt om worstelen met een hele reeks complexe ethische, sociale en politieke afwegingen.
Bovendien weerspiegelt de houding van de overheid de bredere maatschappelijke spanningen rond AI. Aan de ene kant groeit het publieke enthousiasme over de mogelijkheid dat AI ons leven ten goede verandert. Veel mensen zijn enthousiast over het vooruitzicht van efficiëntere diensten, gepersonaliseerde ervaringen en datagedreven besluitvorming. Aan de andere kant neemt de zorg toe over de mogelijke nadelen van AI, waaronder het verdwijnen van banen, privacyschendingen en het versterken van bestaande vooroordelen en ongelijkheden, en mogelijk het ontstaan van nieuwe.
“Bias is een probleem, ook als het mij goed uitkomt.”
Een kort verhaal over de uitdaging van bias, waar die ook opduikt
Tijdens het analyseren van de resultaten van een bepaald participatieproces had ik mijn eerste ervaring met AI-bias. Ik had om een samenvatting van een set documenten gevraagd, en het antwoord dat ik kreeg was volkomen redelijk. Precies wat ik had gevraagd, inclusief de perspectieven van minderheden en met een klein conflict tussen twee groepen stakeholders.
Het voelde te gepolijst. Ik vroeg welke soorten stakeholders zich ongezien zouden voelen, misschien zelfs beledigd door de samenvatting. De AI antwoordde:
Kleine ondernemers
Mensen in de buitenwijken
Mensen die veel autorijden
Hulpdiensten
Ik hoor bij geen van die groepen. Verblind door mijn eigen bias had ik het rapport bijna ingeleverd zonder hun cruciale perspectieven erin op te nemen.
Ik zag nu “in het wild” hoe de ontwikkeling en inzet van AI geen neutraal proces is, maar een proces dat bestaande ongelijkheden en discriminatie kan bestendigen en versterken, en ook nieuwe vormen van bias kan creëren. Deze bias was niet opzettelijk of kwaadaardig, maar een afspiegeling van de waarden die besloten liggen in de data en algoritmen waarop het AI-systeem draaide. Het was een scherpe herinnering dat AI geen wondermiddel is, maar een krachtig instrument dat met zorg en verantwoordelijkheid gehanteerd moet worden.
Deze ervaring onderstreepte het belang van Audre Lordes ideeën over intersectionaliteit en de noodzaak om diverse perspectieven op te nemen in de ontwikkeling van AI-systemen. Lorde stelt dat onze identiteiten en ervaringen niet enkelvoudig of van elkaar te scheiden zijn, maar elkaar op complexe manieren kruisen en beïnvloeden. In het verlengde daarvan moet elke poging om AI-systemen te ontwikkelen die echt inclusief en rechtvaardig zijn, rekening houden met de volle breedte van menselijke diversiteit en ervaring. Intersectionaliteit is niet te reduceren tot seksisme, racisme, klassisme of validisme. Natuurlijk moeten deze aspecten worden herkend en aangepakt, maar bij elke correctie van het ethische kompas van de AI zal er een groep zijn die buiten de boot valt. Een perspectief dat onzichtbaar wordt, een goed idee of een richtinggevende eis die verloren gaat.
Intersectionele ideeën verwerken in de ontwikkeling van AI is een ontmoedigende maar nobele uitdaging. Het vraagt om worstelen met de diepgewortelde vooroordelen en machtsongelijkheden die onze samenleving en onze data doortrekken. Het vraagt de bereidheid om ongemakkelijke waarheden onder ogen te zien en de status quo ter discussie te stellen. Het vereist een fundamentele herbezinning op hoe we AI-systemen ontwerpen, ontwikkelen en inzetten.
Het zijn niet onze verschillen die ons verdelen. Het is ons onvermogen om die verschillen te herkennen, te accepteren en te vieren. - Audre Lorde
Bij de moeilijkheden blijven
Juist bij het ontwerpen, ontwikkelen en inzetten van AI-systemen wordt het werk van Donna Haraway bijzonder relevant. Haraway biedt een manier om ons perspectief te verbreden voorbij de smalle grenzen van technische expertise en dominante paradigma's van scheiding. Door de grenzen tussen mens en machine, natuur en cultuur te laten vervagen, daagt Haraway ons uit om het complexe web van relaties en onderlinge afhankelijkheden te beschouwen dat onze wereld vormt.
Technologie is niet neutraal. We zitten in wat we maken, en het zit in ons. We leven in een wereld van verbindingen, en het doet ertoe welke worden gemaakt en welke worden verbroken. - Donna Haraway
Haraways oproep om “bij de moeilijkheden te blijven” en “door te modderen” is een krachtige herinnering dat het doel van AI-ontwikkeling niet moet zijn om een mythische staat van perfectie of neutraliteit te bereiken, maar om ons te verhouden tot de rommelige werkelijkheid van de wereld zoals die is. Het gaat om onze handen vuil maken, fouten maken en ervan leren. Het gaat om het omarmen van de onzekerheid en dubbelzinnigheid die horen bij het verkennen van nieuw terrein.
Dit perspectief sluit nauw aan bij Edgar Morins paradigma van complexiteit. Morin stelt dat het dominante paradigma van vereenvoudiging, dat de wereld probeert te reduceren tot eenvoudige, deterministische modellen, fundamenteel tekortschiet om de wereld in al haar rijkdom en diversiteit te begrijpen. In plaats daarvan pleit hij voor een paradigma van complexiteit dat onzekerheid, tegenstrijdigheid en emergentie omarmt als wezenlijke kenmerken van de werkelijkheid. Voor Morin is complex denken niet zomaar een intellectuele oefening, maar een ethisch imperatief. Het vraagt van ons dat we de verleiding van makkelijke antwoorden en snelle oplossingen weerstaan en ons verhouden tot de volle complexiteit van de uitdagingen waar we voor staan. Het vraagt de bereidheid om meerdere perspectieven in overweging te nemen, de dialoog en het debat aan te gaan en open te blijven voor nieuwe ideeën en mogelijkheden.
Het eenvoudige is niet meer dan een moment. Een aspect te midden van meerdere complexiteiten. - Edgar Morin
Door de inzichten van Lorde, Haraway en Morin samen te brengen, kunnen we een nieuwe benadering van AI-ontwikkeling voor ons zien die geworteld is in een diepe toewijding aan rechtvaardigheid, inclusie en complexiteit. Deze benadering zou de valse tegenstelling “AI versus geen AI” afwijzen en in plaats daarvan de termen van het debat proberen te veranderen. Ze zou erkennen dat de ontwikkeling van AI geen nulsomspel is, maar een collectieve onderneming die de deelname en inbreng van alle stakeholders vraagt.
“Het complexe […] vraagt om en biedt een middel tot zelfkritiek… Het draagt waarheden die biologisch afbreekbaar zijn…” - Edgar Morin
Low AI
Bij dembrane laten we ons inspireren door deze visie op een meer participatieve en inclusieve benadering van AI-ontwikkeling. We geloven dat we, door tools en platforms te ontwerpen die collectieve intelligentie en besluitvorming faciliteren, de kracht van AI kunnen benutten om de menselijke regie en creativiteit te versterken in plaats van te vervangen.
Daarom gaan we pionieren met “low AI”: AI minimaal en strategisch inzetten om de toegankelijkheid, betaalbaarheid en het bereik van participatieprocessen te vergroten, zonder de verantwoordelijkheid af te schuiven op een black box. We willen systemen maken die het menselijke vermogen tot complex denken en moreel redeneren versterken, in plaats van het weg te automatiseren.
Centraal in deze benadering staat de filosofie van Iris Murdoch, die het belang van aandacht en waarneming in het morele leven benadrukt. Murdoch stelt dat de sleutel tot ethisch handelen niet ligt in het toepassen van abstracte principes of regels, maar in het cultiveren van een bepaalde kwaliteit van aandacht, gekenmerkt door openheid, empathie en de bereidheid om de wereld te zien zoals die werkelijk is. Als we terugkijken op het moment waarop ik met AI-bias werd geconfronteerd, zien we de waarde van dit perspectief. Juist door “rechtvaardige en liefdevolle aandacht” te geven en de AI om een ander perspectief te vragen, werd de volle breedte van stemmen meegenomen en werd de uiteindelijke output van de AI beter.
Wat [fantasie, verblindende zelfgerichte doelen en beelden] tegengaat, is aandacht voor de werkelijkheid, geïnspireerd door en bestaand uit liefde. - Iris Murdoch
Door tools te ontwerpen die aandacht en interactie tussen mensen faciliteren of naar een hoger niveau tillen, geloven we dat we ruimtes kunnen creëren voor het soort morele werk waar Murdoch voor pleit. Ons doel is niet om antwoorden of oplossingen te bieden, maar om individuen en gemeenschappen in staat te stellen zich te verhouden tot de subtiliteiten en bijzonderheden van morele ervaring, en hun eigen vermogen tot ethische reflectie en ethisch handelen te ontwikkelen.
Wat als we falen?
Natuurlijk brengt de ontwikkeling van elke technologie het risico van kwaadwillenden en onbedoelde gevolgen met zich mee. We zijn ons er scherp van bewust dat AI gebruikt kan worden op manieren die schadelijk of onderdrukkend zijn, en we zetten ons in om systemen te ontwerpen die veerkrachtig zijn en zich kunnen aanpassen aan deze uitdagingen. Zoals we zullen zien, gaat het er niet om de focus te leggen op kwaadwillenden en systemen te bouwen die de behoefte aan vertrouwen of samenwerking minimaliseren, maar om het idee te omarmen dat, in de woorden van Rutger Bregman, “de meeste mensen deugen”.
Hier biedt het werk van Rosi Braidotti een waardevol perspectief. Braidotti's visie op een levensbevestigend posthumanisme erkent de inherente complexiteit en onvoorspelbaarheid van de wereld, maar ook het vermogen van het leven (al het leven, niet alleen mensen) om te floreren en zich aan te passen bij tegenslag. Door geleefde regie en creativiteit centraal te stellen in onze systemen, geloven we dat we dit vermogen kunnen aanboren en kunnen bijdragen aan de voortdurende evolutie van AI in een positieve en bevestigende richting.
Met andere woorden: mensen zijn, net als alle levende wezens, geneigd positiviteit in stand te houden en er structureel omheen te cirkelen. - Rosi Braidotti
Uiteindelijk is de weg vooruit voor onze AI-ontwikkeling geen rechte lijn. Het vraagt om voortdurende betrokkenheid van klanten, doorlopend experimenteren en samen leren. Het vraagt de bereidheid om bij de moeilijkheden te blijven, door te modderen en open te staan voor nieuwe mogelijkheden en perspectieven.
Potentieel en richting
Bij dembrane zetten we ons ervoor in om dit pad te bewandelen met nederigheid, nieuwsgierigheid en een diep gevoel van verantwoordelijkheid. We geloven dat we, door de inzichten van filosofen als Lorde, Haraway, Morin, Murdoch en Braidotti samen te brengen, een genuanceerdere en contextgevoeligere benadering van AI-ethiek kunnen ontwikkelen die complexiteit omarmt, individuen en gemeenschappen versterkt en aandacht heeft voor de nuances van geleefde ervaring.
Onze “low AI”-benadering getuigt van deze toewijding. Door AI minimaal en strategisch in te zetten, kunnen we systemen maken die prachtig menselijke dingen naar voren halen: complexe gedachten en filosofieën delen in speelse interacties, in dienst van participatieve besluitvorming. We erkennen dat dit geen wondermiddel is, maar een startpunt voor een breder gesprek over de rol van AI in ons leven en in onze samenleving.
Terwijl we verder gaan, blijven we ons inzetten voor het gesprek met diverse stakeholders, leren van onze fouten en ons aanpassen aan nieuwe uitdagingen en kansen. We geloven dat we, door trouw te blijven aan onze waarden en onze visie, een betekenisvolle bijdrage kunnen leveren aan de voortdurende evolutie van AI, op een manier die rechtvaardigheid, inclusie en menselijke bloei bevordert.
Uiteindelijk is de ontwikkeling van AI niet alleen een technische uitdaging, maar een diep menselijke. Ze vraagt van ons dat we worstelen met fundamentele vragen over wie we zijn, wat we waardevol vinden en wat voor wereld we willen creëren. Ze vraagt de bereidheid om moeilijke gesprekken aan te gaan, onze aannames ter discussie te stellen en open te blijven voor nieuwe manieren van denken en zijn. We geloven dat we, door samen te werken in een geest van samenwerking, creativiteit en zorg, de kracht van AI kunnen benutten om een rechtvaardigere, eerlijkere en bloeiendere wereld te bouwen.
Tot slot wil ik je dit meegeven.
Tussen zeggen en doen slijt menig paar schoenen. - Iris Murdoch
📨 Denk je dat we een fout hebben gemaakt, of wil je reageren? Daar staan we altijd voor open! Mail gerust naar [email protected]
Bronnen
Nederlandse overheid presenteert visie op generatieve AI: government.nl
Uitgelekte voorbereidingen voor een verbod op het gebruik van generatieve AI door Nederlandse ambtenaren en hun leveranciers: volkskrant.nl
Edgar Morin, On Complexity: amazon.com
Rosi Braidotti, “The Ethics of Joy”, Posthuman Glossary: bloomsbury.com
Iris Murdoch, Stanford Encyclopedia of Philosophy: plato.stanford.edu
Audre Lorde, Your Silence Will Not Protect You: amazon.com
Rutger Bregman, De meeste mensen deugen: amazon.com
Donna Haraway, Staying with the Trouble: amazon.com
Geschreven in samenwerking met Claude 3 Opus: anthropic.com