Ethisch whitepaper

13 apr 2024

Ethisch Whitepaper

Dembrane start een initiatief om de gebruikersautonomie in onze tools te maximaliseren en versnelt een overgang weg van het naïef implementeren van grote grensverleggende AI-modellen. Hoewel het overmatig gebruik van deze krachtige modellen misschien gemakkelijker is, komt het niet overeen met ons doel om mensen te versterken met eenvoudige en geliefde tools.

Concreet betekent dit dat we streven naar:

AI-componenten ontwikkelen die gebruikers controle geven, met duidelijke grenzen rondom door AI gegenereerde inhoud. Gebruikers kunnen AI-suggesties accepteren, afwijzen of aanpassen.
Transparantiemaatregelen implementeren zodat gebruikers begrijpen wanneer ze interactie hebben met AI en hoe het hun ervaring verbetert. Geen verborgen AI, minimale black boxes.
Streng testen op vooroordelen en blinde vlekken in onze AI-toepassingen, en proactief verschillende perspectieven zoeken in onze data en gebruikersfeedbackloops.
Prioriteit geven aan AI-toepassingen die menselijke creativiteit en besluitvorming versterken in plaats van deze weg te automatiseren. Onze tools moeten actieve menselijke betrokkenheid en kritisch denken vereisen.
Doorlopend monitoren en beoordelen van de impact van onze AI-systemen in de echte wereld en bereid zijn onze aanpak zo nodig aan te passen voor meer ethische resultaten.

Deze blogpost dient als een ethisch whitepaper waarin onze positie en inzet voor het investeren in mensgerichte “lage AI” tools wordt uiteengezet. We geloven dat deze aanpak, hoewel op korte termijn uitdagender, op de lange termijn meer versterkende en ethisch afgestemde technologieën zal opleveren. Ons doel is om leiders te zijn in verantwoordelijke AI-innovatie die de samenleving werkelijk ten goede komt.

Complexiteit Aanpakken en "Lage AI" Pionieren voor Ethische Collectieve Intelligentie

Naarmate kunstmatige intelligentie (AI) zich in hoog tempo blijft ontwikkelen, worstelen overheden, bedrijven en individuen met de implicaties. De recente acties van de Nederlandse overheid, waarbij generatieve AI wordt omarmd terwijl tegelijkertijd voorbereiding wordt getroffen voor mogelijke regulering, benadrukken de complexe ethische overwegingen rondom deze transformerende technologie. Bij Dembrane erkennen we de noodzaak om dit onontgonnen gebied met zorg te navigeren, en als team putten we vaak uit de wijsheid van ethische denkers om onze benadering te leiden.

Context

De schijnbare tegenstrijdigheid van de Nederlandse overheid benadrukt de moeilijke evenwichtsoefening die overheden moeten ondernemen in het AI-tijdperk. Ze moeten een manier vinden om de voordelen van AI te benutten terwijl ze tegelijkertijd de risico's verminderen en ervoor zorgen dat de ontwikkeling en toepassing ervan in lijn zijn met maatschappelijke waarden en prioriteiten. Dit is geen gemakkelijke taak, aangezien het vereist dat men zich bezighoudt met een reeks complexe ethische, sociale en politieke overwegingen.

Bovendien weerspiegelt de houding van de overheid de bredere maatschappelijke spanningen rondom AI. Aan de ene kant is er een groeiend openbaar enthousiasme voor het potentieel van AI om ons leven ten goede te transformeren. Veel mensen zijn enthousiast over de mogelijkheid van efficiëntere diensten, gepersonaliseerde ervaringen en op data gebaseerde besluitvorming. Aan de andere kant is er een toenemend aantal zorgen over de mogelijke nadelen van AI, waaronder baanverlies, schending van privacy en de versterking van bestaande vooroordelen en ongelijkheden, en mogelijk nieuwe creëren.

“Vooroordeel is een probleem, zelfs als het mij uitkomt.”

een kort verhaal over de uitdaging van vooroordelen, waar ze ook ontstaan

Tijdens het analyseren van de resultaten van een bepaald participatief proces, had ik mijn eerste ervaring met AI-vooroordelen. Ik had om een samenvatting van een reeks documenten gevraagd, en het antwoord dat ik kreeg was volkomen redelijk. Precies wat ik vroeg, zelfs inclusief de perspectieven van minderheden en een klein conflict tussen twee belangengroep.

Het voelde te gepolijst. Ik vroeg welke soorten belanghebbenden zich ongezien, misschien zelfs beledigd zouden voelen door de samenvatting. De AI vertelde mij vervolgens:

Eigenaren van kleine bedrijven
Mensen die in de buitenwijken wonen
Frequent autorijders
Hulpdiensten

Ik behoor niet tot een van die groepen. Geblindeerd door mijn eigen vooroordelen had ik bijna het rapport ingediend zonder hun cruciale perspectieven mee te nemen.

Nu zag ik “In het veld” hoe de ontwikkeling en toepassing van AI geen neutraal proces is, maar een proces dat bestaande ongelijkheden en discriminatie zowel kan voortzetten als versterken, evenals nieuwe vooroordelen kan creëren. Dit vooroordeel was niet opzettelijk of kwaadaardig, maar eerder een weerspiegeling van de waarden die in de data en algoritmen ingebed zijn die het AI-systeem aandrijven. Het was een krachtige herinnering dat AI geen wondermiddel is, maar een krachtig hulpmiddel dat met zorg en verantwoordelijkheid moet worden gehanteerd.

Blijven bij de moeilijkheid

Haraway's oproep om "bij de problemen te blijven" en "erdoor te ploeteren" is een krachtige herinnering dat het doel van AI-ontwikkeling niet zou moeten zijn om een mythische staat van perfectie of neutraliteit te bereiken, maar eerder om zich bezig te houden met de rommelige realiteiten van de wereld zoals die is. Het gaat erom onze handen vuil te maken, fouten te maken en ervan te leren. Het gaat erom de onzekerheid en dubbelzinnigheid te omarmen die gepaard gaan met het verkennen van nieuw terrein.

Dit perspectief resoneert diep met Edgar Morin's paradigma van complexiteit. Morin stelt dat het dominante paradigma van simplificatie, dat streeft naar het reduceren tot eenvoudige, deterministische modellen, fundamenteel ontoereikend is voor het begrijpen van de wereld in al haar rijkdom en diversiteit. In plaats daarvan pleit hij voor een paradigma van complexiteit dat onzekerheid, tegenstrijdigheid en emergentie als essentiële kenmerken van de realiteit omarmt. Voor Morin is het engageren in complex denken niet slechts een intellectuele oefening, maar een ethisch imperatief. Het vereist dat we de verleiding weerstaan van gemakkelijke antwoorden en snelle oplossingen, en dat we de volledige complexiteit van de uitdagingen waarmee we worden geconfronteerd onder ogen zien. Het vereist een bereidheid om meerdere perspectieven te overwegen, om deel te nemen aan dialoog en debat, en om open te staan voor nieuwe ideeën en mogelijkheden.