In juli 2026 werd onze transcriptie langzamer. We willen graag uitleggen waarom we dachten dat dat het waard was.

dembrane draaide voorheen twee parallelle processen om ervoor te zorgen dat iedereen in de ruimte gehoord werd: AssemblyAI maakte een letterlijk transcript dat Gemini vervolgens controleerde. We zijn nu bezig met onze nalevingsronde voor de EU AI Act voor volgend jaar, en de voorwaarden van AssemblyAI vereisen dat klanten de dienst op geen enkele manier gebruiken die ertoe zou kunnen leiden dat deze, of een systeem waarmee deze is geïntegreerd, wordt geclassificeerd als 'hoog risico' onder de EU AI Act. Daarom kunnen we dit niet langer in onze pipeline opnemen.

We stonden voor een keuze: de trend in de sector volgen om de verantwoordelijkheid voor naleving af te schuiven op gebruikers, of een andere manier proberen: de tijd en moeite nemen om door deze belangrijke nalevingsnormen te navigeren om ervoor te zorgen dat je dembrane kunt vertrouwen.

Je vraagt je misschien af: waarom zou ik dembrane gebruiken in een "hoog risico"-omgeving? Nou, omdat "hoog risico" (zoals gedefinieerd in artikel 6 van de EU AI Act) onderwijs en beroepsopleiding omvat, evenals geschiktheid voor gezondheidszorg, noodhulp, migratie en andere publieke kwesties, en, het allerbelangrijkste, democratische processen. Allemaal zaken die van vitaal belang zijn voor actieve burgerparticipatie, en die we actief willen ondersteunen in onze missie om de democratie toegankelijker te maken.

We bouwen de volgende fase van dembrane rondom de EU AI Act, in plaats van deze alleen maar oppervlakkig over te nemen. Daarom helpen we onze klanten met risicobeheertrainingen over hoe ze onze tool kunnen gebruiken voor al hun toepassingen terwijl ze compliant blijven. Twee derde van onze hoog-risicoklanten (and counting!) heeft deze training al gehad.

Als je participatie-, onderwijs- of zorgprocessen uitvoert, is "hoog risico" geen reden om AI te vermijden: het is een reden om voorzichtig te zijn met welke modellen je gebruikt en hoe.

Het probleem met de kleine lettertjes

Weet jij of je je elke keer opnieuw moet afmelden voor datatraining als een leverancier zijn servicevoorwaarden bijwerkt? Wij ook niet. En dat is precies het probleem.

Een andere reden waarom we ons niet langer prettig voelden bij het gebruik van AssemblyAI in onze pipeline, is hun gebrek aan transparantie over de vraag of we opnieuw moeten onderhandelen over aangepaste overeenkomsten en ons moeten afmelden voor het gebruik van onze (jouw) gegevens, telkens wanneer hun servicevoorwaarden worden bijgewerkt en we hier (opnieuw) mee akkoord moeten gaan.

Wat dit helaas benadrukt, is een industriestandaard: patronen die met opzet achter de schermen worden gehouden. Er is weinig transparantie over wat de servicevoorwaarden daadwerkelijk betekenen voor gebruikers, en deze juridische voorwaarden veranderen zo vaak dat het bijna onmogelijk is om bij te blijven.

Je gesprekken zouden niet beheerst moeten worden door kleine lettertjes die constant veranderen. Als je een burgerberaad of een stakeholdersessie organiseert, zou je geen heel juridisch team paraat moeten hebben om te weten waar de audio naartoe gaat.

Wat we aan het bouwen zijn

In praktische termen: tegen het einde van de zomer willen we dembrane leveren met een open-source, EU-soeverein transcriptiemodel, en uiteindelijk onze hele infrastructuur verplaatsen naar onze eigen in de EU gehoste modellen. (PS: als je een AI ops engineer bent en onze visie op een democratischere toekomst deelt, we zoeken nog mensen!)