De generatieve paradox van digitale technologie
Wanneer digitale technologieën een nieuwe toepassing of dienst opleveren, beoogde gevolgen zijn de positieve resultaten verwacht door ontwikkelaars en gebruikers: bijvoorbeeld snellere workflows, betere targeting, verbeterde gebruikerservaring of kostenbesparingen. In veel discoursen over “misbruik van technologie” de focus valt op kwaadwillende actoren WHO systemen opzettelijk als wapen gebruiken (bijvoorbeeld om te frauderen, desinformatie te verspreiden of cyberaanvallen uit te voeren). Dergelijke gevallen worden doorgaans aangepakt via juridische, regelgevende of wetshandhavingsmechanismen en vallen grotendeels buiten het domein van wat Digitale verantwoordelijkheid (DR) probeert aan te pakken.
Daarentegen is de meest verraderlijke risico's komen vaak niet uit kwaadaardigheid, maar door onbedoelde negatieve gevolgen: effecten die zich in de loop van de tijd, in verschillende contexten of via complexe interacties voordoen die niemand had voorzien. Bijvoorbeeld:
- A aanbevelingsengine die bedoeld zijn om de betrokkenheid te vergroten, kunnen onbedoeld echo chambers versterken of minderheidsstandpunten marginaliseren.
- A voorspellende politietool Een beleid dat bedoeld is om middelen eerlijk te verdelen, kan historische vooroordelen versterken en onevenredig veel achtergestelde buurten treffen.
- A initiatief voor ‘digitale transformatie’ zouden papierprocessen kunnen stroomlijnen, maar dit zou alleen maar leiden tot een hoger energieverbruik, meer elektronisch afval of een hogere algoritmische ondoorzichtigheid.
Omdat deze schade opduikt, is er sprake van rigide regelgeving of statische wetten kunnen niet alle toekomstig misbruik voorzienIn plaats daarvan is het volgende vereist: onderwijs en systemische implementatie van DR: ontwerpers, gebruikers, instellingen en belanghebbenden voorzien van de capaciteiten om te anticiperen, monitoren, diagnosticeren en zich aan te passen.
De spanning wordt nog groter als digitale technologieën zijn geen statische artefacten, maar hebben generatieve mogelijkheden (bijv. generatieve AI, open API's, samenstelbare modules): ze evolueren, worden uitgebreid, hergebruikt en door gebruikers aangestuurd voorbij de oorspronkelijke ontwerpintenties. Dit introduceert de generativiteitsparadox: aan de positieve kant is generativiteit de onderliggend mechanisme Dat bevordert innovatie en creativiteit in veel van onze dagelijkse tools (bijvoorbeeld app-winkels). Aan de negatieve kant introduceert generativiteit echter ook een grote mate van onzekerheid: zelfs een goedaardig ontwerp kan leiden tot onbedoeld misbruik of een cascade van bijwerkingen wanneer onbedoelde negatieve gevolgen niet konden worden voorzien en op grote schaal optreden. In de praktijk, verantwoordelijkheid moet daarom stroomafwaarts uitbreiden naar de eindgebruikers, niet alleen stroomopwaarts naar de ontwikkelaars.
De DIRECT project beoogt daarom juist in te bedden DR-competenties in brede zin, in onderwijs, opleiding en praktijk. DIRECT probeert te verschuiven digitale verantwoordelijkheid van theorie naar dagelijkse praktijk, waarbij bewustwording en actie worden gecombineerd. Samen met onze consortiumpartners, pilotlocaties, docenten, het MKB en alle andere geïnteresseerde partijen ontwerpen we leerinterventies, testen we feedbackmechanismen en werken we samen aan het vermogen om digitale systemen verantwoord te beheren.
Als uw instelling bereid is een module te testen, een workshop te organiseren of voorbeeldige cases aan te dragen, neem dan contact met ons op. Met collectieve betrokkenheid kunnen we digitale verantwoordelijkheid transformeren van ambitie naar organisatorische kracht – samen.
