Generativni paradoks digitalne tehnologije
Ko digitalne tehnologije prinesejo novo aplikacijo ali storitev, predvidene posledice so pozitivni rezultati pričakovanja razvijalcev in uporabnikov: na primer hitrejši delovni procesi, boljše ciljanje, izboljšana uporabniška izkušnja ali prihranki stroškov. V mnogih razpravah o “"zloraba tehnologije"” poudarek pade na zlonamerni akterji WHO namerno oborožujejo sisteme (npr. za goljufijo, širjenje dezinformacij ali izvajanje kibernetskih napadov). Takšni primeri se običajno obravnavajo s pravnimi, regulativnimi ali mehanizmi pregona in večinoma ležijo zunaj področja tega, kar Digitalna odgovornost (DR) želi obravnavati.
V nasprotju s tem pa najbolj zahrbtna tveganja pogosto pridejo ne iz zlobe, ampak zaradi nenamernih negativnih posledic: tisti učinki, ki se pojavijo sčasoma, v različnih kontekstih ali zaradi kompleksnih interakcij, ki jih nihče ni predvidel. Na primer:
- A priporočilni mehanizem zasnovani za povečanje angažiranosti, lahko nenamerno okrepijo odmevne komore ali marginalizirajo stališča manjšin.
- A orodje za napovedno policijsko delo namenjena pravični razporeditvi virov, bi lahko okrepila zgodovinske pristranskosti in nesorazmerno ciljala na prikrajšane soseske.
- A “pobuda "digitalna transformacija" lahko poenostavi papirne postopke, kar pa poveča porabo energije, količino elektronskih odpadkov ali nepreglednost algoritmov.
Ker so te škode nastajajoče, rigidne ali statične zakoni ne morejo predvideti vseh prihodnjih zlorab. Namesto tega je potrebno izobraževanje in sistemsko izvajanje DR: opremljanje oblikovalcev, uporabnikov, institucij in deležnikov z zmožnostmi predvidevanja, spremljanja, diagnosticiranja in prilagajanja.
Napetost postane še bolj izrazita, ko digitalne tehnologije niso statični artefakti, ampak imajo generativne sposobnosti (npr. generativna umetna inteligenca, odprti API-ji, sestavljivi moduli): razvijajo se, razširjajo, spreminjajo namen in jih uporabniki usmerjajo onkraj prvotnih načrtov. To uvaja paradoks generativnosti: na svetli strani je generativnost osnovni mehanizem to spodbuja inovativnost in ustvarjalnost v mnogih naših vsakdanjih orodjih (npr. trgovinah z aplikacijami). Na negativni strani pa generativnost uvaja tudi velika stopnja negotovosti: tudi neškodljiva zasnova lahko povzroči nenamerno zlorabo ali kaskadne stranske učinke, kadar nenamernih negativnih posledic ni bilo mogoče predvideti in se pojavijo v velikem obsegu. V praksi, odgovornost mora zato razširiti navzdol proti končnim uporabnikom, ne le pred razvijalci.
The Projekt DIRECT zato si prizadeva prav za vgradnjo Kompetence DR na splošno v izobraževanje, usposabljanje in prakso. NEPOSREDNO si prizadeva za premik digitalna odgovornost od teorije do vsakdanje prakse, ki povezuje ozaveščenost in ukrepanje. Skupaj z našimi konzorcijskimi partnerji, pilotnimi lokacijami, vzgojitelji, malimi in srednje velikimi podjetji ter vsemi drugimi zainteresiranimi deležniki sooblikujemo učne intervencije, preizkušamo mehanizme povratnih informacij in skupaj izboljšujemo zmožnost odgovornega upravljanja digitalnih sistemov.
Če je vaša institucija pripravljena pilotno izvesti modul, gostiti delavnico ali prispevati zgledne primere, se obrnite na nas. S kolektivnim sodelovanjem lahko digitalno odgovornost spremenimo iz ambicije v organizacijsko moč – skupaj.
