Генеративният парадокс на дигиталните технологии

Когато цифровите технологии предоставят ново приложение или услуга, предвидени последици са положителни резултати очаквани от разработчиците и потребителите: например по-бързи работни процеси, по-добро таргетиране, подобрено потребителско изживяване или спестяване на разходи. В много дискурси за „злоупотреба с технологии“ фокусът пада върху злонамерени лица СЗО умишлено превръщане на системи в оръжие (напр. за измама, разпространение на дезинформация или извършване на кибератаки). Такива случаи обикновено се разглеждат чрез правни, регулаторни или правоприлагащи механизми и до голяма степен са извън обхвата на това, което Дигитална отговорност (DR) се стреми да се справи.

За разлика от това, най-коварните рискове често идват не от злоба, но от непредвидени негативни последици: онези ефекти, които се появяват с течение на времето, в различни контексти или чрез сложни взаимодействия, които никой не е предвидил. Например:

• А двигател за препоръки предназначени да увеличат ангажираността, биха могли неволно да засилят ехо-камерите или да маргинализират гледните точки на малцинствата.

• А инструмент за прогнозиране на полицейската дейност предназначени да разпределят ресурсите справедливо, биха могли да засилят историческите предразсъдъци и непропорционално да се насочат към кварталите в неравностойно положение.

• А инициатива „дигитална трансформация“ може да рационализира процесите с хартия, само за да увеличи потреблението на енергия, електронните отпадъци или алгоритмичната непрозрачност.

Тъй като тези вреди са възникващи, твърда регулация или статични законите не могат да предвидят всички бъдещи злоупотребиВместо това, това, което се изисква, е образование и системно прилагане на DR: осигуряване на капацитет за предвиждане, наблюдение, диагностициране и адаптиране на проектанти, потребители, институции и заинтересовани страни.

Напрежението става още по-изразено, когато Дигиталните технологии не са статични артефакти, но имат генеративни способности (напр. генеративен изкуствен интелект, отворени API, композируеми модули): те се развиват, разширяват, пренасочват и управляват от потребителите отвъд първоначалните дизайнерски намерения. Това въвежда парадокс на генеративносттаОт добрата страна, генеративността е основен механизъм това насърчава иновациите и креативността в много от нашите ежедневни инструменти (напр. магазини за приложения). От негативна страна обаче, генеративността въвежда и голяма степен на несигурностДори и доброкачественият дизайн може да доведе до непредвидена злоупотреба или каскадни странични ефекти, когато непредвидените негативни последици не могат да бъдат предвидени и се проявят в голям мащаб. На практика, отговорността трябва следователно разпростират се надолу по веригата към крайните потребители, не само нагоре по веригата към разработчиците.

The Проект DIRECT следователно има за цел именно да вгради Компетенции по DR широко в образованието, обучението и практиката. ДИРЕКТНО стреми се да се измести дигитална отговорност от теория до ежедневна практика, свързвайки осведомеността и действията. Заедно с нашите консорциумни партньори, пилотни обекти, преподаватели, малки и средни предприятия и всички други заинтересовани страни, ние съвместно разработваме обучителни интервенции, тестваме механизми за обратна връзка и заедно работим върху способността за отговорно управление на цифровите системи.

Ако вашата институция е готова да пилотира модул, да бъде домакин на семинар или да допринесе с примерни случаи, моля, свържете се с нас. С колективен ангажимент можем да трансформираме дигиталната отговорност от стремеж в организационна сила – заедно.