Навіть судовий позов на суму 2.4 мільярда доларів не зупинить ненависть в Інтернеті – Силіконова долина була спеціально створена, щоб її збільшити

У жовтні 2021 р. професор Меарег Амаре (Фото) було в доксе на Facebook. Через кілька тижнів його жорстоко вбили у власному домі, пише Кортні Мукой.

Тепер материнська компанія Facebook Meta стикається з проблемою Позов у ​​розмірі 2.4 мільярда доларів, звинувачений у підбурюванні до насильства в рідній для Амаре Ефіопії.

Доксінг Амаре не був випадковим. Його інформація не просто потрапила в чужі руки – її навмисно поширили як заклик до насильницького правосуддя. 

У сучасному світі роль держави в розслідуванні протиправних дій і захисті невинних була витіснена онлайн-натовпом, який діє як суддя, присяжний і кат.

І не тільки в Ефіопії. 

В Індії 20 чол були вбиті протягом двох місяців після того, як його звинуватили у викраденні дитини через WhatsApp у 2018 році. 

Незабаром після цього Німеччина стала свідком ксенофобських заворушень чутки в соціальних мережах стверджував, що німець був убитий шукачами притулку. А лише минулого року у Великій Британії спалахнули історичні заворушення після трагічного вбивства трьох молодих дівчат у Саутпорті, викликані хвилею дезінформація про особу ймовірного вбивці.

У кожному з цих випадків дезінформація була спрямована на меншини чи мусульманські громади, з якими вже стикаються рекордні рівні злочинів на ґрунті ненависті. 

З моменту народження алгоритм починає мутувати, навчаючись, як і кого ненавидіти на основі даних і шаблонів, з яких він навчається. Подібно до ефекту метелика, навіть найменший слід упередженості або дискримінації миттєво посилюється. 

Відтоді його швидко стає невпізнанним. Неконтрольований. Навіть його творцю. 

Але навіть якби він хотів, Марк Цукерберг не може вирвати вилку. 

Справа не тільки в тому, що машина переросла свого виробника, але й у тому, що жоден із відповідних гравців не має повного набору інструментів для її утримання. Технічні гіганти мають технічний досвід, але їм бракує ні волі, ні юридичної свободи діяти. Національні уряди мають законодавчу владу, але рухаються надто повільно, щоб встигати за інноваціями. І організації громадянського суспільства можуть розуміти шкоду краще за будь-кого, але їм не вистачає інфраструктури чи впливу, щоб змусити зміни.

Взяти, наприклад, ЄС Закон про цифрові послуги – вперше запропоновано наприкінці 2020 року, але не набуло чинності до 2024 року. Протягом тривалого періоду його розробки – ChatGPT було випущено лише у 2022 році – цифровий ландшафт різко змінився, в результаті чого його правила застаріли ще до їх впровадження. 

З моменту введення акта в дію, його виконання – що включає заходи приборкати мову ненависті в Інтернеті та алгоритмічне посилення екстремістського контенту виявилося складним. Напади на меншини, включно з мусульманами та євреями, досягли найвищого рівня. Ультраправі навіть використовуваний діяти як обгрунтування за їх власну дегуманізуючу риторику. 

В ООН минулого місяця, Мохаммад Аль-Ісса, генеральний секретар Світова мусульманська ліга, стверджував, що ісламофобія є зростаючою кризою. Аль-Ісса неодноразово попередили що штучний інтелект може стати зброєю в соціальних мережах, поширювати дезінформацію та вербувати екстремістів – саме тому він стверджує, що релігійні лідери повинні брати участь у розробці етичних рамок. Його застереження повторюють застереження Папи Франциска та Ватикану, які стверджують, що ШІ єтінь зла".

Зусилля Аль-Ісси протистояти ненависті задовго до сьогоднішніх дебатів щодо ШІ. У січні 2020 року він очолював делегацію мусульманських лідерів до меморіалу Аушвіц-Біркенау – один із найвищих ісламських візитів на це місце – підкреслюючи ширшу відданість протистоянню спадщині ненависті та насильства. Сьогодні, коли на Близькому Сході точиться війна, ця відданість сприянню міжконфесійному взаєморозумінню є як ніколи актуальною.

«Якщо релігійні лідери не мають місця на заходах [AI]», — попередив Аль-Ісса в Недавня стаття, «…розвиваються дебати щодо штучного інтелекту не вистачатимуть важливих експертів у цій галузі, необхідних для запобігання будь-якій можливості нової ери екстремізму на основі штучного інтелекту».

Щоб досягти будь-якого прогресу, технологія, політика та спільнота повинні припинити працювати ізольовано та почати будувати спільну, скоординовану відповідь. 

По-перше, ми повинні інвестувати в дослідження та розробки за межі бульбашки Кремнієвої долини, одночасно зменшуючи нашу залежність від все більш нестабільного правління президента Трампа. Далі ми маємо запровадити нові правила, які вимагатимуть від корпорацій та організацій консультуватись із зацікавленими сторонами спільноти протягом своєї діяльності та гарантувати, що алгоритми навчаються на інклюзивних наборах даних.

У той же час ЄС повинен вивчити нові інструменти для виявлення та пом’якшення неминучої упередженості систем ШІ. Ми також повинні запровадити універсальні програми грамотності зі штучним інтелектом і платформи підзвітності, навчаючи громадськість про потенційні загрози та надаючи їм можливість повідомляти про будь-які скарги. 

Те, що сталося в Ефіопії чи Саутпорті, не є аномалією, це попередження про те, що сьогоднішні платформи більше не є нейтральними просторами. Вони є активними учасниками формування суспільних настроїв і поведінки – надто часто таким чином, що підбурюють до насильства та поляризують суспільства.

Зрештою, цей позов проти Meta стосується не лише відповідальності, а й запобігання. Нормативні стандарти, безумовно, допоможуть, але обмеження мають бути збалансовані диверсифікацією.

Тільки тоді ми зможемо зберегти переваги цих технологій, не віддаючи саму ідею справедливості неконтрольованому алгоритмічному натовпу.

Про автора:

Кортні Мукойі є засновницею та директором Фонду «Правосуддя», який використовує існуючі та нові технології для просування прав людини в громадах Зімбабве. Він є ентузіастом CivicTech зі ступенем магістра права з міжнародної торгівлі Кейптаунського університету.

Muyoki отримав кілька нагород, у тому числі премію Democracy Innovation Award 2022 і премію Wangari Maathai AI Impact Award 2023. У 2023 році він був обраний для отримання стипендії Мандели у Вашингтоні. Зараз він працює в Молодіжній консультативній раді ООН з прав людини та Молодіжній раді Європейського Союзу. Він працював з різними організаціями, включаючи Accountability Lab і Африканський Союз, щоб просувати використання технологій і штучного інтелекту в правах людини та громадській активності. Він є серійним підприємцем, який також заснував стартап InsurTech під назвою TopSure, який почав його шлях до створення стартапів-єдинорогів в Африці.

Поділіться цією статтею: