Зв'язатися з нами

EU

Чи може розумна стратегія #AI переконати ЄС у тому, що модерація вмісту #Facebook домігся?

ДОПОВНЕННЯ:

опублікований

on

Ми використовуємо вашу реєстрацію, щоб надавати вміст у спосіб, на який ви погодилися, і покращити наше розуміння вас. Ви можете будь -коли відписатися.

17 лютого під час зустрічі з європейськими політичними діячами в Брюсселі генеральний директор Facebook Марк Цукерберг (Фото) випустив білу книгу, в якій виклав стратегію боротьби зі шкідливим вмістом на платформах соціальних медіа. У відповідь на бажання Європейського Союзу посилити нагляд за технологічним сектором, мільярдер заявив, що галузь повинна регулюватися на глобальному, а не на місцевому рівні.

Він також стверджував, що відповідальність технологічних компаній за шкідливий вміст на їх платформах повинна бути обмежена - доки вони мають ефективні системи модерування вмісту. Однак пропозиції Цукерберга в Брюсселі отримали рішучий морозний прийом. Навіть після зустрічі з Цукербергом, ЄС стверджував, що нова пропозиція щодо модерації контенту від Facebook на багатьох фронтах була недооцінена, особливо не вдаючись до конкретних кроків, які платформа зробить для боротьби з незаконним вмістом в Інтернеті. "Цього не достатньо. Це занадто повільно, це занадто низько з точки зору відповідальності та регулювання », - погодився комісар із питань стратегії передачі даних Т’єррі Бретон після своєї зустрічі з керівництвом Facebook.

Де ця система теперішньої системи Facebook відпадає?

Технічні гіганти мають досить вузьке вікно, в якому переконувати європейських політиків у тому, що їх власних зусиль для стримування проблемного змісту достатньо. Закон Комісії про цифрові послуги, довгоочікуваний перегляд 20-річної директиви ЄС про електронну комерцію, планується впровадити пізніше цього року. Як зауважив Бретон, «якщо ми побачимо, що [власний процес Facebook для модерування контенту] - це не те, що нам потрібно щодо наших власних стандартів, нам доведеться це регулювати та вносити в наш [Закон про цифрові послуги]».

Facebook вирішив, що він може вирішити проблему модерації вмісту самостійно, використовуючи просування в галузі штучного інтелекту (AI) та машинного навчання, щоб покращити існуючу систему. На сьогодні термінальне завдання щодо виявлення та видалення проблемних матеріалів передається стороннім професіоналам, які використовують власний розсуд, щоб визначити, чому зображення чи відео є несприятливими.

Покладатися на такий людський нагляд є проблематичним, враховуючи жахливий характер, який деякі модератори контенту змушені просіювати - той факт, що працівники, що модерують вміст для Facebook у Лісабоні, Дубліні та Варшаві, засвідчили, що їх робота надала їм ПТСР, безумовно, піднімає червоні прапори в європейських установах. Крім того, ефективність поміркованості людини була поставлена ​​під сумнів після того, як Facebook неодноразово не вдавалося швидко видалити шкідливий вміст, наприклад, прямий ефірний напад 2019 року на мечеть Крістчерча.

AI може підключити деякі сліпі плями Facebook

реклама

Штучний інтелект має можливість значно зменшити таку залежність від поміркованості людини. Алгоритми, навчені машинним навчанням, можуть підтримувати модераторів, не лише зменшуючи їх вплив шкідливим вмістом в Інтернеті, але і збільшуючи їх продуктивність та точність. Facebook стверджує, що досі бачив багатообіцяючі результати в своїх експериментах з AI - за даними платформи, протягом другої половини 2019 року платформа зуміла позначити 99.8% графічного вмісту та 99.5% оголеності та експлуатації дітей ще до того, як користувачі повідомили про них. . Звичайно, технологія все ще потребує тонкого налаштування - алгоритми моделювання вмісту, засновані на AI, все ще особливо борються із визнанням нюансів мови ненависті, наприклад - питання, яке особливо хвилює Європейський Союз.

Більше того, Європейський Союз насторожено дозволяє Фейсбуку безкоштовно керуватись використанням такої чутливої ​​технології, як AI. Ці проблеми пов'язані, головним чином, із слабким досвідом Facebook у дотриманні європейських стандартів прозорості. Підвищення привабливості того, що компанія може розробити "алгоритми" чорної скриньки ", що запобігатиме сторонній чи державний аудит платформи.

В основі цифрової політики - оприлюдненої минулого тижня керівником ЄС з питань цифрового царя та конкуренції Маргрет Вестагер - регулюється, як компанії використовують штучний інтелект. Хоча ЄС хоче, щоб уряди стежили за більш ризиковими його аспектами, такими як використання технології розпізнавання обличчя, багато додатків у власному дворі Європи демонструють, як це можна безпечно та ефективно використовувати. Чи може Facebook взяти на них підказку?

Програми соціальних медіа наступного покоління роблять свій слід, використовуючи AI інноваційно

Зокрема, одна європейська програма творчо використовує штучний інтелект, щоб забезпечити своїм молодим користувачам більш безпечне та приємне враження. Yubo, програма для прямого трансляції у віці 13-25 років, покладається на баланс між складними алгоритмами та навчає молодь про Інтернет-шкоду, щоб зберегти своїх 20 мільйонів користувачів на безпеці на платформі. Ретельно навчений алгоритм виявляє проблемний вміст, наприклад, оголеність або хтось лише в нижній білизні, в прямому ефірі - саме тоді, коли запускається система втручання в режимі реального часу Юбо, надсилаючи попереджувальне повідомлення користувачам, пояснюючи, чому така поведінка є заперечною. Якщо користувач не виправить свою поведінку, потік можна вимкнути віддалено.

Для того, щоб переконатися, що додаток зарезервовано для підлітків та молодих людей, тим часом Yubo співпрацює з популярним британським постачальником цифрової ідентичності, Yoti, який відповідає завантаженим документам для ідентифікації до селфі користувача, використовуючи програмне забезпечення розпізнавання обличчя. Технологія Yoti - яка також розгортається у супермаркетах, щоб переконатися, що неповнолітні не купують товари з обмеженими можливостями, як сигарети чи алкоголь - можуть бути використані іншими програмами соціальних медіа, щоб «встановити вік» своєї громади або переконатися, що користувачі хто каже, що вони є.

Спроби Юбо відключити проблематичний інтернет-вміст у поєднанні - поєднуючи модерацію за допомогою комп'ютера та сенсибілізацію молодих користувачів щодо справ і недоліків хорошого онлайн-протоколу - спричинили сплеск у секторі технологій. Вони також повинні надати обнадійливий приклад як технічним гігантам, таким як Facebook, так і регуляторним органам, таким як Європейський Союз, що платформи соціальних медіа можуть досягти здорового балансу між надмірно залежною від ІС або людського нагляду.

Штучний інтелект - це не все для тих проблем, з якими стикаються платформи соціальних медіа. Оскільки Facebook прагне переконати ЄС у тому, що він здатний модерувати власний контент, однак, йому було б добре послужити, взявши підказку з додатків нового покоління, яким вдалося розробити цілісну стратегію, що включає AI, для збереження своїх користувачів у безпеці .

Поділіться цією статтею:

EU Reporter публікує статті з різних зовнішніх джерел, які висловлюють широкий спектр точок зору. Позиції, зайняті в цих статтях, не обов’язково відповідають EU Reporter.

Тенденції