# Штучна розвідка - Законодавство ЄС має встановити безпечні межі для додатків з високим ризиком, говорить #EESC

Біометричне розпізнавання для відстеження, спостереження та виявлення емоцій не повинно мати місця в орієнтованому на людину підході до штучного інтелекту (ШІ). Європейський економічний та соціальний комітет (ЄЕСК) відповідь на Білу книгу Європейської Комісії щодо ШІ, прийнятий на пленарному засіданні ЄЕСК у липні.

Європейська Комісія запропонувала заявку на ІП вважати підвищеною небезпекою, якщо вона включає як сектор високого ризику (охорона здоров'я, транспорт, енергетика та частини державного сектору), так і використання високого ризику, за кількома винятками, які є ще не визначено. Тільки якщо ці дві умови будуть дотримані, пропонує Комісія, чи слід говорити про ІС із високим рівнем ризику, які підпадають під конкретні регламенти та структури управління.

ЄЕСК вважає, що це визначення ризикує створити потенційно небезпечні лазівки. Політична реклама Facebook є яскравим прикладом, вважає Комітет.

"Реклама є сектором із низьким ризиком, і функцію агрегування новин Facebook можна розглядати як використання з низьким ризиком. Однак, стверджує доповідач думки Кателіне Мюллер," ми спостерігали під час виборчих кампаній, що поширення у Facebook фальшивих новин та фальшивих фальшивих платежів за допомогою ШІ може мати багато негативних наслідків і впливати на те, як люди голосують, втручаючись навіть поза межами Європи ".

Чи повинні бути звільнення від цього, і скільки їх має бути? Замість того, щоб складати перелік винятків, ЄЕСК вважає, що було б краще скласти перелік загальних характеристик, які вважатимуться ризикованими, незалежно від сектору.

Багато додатків мають сильний вплив на основні права, підкреслює Мюллер, не лише на приватність людей, але і на їх право демонструвати або вступати до профспілки, наприклад.

Темна сторона біометричного розпізнавання

реклама

Розпізнавання обличчя та біометрії - одна з ключових сфер, де ШІ торкається основних прав. Його використання може бути дозволено для цілей особистої ідентифікації - і справді регулюється Загальним регламентом про захист даних.

Але широке використання біометричного розпізнавання, керованого ШІ, для спостереження або відстеження, оцінки або категоризації поведінки чи емоцій людини повинно бути заборонено. Тим більше, що немає жодних наукових доказів того, що ми можемо розпізнати почуття людини на основі їх біометрії, підкреслює Мюллер.

Програми відстеження та відстеження COVID-19

Комітет також застерігає від неконтрольованого сплеску технологій відстеження та відстеження, що проникає в наше суспільство набагато швидше і з набагато меншим увагою, ніж раніше, намагаючись боротися зі спалахом коронавірусу.

"Методи та підходи ШІ для боротьби з пандемією повинні бути такими ж надійними, ефективними, прозорими та пояснюваними, як і будь-яка інша техніка ШІ в будь-якій іншій ситуації", - говорить доповідач ЄЕСК. "Вони повинні підтримувати права людини, етичні принципи та законодавство. Вони також повинні бути добровільними, тому що, хочемо ми того чи ні, багато методів, впроваджених під час кризи, стануть постійними".

Європейський Комітет сподівається, що Комісія візьме на озброєння свої внески, як це робилося з рекомендаціями, висловленими Європейською Комісією з моменту її створення новаторська думка щодо ШІ 2017 року, яка вперше відстоювала підхід "штучного керівника" до ШІ в Європі.

фон

Команда Біла книга про ІІІ, яка є частиною широкомасштабного пакету заходів щодо штучного інтелекту, оголошеного у повідомленні Європейської Комісії «Формування цифрового майбутнього Європи», висувається:

• Заходи щодо упорядкування досліджень, сприяння співпраці між державами-членами та збільшення інвестицій в ІІ;
• варіанти політики щодо майбутньої регуляторної бази ЄС щодо ШІ з сильним акцентом на заявках з високим рівнем ризику.

У лютому 2020 року Комісія розпочала публічну консультацію щодо Білої книги, яка тривала до 14 червня, і отримала понад 1 відповідей на анкети та близько 200 письмових заяв. Зараз Комісія опрацьовує цю інформацію та незабаром опублікує звіт.

Формування цифрового майбутнього Європи окреслює дії, які Європейська комісія планує вжити, щоб забезпечити Європу, пристосовану до цифрової ери, що є одним з головних пріоритетів Урсули фон дер Леєн у свій час на посаді президента виконавчої влади Європи. Він базується на трьох ключових опорах:

• Технологія, яка працює для людей;
• справедливу та конкурентоспроможну цифрову економіку;
• відкрите, демократичне та стійке суспільство.

Комітет надав свої поради щодо "Формування цифрового майбутнього Європи" у, також прийнятому на липневому пленарному засіданні ЄЕСК, з однією ключовою рекомендацією:

"Сама швидкість цифрової трансформації означає, що ми не знаємо, які нові події відбудуться наступного місяця. Отже, ми повинні бути гнучкими та адаптованими. Це вимагає постійного діалогу між усіма залученими сторонами. ЄЕСК, як голос організованої цивільної суспільство, має бути його частиною, і ми просимо Комісію налагодити такий постійний діалог ", - заявив доповідач думок Ульріх Самм.

Поділіться цією статтею: