Після триденних «марафонських» переговорів Голова Ради та учасники переговорів Європейського парламенту досягли попередньої згоди щодо пропозиції щодо узгоджених правил штучного інтелекту (ШІ), так званого закону про штучний інтелект. Проект регламенту спрямований на те, щоб системи штучного інтелекту, розміщені на європейському ринку та використовувані в ЄС, були безпечними та поважали основні права та цінності ЄС. Ця знакова пропозиція також спрямована на стимулювання інвестицій та інновацій у сфері ШІ в Європі.
Це історичне досягнення і величезна віха в майбутнє! Сьогоднішня угода ефективно вирішує глобальну проблему в технологічному середовищі, що швидко розвивається, у ключовій сфері для майбутнього наших суспільств і економік. І в цих зусиллях нам вдалося зберегти надзвичайно крихкий баланс: стимулювати інновації та впровадження штучного інтелекту в Європі, повністю поважаючи фундаментальні права наших громадян. Карме Артігас, державний секретар Іспанії з цифровізації та штучного інтелекту
Дія штучного інтелекту є a Флагман законодавча ініціатива з потенціалом для сприяння розвитку та застосуванню безпечного та надійного ШІ на єдиному ринку ЄС як приватними, так і державними суб’єктами. Основна ідея полягає в тому, щоб регулювати ШІ на основі здатності останнього завдавати шкоди суспільству після a "на основі ризику" підхід: чим вищий ризик, тим суворіші правила. Як перша законодавча пропозиція такого роду в світі, вона може встановити a глобальний стандарт для регулювання штучного інтелекту в інших юрисдикціях, як це зробив GDPR, таким чином просуваючи європейський підхід до технологічного регулювання на світовій арені.
Основні елементи тимчасової угоди
Порівняно з початковою пропозицією Комісії основні нові елементи попередньої угоди можна підсумувати таким чином:
правила на високопродуктивні моделі ШІ загального призначення які можуть спричинити системний ризик у майбутньому, а також на високому ризику Системи ШІ
переглянуту систему управління з деякими правозастосовчими повноваженнями на рівні ЄС
розширення списку заборони але з можливістю використання дистанційна біометрична ідентифікація правоохоронними органами в громадських місцях за умови дотримання заходів безпеки
кращий захист прав шляхом зобов’язання розгортачів систем ШІ з високим рівнем ризику проводити a оцінка впливу на основні права до введення системи ШІ в експлуатацію.
Якщо говорити більш конкретно, то тимчасова угода охоплює такі аспекти:
Визначення та сфера застосування
Для того, щоб визначення системи штучного інтелекту забезпечує достатньо чіткі критерії для відмежування штучного інтелекту від більш простих систем програмного забезпечення, компромісна угода узгоджує визначення з підходом, запропонованим OECD.
Попередня угода також роз'яснює, що регламент не застосовується до сфер, які не підпадають під дію законодавства ЄС, і ні в якому разі не повинен впливати на компетенцію держав-членів у національна безпека або будь-яка організація, якій доручено виконання завдань у цій сфері. Крім того, закон про ШІ не застосовуватиметься до систем, які використовуються виключно для військовий or захист цілей. Подібним чином угода передбачає, що положення не застосовуватимуться до систем штучного інтелекту, які використовуються з єдиною метою дослідження та інновації, або для людей, які використовують ШІ з непрофесійних причин.
реклама
Класифікація систем ШІ як високоризикових і заборонених практик ШІ
Компромісна угода передбачає а горизонтальний шар захисту, включаючи класифікацію високого ризику, щоб гарантувати, що системи штучного інтелекту, які не можуть спричинити серйозні порушення фундаментальних прав або інші значні ризики, не будуть зафіксовані. Лише презентація систем ШІ обмежений ризик буде піддаватися дуже світлому зобов'язання щодо прозорості, наприклад, розкриваючи, що контент був створений ШІ, щоб користувачі могли приймати обґрунтовані рішення щодо подальшого використання.
Широкий асортимент високий ризик Системи штучного інтелекту будуть дозволені, але за умови дотримання низки вимог і зобов’язань для отримання доступу на ринок ЄС. Ці вимоги були уточнені та скориговані співзаконодавцями таким чином, щоб їх було більше технічно можливо та менш обтяжливим для зацікавлених сторін, наприклад, щодо якості даних або щодо технічної документації, яку повинні складати МСП, щоб продемонструвати, що їхні високоризикові системи ШІ відповідають вимогам.
Оскільки системи штучного інтелекту розробляються та поширюються через складні ланцюжки доданої вартості, компромісна угода включає зміни, які уточнюють розподіл обов'язків та ролі різних акторів у цих ланцюгах, зокрема постачальники та користувачі систем ШІ. Він також роз’яснює зв’язок між обов’язками відповідно до Закону про штучний інтелект та обов’язками, які вже існують згідно з іншим законодавством, таким як відповідне законодавство ЄС про захист даних або галузеве законодавство.
Для деяких видів використання ШІ вважається ризик неприйнятно і, отже, ці системи будуть заборонені в ЄС. Тимчасовий договір забороняє, наприклад, когнітивну поведінкові маніпуляції, нецільовий списання зображень обличчя з Інтернету або записів камер відеоспостереження, розпізнавання емоцій на робочому місці та в навчальних закладах, соціальний бал, біометрична категоризація для отримання конфіденційних даних, таких як сексуальна орієнтація чи релігійні переконання, а також деякі випадки прогностична поліція для фізичних осіб.
Винятки правоохоронних органів
Враховуючи специфіку правоохоронні органи і потреби зберегти їх здатність використовувати штучний інтелект у своїй життєво важливій роботі, було узгоджено кілька змін до пропозиції Комісії щодо використання систем штучного інтелекту для цілей правоохоронних органів. За умови відповідного гарантії, ці зміни призначені для відображення необхідності поважати конфіденційність конфіденційних оперативних даних щодо їх діяльності. Наприклад, було введено надзвичайну процедуру, яка дозволяє правоохоронним органам розгортати інструмент штучного інтелекту з високим рівнем ризику, який не пройшов перевірку. оцінки відповідності порядок дій у термінових випадках. Але для цього також запроваджено певний механізм основні права буде достатньо захищений від будь-яких потенційних зловживань систем ШІ.
Більш того, що стосується використання реального часу дистанційна біометрична ідентифікація систем у загальнодоступних місцях, тимчасова угода роз’яснює цілі, коли таке використання є суворо необхідним для цілей правоохоронних органів і для яких правоохоронним органам має бути дозволено використовувати такі системи у виняткових випадках. Компромісна угода передбачає додаткові гарантії і обмежує ці винятки випадками жертв певних злочинів, запобіганням справжнім, поточним або передбачуваним загрозам, таким як терористичні атаки, і розшукам осіб, підозрюваних у найтяжчих злочинах.
Системи ШІ загального призначення та основні моделі
Було додано нові положення, щоб врахувати ситуації, коли системи штучного інтелекту можна використовувати для багатьох різних цілей (ШІ загального призначення), і де технологію ШІ загального призначення згодом інтегровано в іншу систему високого ризику. Попередня угода також стосується конкретних випадків систем ШІ загального призначення (GPAI).
Також було узгоджено конкретні правила моделі фундаменту, великі системи, здатні компетентно виконувати широкий спектр характерних завдань, таких як генерація відео, тексту, зображень, розмова на сторонній мові, обчислення або генерація комп’ютерного коду. Попередня угода передбачає, що моделі фундаментів повинні відповідати спец зобов'язання щодо прозорості до того, як вони будуть розміщені на ринку. Введено більш суворий режим для "високий вплив" моделі фундаменту. Це базові моделі, навчені великою кількістю даних і з розширеною складністю, можливостями та продуктивністю, значно вищими за середні, які можуть поширювати системні ризики вздовж ланцюжка створення вартості.
Нова архітектура управління
Дотримуючись нових правил щодо моделей GPAI та очевидної необхідності їх виконання на рівні ЄС, an AI Office Комісія створена для нагляду за цими найдосконалішими моделями штучного інтелекту, сприяння розвитку стандартів і методів тестування та забезпечення дотримання загальних правил у всіх державах-членах. А наукова група незалежних експертів консультуватиме Офіс штучного інтелекту щодо моделей GPAI, роблячи внесок у розробку методологій для оцінки можливостей моделей фундаментів, консультуючи щодо призначення та появи моделей фундаментів зі значним впливом, а також відстежуючи можливі ризики безпеки матеріалів, пов’язані з моделями фундаментів.
Команда Дошка AI, який складатиметься з представників держав-членів, залишатиметься координаційною платформою та дорадчим органом Комісії та надаватиме важливу роль державам-членам у впровадженні регламенту, включаючи розробку кодексів практики для основних моделей. Нарешті, ан консультативний форум для зацікавлених сторін, таких як представники галузі, МСП, стартапи, громадянське суспільство та наукові кола, буде створено для надання технічної експертизи Раді AI.
штрафи
Штрафи за порушення закону про штучний інтелект встановлювалися як відсоток від глобального річного обороту компанії-порушника за попередній фінансовий рік або заздалегідь визначеної суми, залежно від того, яка з цих сум вище. Це становитиме 35 мільйонів євро або 7% за порушення заборонених додатків штучного інтелекту, 15 мільйонів євро або 3% за порушення зобов’язань щодо штучного інтелекту та 7,5 мільйонів євро або 1,5% за надання невірної інформації. Проте тимчасова угода передбачає більш пропорційні шапки про адміністративні штрафи для МСП та новостворених підприємств у разі порушення положень закону про АІ.
Компромісна угода також чітко визначає, що фізична або юридична особа може звернутися зі скаргою до відповідного орган ринкового нагляду щодо невідповідності акту AI і може очікувати, що така скарга буде розглянута відповідно до спеціальних процедур цього органу.
Прозорість і захист основних прав
Попередня угода передбачає а оцінка впливу на основні права до того, як високоризикова система штучного інтелекту буде випущена на ринок її розгортачами. Попередня угода також передбачає підвищення прозорість щодо використання систем ШІ високого ризику. Зокрема, деякі положення пропозиції Комісії були змінені, щоб вказати, що певні користувачі системи штучного інтелекту з високим рівнем ризику, які є публічними організаціями, також будуть зобов’язані зареєструватися в База даних ЄС для систем штучного інтелекту з високим ризиком. Крім того, нещодавно додані положення акцентують увагу на зобов’язанні для користувачів система розпізнавання емоцій інформувати фізичних осіб, коли вони зазнають впливу такої системи.
Заходи підтримки інноваційної діяльності
З метою створення законодавчої бази, яка є більш сприятливою для інновацій, і сприяння нормативному навчанню на основі фактичних даних, положення щодо заходи підтримки інновацій були суттєво змінені порівняно з пропозицією Комісії.
Примітно, що було уточнено, що А.І нормативні пісочниці, які мають створити контрольоване середовище для розробки, тестування та валідації інноваційних систем штучного інтелекту, також мають дозволити тестування інноваційних систем штучного інтелекту в реальних умовах. Крім того, були додані нові положення, що дозволяють Тестування систем ШІ в умови реального світу, за певних умов і гарантій. Щоб полегшити адміністративний тягар для невеликих компаній, тимчасова угода включає перелік заходів, які необхідно вжити для підтримки таких операторів, і передбачає деякі обмежені та чітко визначені відступи.
Вступ в силу
Попередня угода передбачає застосування акта АІ два роки після набрання ним чинності, за винятком окремих положень.
Наступні кроки
Після сьогоднішньої попередньої домовленості найближчими тижнями буде продовжено роботу на технічному рівні, щоб завершити деталі нового регламенту. Головування передасть компромісний текст представникам держав-членів (Coreper) на схвалення після завершення цієї роботи.
Весь текст має бути підтверджений обома інституціями та пройти юридично-мовний перегляд перед офіційним ухваленням співзаконодавцями.
Вихідна інформація
Пропозиція Комісії, представлена в квітні 2021 року, є ключовим елементом політики ЄС щодо сприяння розвитку та поширенню на єдиному ринку безпечного та законного ШІ, який поважає основні права.
Пропозиція дотримується підходу, що ґрунтується на оцінці ризиків, і встановлює уніфіковану горизонтальну правову основу для штучного інтелекту, яка спрямована на забезпечення правової визначеності. Проект регламенту спрямований на сприяння інвестиціям та інноваціям у сфері штучного інтелекту, покращення управління та ефективного забезпечення дотримання чинного законодавства про основні права та безпеку, а також сприяння розвитку єдиного ринку програм штучного інтелекту. Він іде рука об руку з іншими ініціативами, включаючи скоординований план штучного інтелекту, який спрямований на прискорення інвестицій у ШІ в Європі. 6 грудня 2022 року Рада досягла згоди щодо загального підходу (мандат на переговори) щодо цього файлу та розпочала міжінституційні переговори з Європейським парламентом («триалоги») у середині червня 2023 року.
EU Reporter публікує статті з різних зовнішніх джерел, які висловлюють широкий спектр точок зору. Позиції, зайняті в цих статтях, не обов’язково відповідають EU Reporter.
