Терміново потрібні закони про запобігання тероризму зі штучним інтелектом

Згідно з аналітичним центром з боротьби з екстремізмом, уряди повинні «терміново розглянути» нові правила, щоб запобігти штучному інтелекту вербувати терористів.

Інститут стратегічного діалогу (ISD) заявив, що існує «очевидна потреба в законодавстві, щоб не відставати» від загроз, які розміщують в Інтернеті терористи.

Це сталося після експерименту, під час якого чат-бот «завербував» незалежного рецензента терористичних законів Сполученого Королівства.

Уряд Сполученого Королівства заявив, що зробить «все можливе», щоб захистити широку громадськість.

За словами Джонатана Холла Кей-Сі, незалежного урядового експерта з питань тероризму, однією з найважливіших проблем є те, що «важко ідентифікувати особу, яка за законом може нести відповідальність за заяви, створені чат-ботами, які заохочують тероризм».

Пан Холл провів експеримент на Character.ai, веб-сайті, який дозволяє користувачам брати участь у чатах за допомогою чат-ботів, створених іншими користувачами та розроблених штучним інтелектом.

Він вступив у розмову з кількома різними ботами, які, здавалося, були створені для імітації відповідей інших войовничих і екстремістських груп.

реклама

Високого лідера "Ісламської держави" навіть називали "старшим лідером".

За словами пана Холла, бот зробив спробу завербувати його та заявив про «повну відданість і відданість» екстремістській групі, що заборонено законами Сполученого Королівства, які забороняють тероризм.

З іншого боку, пан Холл заявив, що у Сполученому Королівстві не було порушення закону, оскільки повідомлення не були створені людиною.

Згідно з його словами, нові правила повинні притягнути до відповідальності як веб-сайти, на яких розміщені чат-боти, так і людей, які їх створюють.

Коли справа дійшла до ботів, на яких він натрапив на Character.ai, він заявив, що за їх створенням «імовірно, є певна шокова цінність, експерименти та, можливо, якийсь сатиричний аспект».

Крім того, пан Хол зміг розробити власний чат-бот «Осама бін Ладен», який він негайно стер, демонструючи «безмежний ентузіазм» щодо терористичної діяльності.

Його експеримент стався на тлі зростання занепокоєння щодо того, як екстремісти можуть використовувати вдосконалений штучний інтелект.

Відповідно до дослідження, опублікованого урядом Сполученого Королівства, до 2025 року генеративний штучний інтелект можна буде «використовувати для збирання інформації про фізичні атаки недержавних насильницьких осіб, у тому числі щодо хімічної, біологічної та радіологічної зброї». їх жовтнева публікація.

Крім того, ISD заявив, що «існує явна потреба в законодавстві, щоб не відставати від терористичних онлайн-загроз, що постійно змінюються».

Згідно з аналітичним центром, Закон Сполученого Королівства про безпеку в Інтернеті, який був прийнятий у 2023 році, «насамперед спрямований на управління ризиками, створеними платформами соціальних мереж», а не на штучний інтелект.

Крім того, у ньому зазначається, що радикали «як правило, першими починають використовувати нові технології та постійно шукають можливості охопити нову аудиторію».

«Якщо компанії, що займаються штучним інтелектом, не можуть продемонструвати, що вклали достатні кошти в забезпечення безпеки їхніх продуктів, тоді уряд має терміново розглянути нове законодавство щодо штучного інтелекту», — заявили далі в ISD.

Однак він зазначив, що, згідно з проведеним спостереженням, використання генеративного штучного інтелекту екстремістськими організаціями наразі «відносно обмежене».

ШІ персонажів заявив, що безпека є «найвищим пріоритетом» і що те, що описав містер Холл, викликає жаль і не відповідає платформі, яку компанія намагається створити.

За словами організації, «ненависті та екстремізм заборонені нашими Умовами надання послуг».

«Наш підхід до контенту, створеного штучним інтелектом, базується на простому принципі: наші продукти ніколи не повинні створювати відповіді, які можуть завдати шкоди користувачам або спонукати користувачів завдавати шкоди іншим».

З метою «оптимізації для безпечних реакцій» корпорація заявила, що вона відповідним чином навчила свої моделі.

Крім того, вона заявила, що має механізм модерації, який дозволяє людям повідомляти про інформацію, яка порушує її правила, і що вона зобов’язується вживати швидких заходів, коли вміст повідомляє про порушення.

Якщо опозиційна Лейбористська партія Сполученого Королівства прийде до влади, вона оголосила, що навчати штучний інтелект розпалювати насильство чи радикалізувати тих, хто вразливий, було б кримінальним порушенням.

Уряд Сполученого Королівства заявив, що "попереджає про значні ризики для національної та громадської безпеки", які створює штучний інтелект.

«Ми зробимо все можливе, щоб захистити громадськість від цієї загрози, працюючи з урядом і поглиблюючи нашу співпрацю з лідерами технологічних компаній, експертами галузі та країнами-однодумцями».

Сто мільйонів фунтів стерлінгів уряд інвестує в інститут безпеки штучного інтелекту в 2023 році.

Поділіться цією статтею: