Регулювання не стоїть на місці. І доки всі зацікавлено дивляться в бік процесів довкола Акта про штучний інтелект (ШІ) на рівні ЄС, паралельно відбуваються не менш фундаментальні зрушення в межах Комітету Ради Європи зі штучного інтелекту. Так, вчора Комітет нарешті оприлюднив фінальний текст Рамкової конвенції про штучний інтелект, права людини, демократію та верховенство права — документа, над яким близько трьох років працювали представники держав-учасниць Ради Європи, інших країн, що долучилися в процесі, а також спостерігачі від громадянського суспільства, академічної спільноти й індустрії. Статус спостерігача в Комітеті має й Лабораторія цифрової безпеки, яку представляла старша юристка Тетяна Авдєєва.
Що нового несе в собі Рамкова конвенція?
Рамкова конвенція, на відміну від Акта про ШІ, є загальним документом, що закріплює принципи і ціннісні підходи до регулювання ШІ. Вона не містить надміру технічних положень чи норм, які передбачають значну кількість процедур. Передусім документ визначає поняття ШІ, яке відповідає визначенню, розробленому OECD, і охоплює системи, що на основі вхідних даних спроможні генерувати результат, як-от передбачення, контент, рекомендації і рішення, які можуть впливати на фізичне чи віртуальне середовище. Водночас одним з найбільш дискусійних аспектів Рамкової конвенції є сфера її дії, і тут важливими є два аспекти:
- Рамкова конвенція застосовна до систем, які використовують у публічному секторі або розробляються на замовлення і для публічного сектору (про те, кого це зачепить в Україні, можна прочитати в нашому дослідженні «Дії та Мрії: штучний інтелект у публічному секторі»). Щодо приватного сектору держава, приєднуючись до Рамкової конвенції, має надіслати декларацію, у якій вона зазначить порядок застосування документа до недержавних акторів (наприклад, що застосовним буде лише розділ щодо загальних принципів).
- Сфера національної оборони не охоплюється положеннями документа, а до сфери нацбезпеки він застосовується опційно. Втім, навіть якщо держава напряму не застосовує Рамкову конвенцію до питань нацбезпеки, використання ШІ в цій сфері має відповідати загальним стандартам у сфері захисту прав людини.
Отже, сфера дії документа була значно звужена порівняно з первинними його редакціями. Більше того, Рамкова конвенція повсюдно містить формулювання «намагається сприяти», «наскільки це доречно», «як передбачено національним законодавством» (англ. «seek to ensure», «where practicable» і «in accordance with domestic law»), що значно послаблює форму зобовʼязань і в подальшому ускладнить імплементацію та застосування документа.
Серед основних положень Рамкової конвенції варто згадати перелік принципів, що застосовні на всіх етапах життєвого циклу систем ШІ: повага до людської гідності й автономії, прозорість та нагляд, недискримінація, захист приватності, надійність і безпека інновацій. Для забезпечення прав людини держави також мають впровадити механізми, що дозволяють відшкодовувати шкоду, завдану ШІ (втім, знов-таки, це першочергово стосується публічного сектору). Одним із найважливіших положень є також вимоги проведення оцінки ризиків і подальша їх мінімізація або ж усунення. Рамкова конвенція передбачає, що держави кожні два роки мають звітувати Конференції сторін про те, як вони імплементують конвенцію.
Крім самої Рамкової конвенції, Комітет напрацював і погодив Пояснювальний меморандум, що тлумачить положення документа і проливає світло на обговорення й мотиви включення тих чи інших принципів у договір. Цей документ не створює юридичних обовʼязків, але є інструментом, що допоможе в імплементації Рамкової конвенції. Сам договір набере чинності після його ратифікації щонайменше пʼятьма державами, серед яких щонайменше три мають бути членами Ради Європи.
Перемога чи зрада?
Лабораторія цифрової безпеки спільно з багатьма іншими громадськими організаціями висловлювала занепокоєння через ідею виключити приватний сектор і питання нацбезпеки зі сфери дії Рамкової конвенції ще на підготовчому етапі. І хоча обидві теми все ж згадуються в документі, жодних жорстких вимог до держави забезпечити захист прав людини в цій площині так і не вдалося включити до фінального тексту. Незважаючи на позитивні кроки, які були зроблені в напрямку посилення стандартів у сфері ШІ і їх декларування, такі відступи можуть спричинити значні проблеми в майбутньому. Так, залишається простір для численних маніпуляцій, передачі усіх важливих розробок до приватного сектору тощо.
Тому однозначно називати документ перемогою чи зрадою наразі важко ще й з огляду на те, що кількість майбутніх підписантів Рамкової конвенції поки що невідома. Наприклад, підпис держав на кшталт Сполучених Штатів, Ізраїлю, Японії та інших залучених до робочої групи країн може стати серйозним поштовхом до зміни глобальної регуляторної парадигми. Втім, чи є в цих державах політична воля брати на себе такі зобовʼязання і чи варті були спроби включити їх в процес послаблення тексту міжнародного договору — питання відкрите.
Коментар Тетяни Авдєєвої:
Фінальний документ викликає у мене змішані почуття: з одного боку, його фіналізація є історичним моментом, адже нарешті зʼявляється регуляторна пропозиція десь поза межами нашумілого Акта про ШІ від ЄС. З іншого боку, я не впевнена, чи не є надмірною ціна, яку автори документа готові були заплатити за його глобальне охоплення (тобто послаблення гарантій у сфері прав людини, щоб залучити якомога більше держав до підписання), і чи не трансформує це міжнародний договір у звичайну декларацію. Чи в правильному напрямку ми рухаємося — покаже час. Але одне варто розуміти напевне — розробка Рамкової конвенції явно не має ставати крапкою у розмові про регулювання ШІ. Скоріше, це перший крок як у розумінні самих систем, так і в напрацюванні адекватних стандартів. Тому, не прощаємося!