Зі зміною уряду в 2019 році до пріоритетів державної політики увійшла діджиталізація, а метою стало створення «держави у смартфоні». Природно, що новостворене Міністерство цифрової трансформації мало би стати одним з локомотивів цього напрямку в Україні. Серед його завдань постало і достатньо нове для України, але не для світу, питання – забезпечення розвитку штучного інтелекту.
За приблизно 9 місяців роботи Мінцифри розробило та опублікувало проект розпорядження Кабінету Міністрів України «Про схвалення Концепції розвитку штучного інтелекту в Україні» для громадського обговорення. Цей стратегічний документ покликаний актуалізувати питання штучного інтелекту та його розвитку як одного з локомотивів суспільного та економічного розвитку України до 2030 року. Концепція намагається спиратися і віддзеркалювати основні принципи Керівних принципів Організації економічного співробітництва і розвитку (ОЕСР) з питань штучного інтелекту, до яких Україна приєдналася в 2019 році.
Серед основних принципів розвитку та використання технологій штучного інтелекту визначені такі:
- штучний інтелект має приносити користь людям і планеті, сприяючи інклюзивному зростанню, сталому розвитку та добробуту;
- системи штучного інтелекту розробляються та використовуються лише за умови дотримання верховенства права, а їх використання має забезпечуватися відповідними гарантіями, зокрема, можливістю безперешкодного втручання людини у процес функціонування системи;
- забезпечення прозорості та відповідального розкриття інформації про системи штучного інтелекту;
- організації та особи, які розробляють, впроваджують або використовують системи штучного інтелекту, несуть відповідальність за їх належне функціонування відповідно до вищезазначених принципів.
Проект Концепції визначає вісім ключових напрямів державної політики у сфері штучного інтелекту: освіта та людський капітал; наука та інновації; економіка та бізнес; кібербезпека; оборона; державне управління; правове регулювання та етика; правосуддя.
Серед питань освіти, підготовки належної кількості компетентних фахівців та економічного розвитку, яким присвячена значна частина документу, проект Концепції містить і положення, які стосуються цифрових прав людини.
За напрямом «Кібербезпека» як одну з головних проблем ідентифіковано недостатній рівень захисту даних у інформаційних системах через застарілість системи оцінки загроз зі сторони державних органів, а шляхом її вирішення – пріоритетність захисту критичної інфраструктури зі зберігання та обробки даних у державному секторі. Передбачається також і відкриття вихідного коду несекретних алгоритмів, що може сприяти залученню кіберспільноти до його вдосконалення.
Водночас, значні побоювання викликає такий пріоритетний напрям розробки програмного забезпечення у сфері кібербезпеки як «відстеження політичної дезінформації (фейкові новини)». У тому разі, якщо державні ресурси будуть спрямовані на розробку подібних програм, а відстеження призводитиме до блокування чи обмеження доступу до «політичної дезінформації», існуватиме значний ризик їх використання для надмірних обмежень свободи вираження поглядів.
За напрямом «Оборона» одним з ключових напрямків використання технологій штучного інтелекту визначається система перевірки кадрових військових на основі аналізу відкритих джерел та соцмереж на предмет расизму, впливу ворожої пропаганди, надмірної жорстокості тощо.
Така перевірка необіхдна, оскільки вона може серйозно впливати на боєздатність військових та потенційну можливість вчинення ними військових злочинів та злочинів проти людяності. Втім, варто належним чином гарантувати приватність військових під час проведення такої перевірки, передбачити запобіжники від надмірного втручання у їх право та/або повідомити їх про те, що така перевірка може відбуватися.
У напрямі «Державне управління» велика роль надається питанню відкритих даних. Якість і доступність даних, а також здатність державних органів ефективно працювати, визнані критичними, а незадовільна якість обсягів даних та їх відсутність у цифровій формі – однією з основних проблем. Запропоновані шляхи вирішення цієї проблеми є слушними та за належного впровадження сприятимуть праву на доступ до інформації.
Проект Концепції пропонує такі шляхи:
- визначити напрями конвертації даних, якими володіє держава в електронну форму, створення якщо відсутні, актуалізацію та очищення наявних, державних електронних інформаційних ресурсів;
- в межах розвитку відкритих даних забезпечити пріоритетність оприлюднення динамічних даних та забезпечити оприлюднення таких даних у режимі реального часу через прикладний програмний інтерфейс (API);
- визначити перелік тематичних категорій наборів даних високої суспільної цінності, розпорядниками яких є органи державної влади, Розробити та затвердити вимоги щодо оприлюднення та частоти оновлення таких наборів;
- розробити механізми анонімізації персональних та інших, наприклад медичних, даних для уможливлення їх оприлюднення в форматі відкритих даних.
Разом з тим, варто пам’ятати про потребу встановлення чіткої процедури анонімізації даних та їх передачі державним органам, щоб уникнути сумнівних з юридичної точки зору ситуацій на кшталт оприлюднення віце-прем’єром Михайлом Федоровим у власному профілі у фейсбуці даних про переміщення населення, наданих мобільними операторами на початку пандемії.
Окремий напрям державної політики – правове регулювання, етика та дотримання права на приватність, яке є ключовим щодо використання технологій штучного інтелекту.
Серед важливих ідентифікованих проблем – питання дотримання етичних стандартів, захист права на невтручання в особисте життя у зв’язку з обробкою персональних даних, а також проблема релевантності, упередженості та нерепрезентативності даних, які використовуються під час створення технологій штучного інтелекту.
Вирішувати «етичні проблеми» сфери штучного інтелекту, Мінцифри пропонує такими шляхами:
- проведення перевірки законодавства України на предмет відповідності його сучасним викликам щодо розробки та використання технологій штучного інтелекту та приведення його у відповідність;
- підвищення обізнаності громадян щодо їх прав та свобод стосовно приватності даних, використання персональних даних системами штучного інтелекту;
- створення відповідного координаційного органу у сфері штучного інтелекту в структурі органів виконавчої влади України;
- стимулювання створення самоврядних організацій у сфері штучного інтелекту;
- розробка Етичного Кодексу штучного інтелекту.
Ці напрямки поки що достатньо неконкретизовані, однак окреслюють рух до саморегулювання цієї сфери. А це може бути хорошим та більш ефективним виходом для регулювання етичних питань використання штучного інтелекту в умовах постійного технологічного розвитку. Безумовно, за умови визначення законодавством загальної рамки, що гарантуватиме дотримання прав людини.
Насамкінець, правосуддя. Творці проекту Концепції не обійшли тренду на електронне судочинство, яке з проблемами впроваджується останніми роками в Україні. У Мінцифри передбачають, що одним з напрямків використання штучного інтелекту має стати винесення судових рішень у справах незначної складності (за взаємною згодою сторін) на основі аналізу здійсненого за допомогою штучного інтелекту чинного законодавства та судової практики.
Хоч таке нововведення може зменшити навантаження на українські суди, варто пам’ятати і про загрози: неоднорідність практики через проблеми судової системи з винесенням правосудних рішень, проблеми зі своєчасним наповненням Єдиного реєстру судових рішень, а також чіткість визначення того, які справи будуть віднесені до незначної складності.
Проект Концепції малює перспективне майбутнє для України, де вона є однією з домінантних світових держав щодо запровадження технологій штучного інтелекту в усіх сферах життя. Втім, якщо у цьому процесі не забудуть про людину та її права – буде лише на краще.
Максим Дворовий,
юрист Лабораторії Цифрової Безпеки