На засіданні 2 грудня 2020 року Кабінет Міністрів України затвердив Концепцію розвитку штучного інтелекту в Україні, яку підготувало Міністерство цифрової трансформації України.
Аналіз проєкту від Цифролаби, а також наші пропозиції до нього ‒ за посиланням.
Первинний проєкт було доопрацьовано, включно із урахуванням зауважень Цифролаби, які стосувалися зміни підходу та акценту на майбутньому правовому, а не етичному регулюванні технологій штучного інтелекту. Реалізація Концепції передбачається на строк до 2030 року. На жаль, повноцінного тексту Концепції ще не опубліковано, однак з інформації на сайті Мінцифри можна зробити висновок, що саме Міністерство буде органом, відповідальним за її впровадження.
Новий документ, опублікований за посиланням вище, має видозмінену структуру та, на противагу попередньому, має загальний зведений розділ щодо проблем, які потребують розв’язання. Серед тих, що стосуються цифрових прав, можна згадати:
- низький рівень цифрової грамотності та поінформованості населення щодо загальних аспектів, можливостей, ризиків та безпеки використання штучного інтелекту;
- відсутність або недосконалість правового регулювання штучного інтелекту, а також недосконалість законодавства про захист персональних даних;
- недостатній рівень інформаційної безпеки та захисту даних в інформаційно-телекомунікаційних системах державних органів внаслідок застарілості автоматичних систем виявлення та оцінки інформаційних загроз, невикористаний потенціал прогнозування та передбачення загроз з метою своєчасної підготовки системи до можливої атаки;
- зростання кількості спроб несанкціонованого втручання в роботу автоматизованих систем, комп’ютерних мереж;
- складність перевірки відповідності роботи систем штучного інтелекту законодавству та етичним принципам;
- відсутність єдиних підходів, що застосовуються при визначенні критеріїв етичності під час розроблення та використання технологій штучного інтелекту для різних галузей.
Концепція продовжує віддзеркалювати основні принципи Керівних принципів Організації економічного співробітництва і розвитку (ОЕСР) з питань штучного інтелекту, до яких Україна приєдналася в 2019 році та серед основних принципів розвитку та використання технологій штучного інтелекту визначає:
- розробка та використання систем штучного інтелекту лише за умови дотримання верховенства права, основоположних прав та свобод людини і громадянина, демократичних цінностей, а також забезпечення відповідних гарантій під час використання таких технологій;
- відповідність діяльності та алгоритму рішень систем штучного інтелекту вимогам законодавства про захист персональних даних, а також дотримання конституційного права кожного на невтручання в особисте та сімейне життя у зв’язку з обробкою персональних даних;
- забезпечення прозорості та відповідального розкриття інформації про системи штучного інтелекту.
Цей перелік принципів є значним кроком вперед порівняно з першим проєктом Концепції, адже враховує необхідність оцінки функціонування систем штучного інтелекту на їх відповідність стандартам захисту приватності. До важливих для цифрових прав визначених пріоритетів реалізації Концепції, що повинні відповідати цим принципам, належать захист інформаційного простору від несанкціонованого втручання, забезпечення безпечного функціонування інформаційно-телекомунікаційних систем, а також приведення законодавства у галузі використання технологій штучного інтелекту у відповідність з міжнародними нормативно-правовими актами.
Концепція тепер визначає дев’ять ключових напрямів державної політики у сфері штучного інтелекту: окремим напрямом виділена інформаційна безпека. Попередні вісім напрямків залишилися, хоча і видозмінили назви.
В ухваленому тексті Концепції у розділі «Кібербезпека» прибрали такий пріоритетний напрям розробки програмного забезпечення у сфері кібербезпеки як «відстеження політичної дезінформації (фейкові новини)», що міг створити суттєві загрози для обмеження свободи вираження поглядів. Інші кроки за цим напрямом також є достатньо позитивними, адже передбачають оновлення законодавства і державних стандартів, а також заохочують зменшення частки використання державними органами іноземного програмного забезпечення у сфері кібербезпеки.
Водночас, новий розділ «Інформаційна безпека» містить занадто розмиті положення. Стверджується, що моніторинг соціальних мереж та інтернет-ресурсів електронних медіа з використанням технологій штучного інтелекту дозволить виявляти системні тренди та діяти на випередження, однак з якою метою? Серед завдань за цим напрямком ‒ створення захищеного національного інформаційного простору та виявлення, запобігання і нейтралізація реальних і потенційних загроз намагання медіа маніпулювати суспільною свідомістю, зокрема, шляхом поширення недостовірної, неповної та упередженої інформації. Нечіткість відповідних формулювань щодо застосування штучного інтелекту в інформаційній сфері та їх реалізація на практиці може загрожувати свободі вираження поглядів та, при свавільному використанні, створити охолоджуючий ефект на свободу слова в мережі.
За напрямом «Оборона» одним з завдань залишилася перевірка кадрових військових та кандидатів у військовослужбовці на основі аналізу відкритих джерел та соцмереж, однак тепер пропонується здійснювати її на предмет ставлення до держави-агресора, фактів, що свідчать про зв’язок з силовими структурами останньої, расизму, впливу ворожої пропаганди, надмірної жорстокості. Варто нагадати, що приватність військових під час проведення такої перевірки має бути захищеною, а законодавство передбачити запобіжники від надмірного втручання у їх право та/або повідомити їх про те, що така перевірка може відбуватися. З-поміж інших важливих завдань ‒ використання засобів OSINT та протидія кіберзагрозам у сфері оборони.
Розділ «Публічне управління», як і в попередньому проєкті, суттєво присвячений відкритим даним. Основні завдання за цим напрямом є незмінними з первинного проєкту та сприяють праву на доступ до інформації. Втім, також нагадаємо, що передбачена Концепцією розробка механізмів анонімізації даних має бути належною та передбачати чітку процедуру їх передачі державним органам.
За напрямом «Правове регулювання та етика» Концепція, з урахуванням низки пропозицій Цифролаби, нині визначає такі важливі завдання:
- імплементація норм, закріплених у Рекомендаціях щодо штучного інтелекту, прийнятих ОЕСР, за умови дотримання етичних стандартів, передбачених у Рекомендації Комітету Міністрів Ради Європи (2020)1 Державам членам щодо впливу алгоритмічних систем на права людини (ухвалені 8 квітня 2020 року);
- опрацювання питання відповідності законодавства України керівним принципам, установленим Радою Європи, щодо розроблення та використання технологій штучного інтелекту та гармонізація його з європейським;
- розробка Етичного кодексу штучного інтелекту за участю широкого кола зацікавлених сторін.
Як бачимо, розробники Концепції зберегли змішаний підхід, який передбачає як етичне, так і правове регулювання штучного інтелекту. Втім, позитивним кроком є пряма згадка рекомендацій Ради Європи з питання впливу алгоритмів на права людини ‒ це дає надію на зміщення балансу в сторону підходу, який більше враховуватиме саме виклики, що стоять щодо дотримання прав людини, та відповідні міжнародні стандарти у цій сфері.
Останнім у Концепції згадується напрям «Правосуддя». Як і в проєкті Концепції, тут залишилися положення щодо прагнення до винесення судових рішень у справах незначної складності (за взаємною згодою сторін) на основі аналізу здійсненого за допомогою штучного інтелекту чинного законодавства та судової практики. Варто нагадати про його загрози для справедливого судочинства: неоднорідність практики через проблеми судової системи з винесенням правосудних рішень, проблеми зі своєчасним наповненням Єдиного реєстру судових рішень, а також чіткість визначення того, які справи будуть віднесені до незначної складності.