28 листопада Рада Європи затвердила методологію HUDERIA для оцінки ризику та впливу систем штучного інтелекту на права людини, демократію та верховенство права. Її можуть використовувати як публічні актори (наприклад, державні чи муніципальні органи), так і приватні компанії для виявлення та усунення ризиків і негативних впливів систем ШІ протягом усього життєвого циклу. HUDERIA застосовує соціально-технічний підхід, який аналізує життєвий цикл систем ШІ в розрізі взаємозв’язку між технологіями, людським вибором і соціальними структурами.
Методологія HUDERIA передбачає створення плану для мінімізації або усунення виявлених ризиків, захищаючи громадськість від потенційної шкоди. Документ має чотири основні блоки:
- COBRA: структурований підхід до збору та мапування інформації, потрібної для виявлення та розуміння ризиків систем ШІ щодо прав людини, демократії та верховенства права. Цей підхід складається з чотирьох основних етапів: попереднє дослідження, аналіз факторів ризику, мапування потенційних впливів та сортування результатів для подальших кроків;
- SEP: підхід до взаємодії із зацікавленими сторонами для збору інформації про потенційно вразливих осіб, а також контекстуалізації та підтвердження потенційної шкоди та заходів з пом’якшення наслідків. Цей підхід включає п’ять ключових етапів: аналіз зацікавлених сторін, оцінка наявних ресурсів і різноманіття, визначення цілей залучення, визначення методів залучення, сама співпраця;
- Risk & Impact Assessment: Підхід з надання детальної оцінки потенційного та фактичного впливу, який діяльність системи ШІ може мати на права людини, демократію та верховенство права. Цей етап може знадобитися лише для певних систем ШІ, зокрема тих, які, за оцінками, становлять значні ризики;
- Mitigation Plan: визначення дій та процесів, спрямованих на усунення потенційних та фактичних негативних впливів, а також складання Плану пом’якшення наслідків на основі серйозності та ймовірності настання виявленої шкоди. План, де це доречно, передбачає забезпечення доступу до засобів правового захисту.
HUDERIA також вимагає регулярних переоцінок, щоб гарантувати, що система ШІ продовжує працювати безпечно та етично, оскільки контекст її роботи та сама технологія постійно розвиваються і можуть створювати нові ризики.
У своїй новій версії HUDERIA представляє чіткий і структурований підхід до оцінки ризиків та впливів систем ШІ, що полягає у відокремленні методології HUDERIA (дорожньої карти для практиків і дослідників під час роботи з системою HUDERIA) та моделі HUDERIA (інструмент для впровадження системи HUDERIA на практиці). Це, у свою чергу, посприяло спрощенню структури основних частин методології HUDERIA та більшій деталізації механізмів застосування відповідних принципів у моделі HUDERIA.
Лабораторія цифрової безпеки брала активну участь у розробці методології HUDERIA, зокрема надаючи правки та рекомендації щодо окремих її частин. Так, зокрема, у фінальну версію потрапили наступні пропозиції щодо:
- застосування стандартизованої термінології щодо життєвого циклу систем ШІ;
- важливість мапування ризиків та впливів на права людини як етапу, на якому визначається коло потенційних постраждалих осіб або груп осіб і проводиться первинна оцінка серйозності та ризиків (з можливістю відмови від використання певних систем ШІ);
- використання ресурсів з моделі HUDERIA для визначення потенційно чутливих сфер застосування ШІ щодо прав людини, демократії та верховенства права;
Модель HUDERIA, яка міститиме детальний опитник для проведення оцінки ризиків, буде фіналізована Комітетом Ради Європи з питань ШІ протягом 2025 року, після чого цей інструмент буде можливо застосовувати на практиці.
Україна активно розвивається у сфері відповідального застосування систем ШІ та вже розробила багато секторальних рекомендацій. В межах цього процесу для України одним із важливих кроків є ратифікація Рамкової конвенції про штучний інтелект і права людини, демократію та верховенство права, яка кристалізує мінімальні стандарти у сфері відповідального використання ШІ. Методологія HUDERIA може бути корисним інструментом для виконання зобов’язань Рамкової конвенції, а також сприяти відповідальному та безпечному використанню систем ШІ в різних сферах людської діяльності.
Оскільки на Україну очікує гармонізація національного законодавства з вимогами Акта ЄС про штучний інтелект, очевидно держава муситиме встановити жорсткі вимоги для приватного сектору. Лабораторія цифрової безпеки наголошує на тому, що ратифікація Рамкової конвенції має включати поширення її дії і на приватний сектор, адже це допоможе українському бізнесу підготуватися до більш вимогливих стандартів ЄС та покращити якість технологій.
Якщо у вас виникли запитання з приводу методології HUDERIA, можете звʼязатися зі старшою юристкою Цифролаби Тетяною Авдєєвою: [email protected].