Коли в «Дії» зʼявиться своя Siri? Чи політична угода довкола Акту про штучний інтелект поставить хрест на використанні Clearview AI? Чи допоможе ШІ обрати «професію мрії»?
Відповіді на ці та багато інших запитань старша юристка Цифролаби Тетяна Авдєєва спробувала надати в аналітичному дослідженні «Дії та Мрії: штучний інтелект у публічному секторі». У документі окреслені релевантні ініціативи регулювання ШІ як на міжнародному, так і національному рівні в Україні та інших державах, де здійснюються передові розробки. Також дослідження містить огляд усіх чинних проєктів та ініціатив використання ШІ в публічному секторі в Україні.
З огляду на пріоритетність тематики ШІ як в оборонній сфері, так і в інших публічних сферах, Лабораторія цифрової безпеки за результатами дослідження також підготувала рекомендації для формування державної політики у галузі ШІ:
- У майбутньому потрібно розробити загальну регуляторну рамку, яка буде адекватно імплементувати міжнародні стандарти у сфері ШІ на національному рівні. При цьому, Цифролаба підтримує підхід, що передбачає відтермінування імплементації Акту про штучний інтелект з огляду на необхідність визначитися, як Україна може адаптувати вимоги документу без доступу до європейських інституцій, а також загалом зрозуміти, яким чином варто застосовувати регулювання на практиці. З огляду на це, Цифролаба вітає впровадження «мʼякого» регулювання через розробку загальних та секторальних рекомендацій та стимулювання інститутів саморегулювання.
- На додачу до загального регулювання ШІ, тематичні і цільові зміни до законодавства потрібно дизайнувати та імплементувати вже зараз, щоб забезпечити громадян належними гарантіями від зловживань. Зокрема, це є особливо актуальним для сфери правосуддя, правоохоронної та військової сфери.
- Потрібно адаптувати законодавство про публічні закупівлі до систем ШІ. Наприклад, напрацювати підзаконні акти, які встановлюють мінімальні стандарти до розробників систем ШІ, дизайнованих для публічного сектору, вимоги до проведення тендерів та інші гарантії. Так, DOZORRO впроваджує модель машинного навчання для виявлення ризикових закупівель, але існує потреба регламентувати і систему закупівель самих систем ШІ. Особливо, враховуючи, що багато розробок передбачають державно-приватне партнерство.
- Слід розробити прийнятну модель регулятора у сфері ШІ та адекватно вписати його у функціонуючу правову систему. Зокрема, слід враховувати наявність тематичних регуляторів, як-от Національна рада з питань телебачення і радіомовлення і майбутній регулятор у сфері захисту персональних даних. Напрацювання моделі регулятора також передбачає дизайн системи скарг — визначення кола субʼєктів скарг, тем і того, який орган буде їх розглядати.
- Слід позбутися систем ШІ, які працюють на російському, білоруському, китайському або іншому програмному забезпеченні, що походить з країн з високим індексом порушення прав людини. Держава має пересвідчитися, що після виявлення факту звʼязку систем ШІ з такими країнами їх не використовують щонайменше у публічному секторі (зокрема, це потребує як мінімум реакції на розслідування «Схем» щодо системи TRASSIR), а в ідеалі — заборонити такі системи на території України навіть для приватних акторів. Також держава має контролювати, щоб таке програмне забезпечення не потрапляло на український ринок, зокрема, і в публічний сектор, як закордонний продукт, завезений через треті держави.
- Державі потрібно заздалегідь розробити стратегію перехідного періоду між воєнним станом і мирним часом, яка після української перемоги передбачатиме правовий та практичний механізми для вилучення технологій, призначених для застосування винятково під час дії воєнного стану. Зокрема, це дозволить попередити іноземні компанії, що надають послуги, актуальні під час війни, про плавний та чіткий алгоритм щодо припинення використання деяких сервісів або застосування до них абсолютно інших стандартів (більш обмежувальний підхід в оцінці пропорційності втручання у права людини тощо).
- Державі варто уникати застосування технологій, які за замовчуванням порушують права людини, а саме створюють ризики переслідувань, не відповідають міжнародним стандартам у галузі захисту персональних даних, протидії дискримінації тощо. Наприклад, слід розглянути альтернативи до сервісів Clearview AI, особливо враховуючи заборону скрепінгу в Акті про штучний інтелект і повʼязані з цим проблеми для процесів євроінтеграції України.
- Державі слід розробити систему технічних стандартів, що передбачає мінімальні вимоги до розробників систем та оцінити перспективи створення органу, який буде відповідальним за сертифікацію систем ШІ, або покладення таких обовʼязків на вже існуючий орган.
- Державі варто проводити оцінку ризиків систем ШІ, які застосовуються у публічному секторі, на всіх етапах життєвого циклу таких систем. При цьому, можна керуватися різними методологіями, включно з HUDERIA, у якому Україна і так долучена до тестової фази проєкту. Оцінка впливу, поміж іншого, має враховувати можливість створення охолоджуючого ефекту (від англ. «chilling effect») на права людини та стимулювати державу мінімізувати його і розробляти запобіжники від зловживань.
- Держава має розробити уніфіковану систему маркування контенту, генерованого системами ШІ, для забезпечення більшої прозорості щодо функціонування систем, а також уникнення безвідповідального поширення неправдивої інформації.
- При наданні публічних послуг за допомогою систем ШІ, держава має забезпечити можливість легко і зрозуміло контактувати з операторами-людьми. Зокрема, варто уникати ситуацій, коли автоматизована система є зацикленою або забирає надміру багато часу на розмову з ботом (прикладом таких систем у приватному секторі є описані у дослідженні Texty.org популярні банківські чат-боти і системи телефонних операторів, які мають дуже незручні алгоритми, що не дозволяють реалізувати право не бути підданим впливу автоматизованих систем).
- Державі варто забезпечити відкритий код для систем ШІ, які використовуються у публічному секторі (крім технологій у сфері безпеки та оборони), щоб уможливити пошук прогалин незалежними експертами та ефективний контроль громадськості за видом і особливостями застосовних систем, їх впливом на права людини.
- Після анонсування ініціативи впровадження системи ШІ у певному публічному секторі державі слід регулярно оновлювати інформацію щодо результатів тестових періодів, проблем, з якими стикнулися під час застосування системи, стадії імплементації проєктів тощо, щоб забезпечувати принцип прозорості та дозволяти ефективний громадський контроль за впровадженням проєктів та їх надійністю і безпечністю.
- Державі варто продовжувати міжнародну співпрацю як на рівні колаборацій з компаніями, так і на рівні кооперації в рамках регуляторних ініціатив на кшталт Комітету Ради Європи зі штучного інтелекту. Це дозволить відслідковувати останні тенденції та формувати міжнародний порядок денний з урахуванням українського досвіду застосування ШІ.
- Державі варто забезпечити участь громадянського суспільства при обговоренні ідей запровадження систем ШІ в публічному секторі та враховувати результати таких обговорень при прийнятті політичних та законодавчих рішень, напрацюванні візійних документів та стратегій.
- Державі варто інвестувати зусилля у посилення цифрової грамотності публічних службовців. Зокрема, хорошими ініціативами в цій царині є освітні проєкти в рамках Дія.Освіта. Втім, заохочується також проведення більш цільових тренінгів, особливо для публічних службовців, які регулярно мають справу зі складними високоризиковими ШІ системами.
- При напрацюванні освітніх програм для розробників ШІ держава має включати у навчальні плани такі дисципліни, як етика і міжнародні стандарти у сфері захисту прав людини для забезпечення побудови систем ШІ, які за замовчуванням є етичними і відповідають правам людини та демократичним принципам.
Повний текст дослідження і детальний аналіз усіх ініціатив можна прочитати за цим посиланням.
Електронна адреса для коментарів та запитань: [email protected].
Аналітичне дослідження підготовлено за підтримки Європейського союзу та Міжнародного Фонду «Відродження» в рамках спільної ініціативи «Європейське Відродження України». Аналітичне дослідження представляє позицію авторів і не обов’язково відображає позицію Європейського Союзу чи Міжнародного фонду «Відродження».