Команда Мінцифри у співпраці з Цифролабою, а також Експертним комітетом з питань розвитку ШІ при Мінцифрі, Національною радою України з питань телебачення і радіомовлення, Міністерством культури та інформаційної політики України та Центром демократії та верховенства права розробила Рекомендації з відповідального використання ШІ у сфері медіа. Повний текст рекомендацій читайте за цим посиланням.
Документ містить узагальнені рекомендації щодо етичного використання ШІ у сфері медіа та надає декілька «спойлерів» щодо того, яке законодавче регулювання варто очікувати у цій сфері незабаром (наприклад, щодо вимоги маркування). Далі розповідаємо про структуру документа і його основні акценти.
- Рекомендації стосуються як систем, які медіа розробляють самостійно, так і тих, які журналісти чи інші працівники медіа використовують з відкритих джерел (наприклад, ChatGPT, Bard, Midjourney тощо).
- Документ окреслює основні принципи відповідального використання ШІ:
- відповідальне редакційне рішення (впровадження систем ШІ за усвідомленим та зваженим рішенням редакції суб’єкта у сфері медіа та з огляду на розуміння місії такого медіа);
- законність (наявність усіх необхідних прав для використання систем ШІ / публікації результатів роботи ШІ);
- регулярне проведення оцінки ризиків, пов’язаних з використанням систем ШІ (проведення такої оцінки у правовій та технічній площині на всіх етапах життєвого циклу системи ШІ);
- прозорість і зрозумілість (розкриття інформації про використання систем ШІ та пояснення цілей і способів такого використання; розуміння джерел інформації, на базі якої працює ШІ);
- поінформованість аудиторії про використання систем ШІ та про природу поширеного контенту (проактивне доведення інформації про використання ШІ до відома читача/глядача/слухача; чітке розмежування автентичного та згенерованого ШІ контенту тощо);
- конфіденційність і захист даних (недопущення витоку персональних даних чи іншої конфіденційної інформації через використовувані системи ШІ);
- різноманітність (забезпечення доступу аудиторії до різностороннього контенту при застосуванні інструментів персоналізації) та недискримінаційність;
- фаховий людський контроль (забезпечення контрольної перевірки результатів роботи систем ШІ людиною-фахівцем);
- відповідальність (особа, яка використовує у професійній діяльності системи ШІ, несе відповідальність за наслідки використання результатів роботи цих інструментів);
- адаптивність (постійне покращення принципів відповідального використання відповідно до технологічного розвитку систем ШІ та змін правового регулювання).
- Рекомендації передбачають обовʼязок медіа:
- враховувати вимоги законодавства про захист персональних даних при розробці систем ШІ;
- здійснювати постійний моніторинг стану системи ШІ, зокрема на предмет її здатності відповідати стандартам у сфері захисту прав людини (особливо у випадках, коли система ШІ здатна до самостійного навчання);
- пересвідчитися, що система є недискримінаційною і не спричиняє негативних наслідків для вразливих і маргіналізованих груп;
- отримувати всі необхідні юридичні права та згоди перед публікацією контенту, створеного за допомогою системи ШІ;
- повідомляти користувачів про застосування систем ШІ;
- здійснювати нагляд за порядком функціонування системи ШІ та призупиняти застосування системи ШІ у разі виявлення несправностей чи недоліків у алгоритмі і своєчасно виправляти прогалини у системі перед продовженням її застосування;
- забезпечувати аудиторію можливістю направляти скарги у разі, якщо учасники такої аудиторії мають підозру, що система ШІ порушує їхні права;
- переконатися, що система ШІ, яка не є розроблена цим суб’єктом у сфері медіа або на його замовлення, відповідає стандартам у сфері захисту прав людини;
- утримуватися від використання систем ШІ, які походять з держави-агресора або розробниками яких є громадяни держави-агресора;
- використовувати системи ШІ виключно на законних підставах, з дотриманням прав інтелектуальної власності третіх осіб;
- слідкувати за повідомленнями компанії-виробника системи ШІ щодо відповідності системи стандартам у сфері прав людини, безпеки даних, а також за оновленнями системи ШІ та її відповідності етичним стандартам.
- Рекомендації передбачають додаткові вимоги щодо систем пріоритезації контенту – зокрема, попереджати про їх існування, не використовувати їх для прихованої виборчої агітації та містити запобіжники щодо пропонування потенційно шкідливого, небезпечного чи чутливого контенту особам до 18 років.
- Рекомендації вказують на необхідність розмежовувати автентичний і згенерований контент, а також маркувати останній для дотримання принципу прозорості.
- Документ вказує на можливість деталізувати етичні стандарти на рівні органів саморегулювання.
Експерти Лабораторії цифрової безпеки долучилися до розробки рекомендацій в рамках спільної ініціативи «Європейське Відродження України» за підтримки Європейського союзу та Міжнародного Фонду «Відродження». Документ представляє позицію авторів і не обов’язково відображає позицію Європейського Союзу чи Міжнародного фонду «Відродження».
