Генеративний ШІ може створювати гіперреалістичні медіа — зображення, відео, голоси та текст — які точно імітують реальних людей або події. Це має значні наслідки для довіри, приватності, політики та суспільного дискурсу. Хоча синтетичні медіа можуть використовуватися для розваг чи освіти, вони також створюють потужні інструменти для обману, маніпуляцій і завдання шкоди.

Етика дипфейків

Дипфейки — це синтетичні відео або аудіозаписи, створені за допомогою ШІ для заміни зовнішності чи голосу людини. Їхня зростаюча доступність викликає серйозні етичні питання:

• Імперсонація та переслідування: знаменитості та приватні особи ставали жертвами дипфейк-порнографії або використовувалися у фейкових відео без згоди;
• Політична дезінформація: сфабриковані відео з політиками, які говорять або роблять суперечливі речі, можуть швидко поширюватися та впливати на громадську думку або виборчу поведінку;
• Шахрайство та крадіжка особистості: клонування голосу за допомогою ШІ використовувалося у шахрайських схемах для обману людей з метою переказу коштів або розкриття конфіденційної інформації.

Приклад

У 2019 році генеральний директор з Великої Британії був обманутий шахраєм за допомогою згенерованої ШІ копії голосу свого керівника, що призвело до шахрайського переказу $243,000.

Рішення:

• Встановлення етичних стандартів використання ШІ у різних галузях;
• Запровадження обов'язкового розкриття інформації про використання синтетичного контенту у медіа;
• Посилення правового захисту осіб від несанкціонованого використання їх синтетичної зовнішності.

Протидія дипфейкам

Боротьба з дипфейками потребує як технічних, так і соціальних засобів захисту. Основні методи включають:

• Форензична детекція дипфейків:

  • Виявлення візуальних аномалій (наприклад, невідповідне освітлення, неприродні рухи обличчя);
  • Аналіз частотних артефактів або шаблонів стиснення, невидимих для людського ока;

• Відстеження походження та водяні знаки:

  • Вбудовування цифрових підписів або невидимих водяних знаків під час створення для маркування контенту як синтетичного;
  • Проєкти на кшталт Content Authenticity Initiative (CAI) спрямовані на створення стандартизованих метаданих про походження та історію редагування активу.

• Детекція на основі класифікаторів:

  • Використання моделей глибокого навчання, навчених розрізняти справжні та фейкові медіа за тонкими статистичними ознаками.

Приклад

Система Intel "FakeCatcher" використовує фізіологічні сигнали — такі як зміни кольору шкіри через кровообіг — для визначення, чи є обличчя на відео справжнім.

Рішення

• Інтеграція API для виявлення у контент-платформи та редакції новин;
• Фінансування відкритих досліджень щодо інструментів для масштабованого виявлення у реальному часі;
• Розробка публічних інструментів, які дозволяють користувачам перевіряти автентичність контенту.

Регуляторні рамки

Уряди та регуляторні органи реагують на зловживання дипфейками шляхом ухвалення цільових законів і глобальних політичних ініціатив:

• California AB 730 (USA): забороняє розповсюдження дипфейків із зображенням політичних кандидатів протягом 60 днів до виборів;
• EU AI Act: вимагає чіткого та прозорого маркування дипфейк-контенту, а також класифікує певне використання синтетичного контенту як "високоризикове";
• Положення Китаю щодо глибокого синтезу (2023): зобов'язують розкривати та наносити водяні знаки на весь медіаконтент, створений ШІ, а також вимагають реєстрації справжньої особи для творців;
• Закон США про національну оборону (NDAA): містить фінансування для виявлення та протидії синтетичним медіа у сферах оборони та кібербезпеки.