Діпфейки та дезінформація

Генеративний ШІ може створювати гіперреалістичні медіа — зображення, відео, голоси та текст — які точно імітують реальних людей або події. Це має значний вплив на довіру, приватність, політику та суспільний дискурс. Хоча синтетичні медіа можуть використовуватися для розваг чи освіти, вони також створюють потужні інструменти для обману, маніпуляцій і завдання шкоди.

Етика дипфейків

Дипфейки — це синтетичні відео або аудіозаписи, згенеровані за допомогою ШІ для заміни зовнішності чи голосу людини. Їхня зростаюча доступність викликає серйозні етичні питання:

• Імперсонація та переслідування: знаменитості та приватні особи ставали жертвами дипфейкового порнографічного контенту або використовувалися у фейкових відео без згоди;
• Політична дезінформація: сфабриковані відео з політиками, які говорять або роблять суперечливі речі, можуть швидко поширюватися та впливати на громадську думку чи виборчу поведінку;
• Шахрайство та крадіжка особистості: клонування голосу за допомогою ШІ використовувалося у шахрайських схемах для обману людей з метою переказу коштів або розкриття конфіденційної інформації.

Приклад

У 2019 році генерального директора з Великої Британії ошукав шахрай, використавши згенеровану ШІ копію голосу його керівника, що призвело до шахрайського переказу $243,000.

Рішення:

• Встановлення етичних стандартів використання ШІ в різних галузях;
• Запровадження обов'язкового розкриття інформації при використанні синтетичного контенту в медіа;
• Посилення правового захисту осіб від несанкціонованого використання синтетичної схожості.

Протидія дипфейкам

Боротьба з дипфейками потребує як технічних, так і соціальних засобів захисту. Основні методи включають:

• Форензичне виявлення дипфейків:

  • Виявлення візуальних аномалій (наприклад, невідповідне освітлення, неприродні рухи обличчя);
  • Аналіз частотних артефактів або шаблонів стиснення, невидимих для людського ока;

• Відстеження походження та водяні знаки:

  • Вбудовування цифрових підписів або невидимих водяних знаків під час створення для позначення контенту як синтетичного;
  • Проєкти на кшталт Content Authenticity Initiative (CAI) спрямовані на створення стандартизованих метаданих про походження та історію редагування активу.

• Виявлення на основі класифікаторів:

  • Використання моделей глибокого навчання, навчених розрізняти справжні та фейкові медіа за тонкими статистичними ознаками.

Приклад

Система Intel "FakeCatcher" використовує фізіологічні сигнали — такі як зміни кольору шкіри через кровотік — для визначення, чи є обличчя на відео справжнім.

Рішення

• Інтеграція API для виявлення у контент-платформи та редакції новин;
• Фінансування відкритих досліджень щодо інструментів для масштабованого виявлення у реальному часі;
• Розробка публічних інструментів, які дозволяють користувачам перевіряти автентичність контенту.

Регуляторні рамки

Уряди та регуляторні органи реагують на зловживання дипфейками шляхом прийняття цільових законів і глобальних політичних ініціатив:

• California AB 730 (USA): забороняє розповсюдження дипфейків із зображенням політичних кандидатів протягом 60 днів до виборів;
• EU AI Act: вимагає чіткого та прозорого маркування дипфейк-контенту, а також класифікує певне використання синтетичного контенту як "високоризикове";
• Положення Китаю щодо глибокого синтезу (2023): зобов'язують розкривати та водяними знаками позначати весь медіаконтент, створений ШІ, а також вимагають реєстрації справжньої особи для творців;
• Закон США про національну оборону (NDAA): містить фінансування для виявлення та протидії синтетичним медіа у сферах оборони та кібербезпеки.