Діпфейки та дезінформація

Генеративний ШІ може створювати гіперреалістичні медіа — зображення, відео, голоси та текст — які точно імітують реальних людей або події. Це має глибокі наслідки для довіри, приватності, політики та суспільного дискурсу. Хоча синтетичні медіа можуть використовуватися для розваг або освіти, вони також створюють потужні інструменти для обману, маніпуляцій і завдання шкоди.

Етика дипфейків

Дипфейки — це синтетичні відео або аудіозаписи, згенеровані за допомогою ШІ для заміни зовнішності чи голосу людини. Їхня зростаюча доступність викликає серйозні етичні питання:

• Імперсонація та переслідування: знаменитості та приватні особи ставали жертвами дипфейк-порнографії або використовувалися у фейкових відео без згоди;
• Політична дезінформація: сфабриковані відео з політиками, які говорять або роблять суперечливі речі, можуть швидко поширюватися та впливати на громадську думку чи виборчу поведінку;
• Шахрайство та крадіжка особистості: клонування голосу за допомогою ШІ використовувалося у шахрайських схемах для обману людей з метою переказу грошей або розкриття конфіденційної інформації.

Приклад

У 2019 році генерального директора з Великої Британії ошукав шахрай, використавши згенеровану ШІ копію голосу його начальника, що призвело до шахрайського переказу $243,000.

Рішення:

• Встановлення етичних стандартів використання ШІ у різних галузях;
• Запровадження обов'язкового розкриття інформації про використання синтетичного контенту у медіа;
• Посилення правового захисту осіб від несанкціонованого використання їх синтетичного зображення.

Протидія дипфейкам

Боротьба з дипфейками потребує як технічних, так і соціальних заходів захисту. Основні методи включають:

• Форензична детекція дипфейків:

  • Виявлення візуальних аномалій (наприклад, неконсистентне освітлення, неприродні рухи обличчя);
  • Аналіз частотних артефактів або патернів стиснення, невидимих для людського ока;

• Відстеження походження та водяні знаки:

  • Вбудовування цифрових підписів або невидимих водяних знаків під час генерації для маркування контенту як синтетичного;
  • Проєкти на кшталт Content Authenticity Initiative (CAI) спрямовані на створення стандартизованих метаданих про походження та історію редагування активу.

• Детекція на основі класифікаторів:

  • Використання моделей глибокого навчання, навчених розрізняти справжні та фейкові медіа на основі тонких статистичних сигналів.

Приклад

"FakeCatcher" від Intel використовує фізіологічні сигнали — такі як зміни кольору шкіри через кровотік — для визначення, чи є обличчя на відео справжнім.

Рішення

• Інтеграція API для виявлення у контент-платформи та редакції новин;
• Фінансування відкритих досліджень щодо інструментів виявлення у реальному часі та з можливістю масштабування;
• Розробка публічних інструментів для перевірки автентичності контенту.

Регуляторні рамки

Уряди та регуляторні органи реагують на зловживання дипфейками шляхом прийняття цільових законів і глобальних політичних ініціатив:

• California AB 730 (USA): забороняє розповсюдження дипфейків, що зображують політичних кандидатів, протягом 60 днів до виборів;
• EU AI Act: вимагає чіткого та прозорого маркування дипфейк-контенту, а також класифікує певне використання синтетичного контенту як "високоризикове";
• China's Deep Synthesis Provisions (2023): зобов'язують розкривати та водити водяні знаки на всіх медіа, створених ШІ, а також вимагають реєстрації творців із підтвердженням особи;
• US National Defense Authorization Act (NDAA): містить фінансування для виявлення та протидії синтетичним медіа у сферах оборони та кібербезпеки.