La IA generativa puede crear medios hiperrealistas —imágenes, videos, voces y textos— que imitan de manera precisa a personas o eventos reales. Esto tiene profundas implicaciones para la confianza, la privacidad, la política y el discurso público. Si bien los medios sintéticos pueden emplearse en el entretenimiento o la educación, también constituyen herramientas poderosas para el engaño, la manipulación y el daño.

Ética de los Deepfakes

Los deepfakes son videos o clips de audio sintéticos generados mediante IA para reemplazar la imagen o la voz de una persona. Su creciente accesibilidad plantea serias preocupaciones éticas:

• Suplantación y acoso: celebridades y personas privadas han sido víctimas de pornografía deepfake o utilizadas en videos falsos sin su consentimiento;
• Desinformación política: videos fabricados de políticos diciendo o haciendo cosas controvertidas pueden difundirse rápidamente e influir en la opinión pública o el comportamiento electoral;
• Fraude y robo de identidad: la clonación de voz generada por IA se ha utilizado en estafas para engañar a personas y lograr transferencias de dinero o la divulgación de información sensible.

Ejemplo

En 2019, un director ejecutivo en el Reino Unido fue engañado por un estafador que utilizó una réplica generada por IA de la voz de su jefe, lo que resultó en una transferencia fraudulenta de $243,000.

Soluciones:

• Establecimiento de estándares éticos para el uso de IA en todas las industrias;
• Implementación de divulgaciones obligatorias cuando se utilice contenido sintético en los medios;
• Fortalecimiento de las protecciones legales para individuos contra el uso no autorizado de semejanzas sintéticas.

Combatiendo los Deepfakes

La lucha contra los deepfakes requiere defensas tanto técnicas como sociales. Los métodos clave incluyen:

• Detección forense de deepfakes:

  • Identificación de anomalías visuales (por ejemplo, iluminación inconsistente, movimientos faciales antinaturales);
  • Análisis de artefactos de frecuencia o patrones de compresión invisibles al ojo humano;

• Seguimiento de procedencia y marcas de agua:

  • Inserción de firmas digitales o marcas de agua invisibles en el momento de la generación para marcar el contenido como sintético;
  • Proyectos como la Content Authenticity Initiative (CAI) buscan crear metadatos estandarizados sobre el origen y el historial de edición de un recurso.

• Detección basada en clasificadores:

  • Uso de modelos de aprendizaje profundo entrenados para distinguir entre medios reales y falsos basándose en señales estadísticas sutiles.

Ejemplo

"FakeCatcher" de Intel utiliza señales fisiológicas —como los cambios de color de la piel debido al flujo sanguíneo— para determinar si un rostro en un video es real.

Soluciones

• Integración de APIs de detección en plataformas de contenido y redacciones;
• Financiación de investigación abierta sobre herramientas de detección en tiempo real y a escala;
• Desarrollo de herramientas públicas que permitan a los usuarios verificar la autenticidad del contenido.

Marcos Regulatorios

Los gobiernos y organismos reguladores están respondiendo al uso indebido de los deepfakes mediante la promulgación de leyes específicas e iniciativas de políticas globales:

• California AB 730 (EE. UU.): prohíbe la distribución de deepfakes que representen a candidatos políticos dentro de los 60 días previos a una elección;
• Ley de IA de la UE: exige que el contenido deepfake esté claramente etiquetado y de manera transparente, y clasifica ciertos usos de contenido sintético como "de alto riesgo";
• Disposiciones sobre Síntesis Profunda de China (2023): exige la divulgación y el uso de marcas de agua en todos los medios generados por IA y requiere el registro de identidad real para los creadores;
• Ley de Autorización de Defensa Nacional de EE. UU. (NDAA): incluye financiación para la detección y el combate de medios sintéticos en contextos de defensa y ciberseguridad.