A medida que la IA generativa se integra en la vida cotidiana—desde la creación de contenido hasta el soporte en la toma de decisiones—los marcos regulatorios y de gobernanza se han vuelto esenciales para garantizar un uso seguro, justo y transparente. Sin supervisión, los sistemas de IA corren el riesgo de amplificar daños, eludir la rendición de cuentas y socavar la confianza pública. Este capítulo explora los esfuerzos globales para regular la IA generativa y establecer estándares para su implementación responsable.

Regulación gubernamental

Los gobiernos de todo el mundo reconocen que el poder transformador de la IA generativa conlleva riesgos significativos, que van desde la desinformación y los deepfakes hasta el desplazamiento laboral y la ambigüedad legal. Como resultado, han surgido varios enfoques regulatorios.

Unión Europea – Ley de IA de la UE

La Ley de IA de la UE es el primer marco legislativo integral para la IA en el mundo. Clasifica los sistemas de IA según su nivel de riesgo, que va desde mínimo hasta inaceptable, y sitúa a modelos generativos como GPT y Stable Diffusion en la categoría de “alto riesgo”.

Obligaciones clave incluyen:

• Requisitos de transparencia: los desarrolladores deben divulgar claramente que el contenido fue generado por IA (por ejemplo, mediante marcas de agua o metadatos).
• Documentación y gestión de riesgos: los desarrolladores deben proporcionar documentación técnica que describa los datos de entrenamiento, los riesgos potenciales y las estrategias de mitigación.
• Limitaciones de uso: ciertas aplicaciones, como la vigilancia biométrica en tiempo real, están prohibidas o estrictamente reguladas.

Conexión con el RGPD: Protección de datos y privacidad

El Reglamento General de Protección de Datos (RGPD) es un pilar fundamental de la política digital de la UE y está estrechamente alineado con la Ley de IA. Mientras que la Ley de IA regula cómo se diseñan y despliegan los sistemas de IA, el RGPD regula el manejo de los datos personales utilizados en su entrenamiento y operación. Juntos, forman un marco de cumplimiento dual para los desarrolladores de IA.

Principales coincidencias y principios incluyen:

• Legalidad, equidad y transparencia: cualquier procesamiento de datos personales para el entrenamiento de IA debe tener una base legal clara y comunicarse de manera transparente a los usuarios.
• Minimización de datos y limitación de propósito: solo se pueden utilizar los datos estrictamente necesarios para la función de la IA; el uso de datos personales para entrenar modelos no relacionados está restringido.
• Derechos de los titulares de los datos: las personas conservan el derecho de acceder, rectificar o eliminar los datos personales utilizados en sistemas de IA, y de oponerse a decisiones automatizadas (el "derecho a la explicación").
• Responsabilidad y seguridad: los desarrolladores deben implementar salvaguardias adecuadas como anonimización, seudonimización y evaluaciones de impacto en la protección de datos (DPIA) para mitigar riesgos de privacidad.

En conjunto, la Ley de IA de la UE y el RGPD establecen el enfoque de dos pilares de la Unión Europea: garantizar la innovación en IA preservando los derechos humanos, la privacidad y la confianza.

Estados Unidos – Iniciativas sectoriales y a nivel estatal

Estados Unidos aún no ha adoptado una ley federal unificada sobre IA. Sin embargo, han surgido diversas leyes estatales y acciones ejecutivas federales:

• AB 730 de California prohíbe el uso de deepfakes en publicidad política durante los periodos electorales;
• Orden Ejecutiva sobre IA (2023) solicita a las agencias federales desarrollar estándares de seguridad, apoyar el uso de marcas de agua y financiar investigaciones para mitigar riesgos de IA.

China – Divulgación obligatoria y revisión de contenido

China ha adoptado normas estrictas que requieren:

• Autenticación con nombre real para usuarios que interactúan con contenido generado por IA;
• Marcado de agua en medios sintéticos y moderación humana de contenido que involucre temas políticamente sensibles;
• Registro de algoritmos: los desarrolladores deben registrar y divulgar la intención y capacidades de cualquier modelo implementado públicamente.

Otros países

• Canadá: ha propuesto la Ley de Inteligencia Artificial y Datos (AIDA) para regular los sistemas de IA de alto impacto;
• Reino Unido: el gobierno respalda un enfoque regulatorio “pro-innovación” con directrices voluntarias, pero aún sin legislación estricta;
• Brasil e India: debaten marcos que combinan la protección del consumidor con incentivos para la innovación.

Marcos voluntarios e iniciativas de la industria

Mientras la regulación avanza más lento que la tecnología, los actores de la industria y las organizaciones internacionales han intervenido para establecer normas éticas y mejores prácticas.

Normas internacionales y directrices éticas

• Principios de IA de la OCDE: adoptados por más de 40 países, estos principios promueven una IA inclusiva, transparente y responsable;
• Marco de Ética de la IA de la UNESCO: fomenta una gobernanza basada en los derechos humanos, incluyendo la sostenibilidad ambiental y la diversidad cultural;
• Diseño Éticamente Alineado de IEEE: proporciona una guía técnica para desarrollar IA que respete la privacidad, la equidad y la autonomía.

Consorcios liderados por la industria

Las empresas reconocen cada vez más la necesidad de autorregulación para mantener la confianza pública y evitar intervenciones gubernamentales más restrictivas.

• Partnership on AI: fundada por OpenAI, Google, Microsoft y otros, apoya la investigación sobre equidad, interpretabilidad e impacto social;

• Frontier Model Forum: una colaboración entre OpenAI, Anthropic, Google DeepMind y Cohere para promover:

  • Escalado responsable de modelos;
  • Auditorías externas de seguridad;
  • Mejores prácticas para implementaciones críticas;
  • Compartición de documentación técnica y de seguridad.

• MLCommons y BigScience: comunidades de investigación de código abierto que trabajan en referencias de transparencia y evaluaciones abiertas de modelos.

Perspectivas Futuras: ¿Qué viene después?

La gobernanza de la IA generativa aún se encuentra en sus primeras etapas, y varias tendencias clave están dando forma a su futuro:

• Transparencia de modelos: es probable que las políticas requieran que los desarrolladores divulguen cómo se crea el contenido generado por IA y si los usuarios están interactuando con un sistema de IA;
• Etiquetado de contenido sintético: la marca de agua y las firmas invisibles pueden volverse obligatorias para imágenes, videos y textos generados por IA;
• Auditorías y evaluaciones de riesgos: las auditorías independientes de modelos generativos serán fundamentales, especialmente para modelos de frontera con capacidades emergentes;
• Coordinación global: a medida que los modelos se vuelven más potentes, existe un reconocimiento creciente de que pueden ser necesarios acuerdos globales, similares a los acuerdos sobre el clima o nucleares;
• Registros de modelos: los países pueden requerir que los desarrolladores registren modelos de IA a gran escala junto con evaluaciones de seguridad y casos de uso previstos.