Globale Politik und KI-Governance

Da generative KI zunehmend in den Alltag integriert wird – von der Inhaltserstellung bis zur Entscheidungsunterstützung – sind regulatorische und Governance-Rahmenwerke unerlässlich geworden, um eine sichere, faire und transparente Nutzung zu gewährleisten. Ohne Aufsicht besteht das Risiko, dass KI-Systeme Schaden verstärken, sich der Verantwortung entziehen und das öffentliche Vertrauen untergraben. Dieses Kapitel beleuchtet globale Bemühungen zur Regulierung generativer KI und zur Festlegung von Standards für einen verantwortungsvollen Einsatz.

Staatliche Regulierung

Regierungen weltweit erkennen, dass die transformative Kraft generativer KI mit erheblichen Risiken einhergeht – von Fehlinformationen und Deepfakes bis hin zu Arbeitsplatzverlusten und rechtlicher Unsicherheit. Daher haben sich verschiedene regulatorische Ansätze herausgebildet.

Europäische Union – EU AI Act

Der EU AI Act ist der weltweit erste umfassende Rechtsrahmen für KI. Er klassifiziert KI-Systeme nach Risikostufen von minimal bis inakzeptabel und ordnet generative Modelle wie GPT und Stable Diffusion der Kategorie „hohes Risiko“ zu.

Wesentliche Verpflichtungen umfassen:

• Transparenzanforderungen: Entwickler müssen klar offenlegen, dass Inhalte von KI generiert wurden (beispielsweise durch Wasserzeichen oder Metadaten).
• Dokumentation und Risikomanagement: Entwickler müssen technische Dokumentationen bereitstellen, die Trainingsdaten, potenzielle Risiken und Minderungsstrategien darlegen.
• Einschränkungen der Nutzung: Bestimmte Anwendungen, wie etwa die biometrische Überwachung in Echtzeit, sind vollständig verboten oder streng reguliert.

GDPR-Verbindung: Datenschutz und Privatsphäre

Die Datenschutz-Grundverordnung (DSGVO) ist ein Grundpfeiler der EU-Digitalpolitik und steht in engem Zusammenhang mit dem AI Act. Während der AI Act regelt, wie KI-Systeme entworfen und eingesetzt werden, reguliert die DSGVO den Umgang mit personenbezogenen Daten, die für deren Training und Betrieb verwendet werden. Gemeinsam bilden sie einen doppelten Compliance-Rahmen für KI-Entwickler.

Wesentliche Überschneidungen und Prinzipien umfassen:

• Rechtmäßigkeit, Fairness und Transparenz: Jegliche Verarbeitung personenbezogener Daten für das KI-Training muss eine klare rechtliche Grundlage haben und den Nutzern transparent kommuniziert werden.
• Datenminimierung und Zweckbindung: Es dürfen nur Daten verwendet werden, die für die Funktion der KI unbedingt erforderlich sind; die Weiterverwendung personenbezogener Daten für nicht verwandtes Modelltraining ist eingeschränkt.
• Rechte der betroffenen Personen: Einzelpersonen behalten das Recht auf Zugang, Berichtigung oder Löschung personenbezogener Daten, die in KI-Systemen verwendet werden, sowie das Recht, automatisierten Entscheidungen zu widersprechen (das „Recht auf Erklärung“).
• Rechenschaftspflicht und Sicherheit: Entwickler müssen geeignete Schutzmaßnahmen wie Anonymisierung, Pseudonymisierung und Datenschutz-Folgenabschätzungen (DPIAs) implementieren, um Datenschutzrisiken zu minimieren.

Gemeinsam bilden der EU AI Act und die DSGVO den Zwei-Säulen-Ansatz der Europäischen Union: Förderung von KI-Innovation bei gleichzeitiger Wahrung von Menschenrechten, Datenschutz und Vertrauen.

Vereinigte Staaten – Sektorenspezifische und bundesstaatliche Initiativen

Die USA haben noch kein einheitliches bundesweites KI-Gesetz verabschiedet. Es sind jedoch verschiedene bundesstaatliche Gesetze und bundesweite Exekutivmaßnahmen entstanden:

• California’s AB 730 verbietet den Einsatz von Deepfakes in politischer Werbung während Wahlperioden;
• Executive Order on AI (2023) fordert Bundesbehörden auf, Sicherheitsstandards zu entwickeln, Wasserzeichen zu unterstützen und Forschung zur Risikominderung von KI zu fördern.

China – Verpflichtende Offenlegung und Inhaltsprüfung

China hat strenge Vorschriften eingeführt, die Folgendes verlangen:

• Echtnamen-Authentifizierung für Nutzer, die mit KI-generierten Inhalten interagieren;
• Wasserzeichen für synthetische Medien und menschliche Moderation von Inhalten mit politisch sensiblen Themen;
• Algorithmusregistrierung: Entwickler müssen Absicht und Fähigkeiten jedes öffentlich eingesetzten Modells registrieren und offenlegen.

Weitere Länder

• Kanada: hat das Artificial Intelligence and Data Act (AIDA) vorgeschlagen, um hochwirksame KI-Systeme zu regulieren;
• Vereinigtes Königreich: die Regierung unterstützt einen „pro-innovativen“ Regulierungsansatz mit freiwilligen Leitlinien, aber bisher ohne strenge Gesetzgebung;
• Brasilien und Indien: diskutieren Rahmenwerke, die Verbraucherschutz mit Anreizen für Innovation verbinden.

Freiwillige Rahmenwerke und Brancheninitiativen

Während die Regulierung den technologischen Fortschritten hinterherhinkt, haben Branchenakteure und internationale Organisationen ethische Normen und bewährte Verfahren etabliert.

Internationale Standards und ethische Leitlinien

• OECD AI-Prinzipien: Von über 40 Ländern übernommen, fördern diese Prinzipien eine inklusive, transparente und rechenschaftspflichtige KI;
• UNESCO-Rahmenwerk für KI-Ethik: Fördert eine menschenrechtsbasierte Governance, einschließlich ökologischer Nachhaltigkeit und kultureller Vielfalt;
• IEEE Ethically Aligned Design: Bietet einen technischen Leitfaden für die Entwicklung von KI, die Privatsphäre, Fairness und Autonomie respektiert.

Branchengeführte Konsortien

Unternehmen erkennen zunehmend die Notwendigkeit der Selbstregulierung, um das öffentliche Vertrauen zu erhalten und restriktivere staatliche Eingriffe zu vermeiden.

• Partnership on AI: Gegründet von OpenAI, Google, Microsoft und anderen, unterstützt Forschung zu Fairness, Interpretierbarkeit und gesellschaftlichen Auswirkungen;

• Frontier Model Forum: Eine Zusammenarbeit zwischen OpenAI, Anthropic, Google DeepMind und Cohere zur Förderung von:

  • Verantwortungsvollem Modell-Skalieren;
  • Externen Sicherheitsüberprüfungen;
  • Best Practices für den Einsatz in kritischen Bereichen;
  • Austausch von technischen und sicherheitsrelevanten Dokumentationen.

• MLCommons und BigScience: Open-Source-Forschungsgemeinschaften, die an Transparenz-Benchmarks und offenen Modellevaluierungen arbeiten.

Ausblick: Was kommt als Nächstes?

Die Regulierung von generativer KI befindet sich noch in einem frühen Stadium, und mehrere zentrale Trends prägen ihre Zukunft:

• Modelltransparenz: Es ist wahrscheinlich, dass Richtlinien Entwickler dazu verpflichten, offenzulegen, wie KI-generierte Inhalte erstellt werden und ob Nutzer mit einem KI-System interagieren;
• Kennzeichnung synthetischer Inhalte: Wasserzeichen und unsichtbare Signaturen könnten für KI-generierte Bilder, Videos und Texte verpflichtend werden;
• Audits und Risikobewertungen: Unabhängige Prüfungen generativer Modelle werden besonders für fortschrittliche Modelle mit neuartigen Fähigkeiten entscheidend sein;
• Globale Koordination: Mit zunehmender Leistungsfähigkeit der Modelle wächst die Erkenntnis, dass globale Abkommen – ähnlich wie im Klima- oder Nuklearbereich – notwendig sein könnten;
• Modellregister: Länder könnten Entwickler dazu verpflichten, groß angelegte KI-Modelle zusammen mit Sicherheitsbewertungen und vorgesehenen Anwendungsfällen zu registrieren.