Globale Richtlinien und KI-Governance

Mit der zunehmenden Integration generativer KI in den Alltag – von der Inhaltserstellung bis zur Entscheidungsunterstützung – sind regulatorische und Governance-Rahmenwerke unerlässlich geworden, um eine sichere, faire und transparente Nutzung zu gewährleisten. Ohne Aufsicht besteht das Risiko, dass KI-Systeme Schaden verstärken, sich der Verantwortung entziehen und das öffentliche Vertrauen untergraben. Dieses Kapitel beleuchtet globale Bemühungen zur Regulierung generativer KI und zur Festlegung von Standards für einen verantwortungsvollen Einsatz.

Staatliche Regulierung

Regierungen weltweit erkennen, dass die transformative Kraft generativer KI mit erheblichen Risiken einhergeht – von Desinformation und Deepfakes bis hin zu Arbeitsplatzverlusten und rechtlicher Unsicherheit. Daher haben sich verschiedene regulatorische Ansätze herausgebildet.

Europäische Union – EU AI Act

Der EU AI Act ist der weltweit erste umfassende Rechtsrahmen für KI. Er klassifiziert KI-Systeme nach Risikostufen von minimal bis inakzeptabel und ordnet generative Modelle wie GPT und Stable Diffusion der Kategorie „hohes Risiko“ zu.

Wesentliche Verpflichtungen umfassen:

• Transparenzanforderungen: Entwickler müssen klar offenlegen, dass Inhalte von KI generiert wurden (zum Beispiel durch Wasserzeichen oder Metadaten).
• Dokumentation und Risikomanagement: Entwickler müssen technische Dokumentationen bereitstellen, die Trainingsdaten, potenzielle Risiken und Strategien zur Risikominderung beschreiben.
• Einschränkungen der Nutzung: Bestimmte Anwendungen, wie die biometrische Überwachung in Echtzeit, sind vollständig verboten oder streng reguliert.

GDPR-Verbindung: Datenschutz und Privatsphäre

Die Datenschutz-Grundverordnung (GDPR) ist ein Grundpfeiler der EU-Digitalpolitik und steht in engem Zusammenhang mit dem AI Act. Während der AI Act regelt, wie KI-Systeme entwickelt und eingesetzt werden, reguliert die GDPR den Umgang mit personenbezogenen Daten, die für deren Training und Betrieb verwendet werden. Gemeinsam bilden sie einen doppelten Compliance-Rahmen für KI-Entwickler.

Wesentliche Überschneidungen und Prinzipien sind:

• Rechtmäßigkeit, Fairness und Transparenz: Jegliche Verarbeitung personenbezogener Daten für das KI-Training muss eine klare rechtliche Grundlage haben und den Nutzern transparent kommuniziert werden.
• Datenminimierung und Zweckbindung: Es dürfen nur Daten verwendet werden, die für die Funktion der KI unbedingt erforderlich sind; die Weiterverwendung personenbezogener Daten für nicht verwandte Modelltrainings ist eingeschränkt.
• Rechte der betroffenen Personen: Einzelpersonen behalten das Recht, auf personenbezogene Daten zuzugreifen, diese zu berichtigen oder zu löschen, die in KI-Systemen verwendet werden, sowie das Recht, automatisierten Entscheidungen zu widersprechen (das „Recht auf Erklärung“).
• Rechenschaftspflicht und Sicherheit: Entwickler müssen geeignete Schutzmaßnahmen wie Anonymisierung, Pseudonymisierung und Datenschutz-Folgenabschätzungen (DPIAs) implementieren, um Datenschutzrisiken zu minimieren.

Gemeinsam bilden der EU AI Act und die GDPR den Zwei-Säulen-Ansatz der Europäischen Union: Förderung von KI-Innovation bei gleichzeitiger Wahrung von Menschenrechten, Datenschutz und Vertrauen.

Vereinigte Staaten – Sektorenspezifische und bundesstaatliche Initiativen

Die USA haben noch kein einheitliches bundesweites KI-Gesetz verabschiedet. Allerdings sind verschiedene bundesstaatliche Gesetze und bundesweite Exekutivmaßnahmen entstanden:

• California’s AB 730 verbietet den Einsatz von Deepfakes in der politischen Werbung während Wahlperioden;
• Executive Order on AI (2023) fordert Bundesbehörden auf, Sicherheitsstandards zu entwickeln, Wasserzeichen zu unterstützen und die Forschung zur Risikominderung bei KI zu fördern.

China – Verpflichtende Offenlegung und Inhaltsprüfung

China hat strenge Vorschriften eingeführt, die Folgendes verlangen:

• Echtnamen-Authentifizierung für Nutzer, die mit KI-generierten Inhalten interagieren;
• Wasserzeichen für synthetische Medien und menschliche Moderation von Inhalten mit politisch sensiblen Themen;
• Algorithmusregistrierung: Entwickler müssen Absicht und Fähigkeiten jedes öffentlich eingesetzten Modells registrieren und offenlegen.

Weitere Länder

• Kanada: hat das Artificial Intelligence and Data Act (AIDA) vorgeschlagen, um Hochrisiko-KI-Systeme zu regulieren;
• Vereinigtes Königreich: die Regierung unterstützt einen „pro-innovativen“ Regulierungsansatz mit freiwilligen Leitlinien, aber bisher ohne strenge Gesetzgebung;
• Brasilien und Indien: diskutieren Rahmenwerke, die Verbraucherschutz mit Anreizen für Innovation verbinden.

Freiwillige Rahmenwerke und Brancheninitiativen

Während die Regulierung den technologischen Fortschritten hinterherhinkt, haben Branchenakteure und internationale Organisationen ethische Normen und bewährte Verfahren etabliert.

Internationale Standards und ethische Leitlinien

• OECD KI-Prinzipien: Von über 40 Ländern übernommen, fördern diese Prinzipien eine inklusive, transparente und rechenschaftspflichtige KI;
• UNESCO-Rahmenwerk für KI-Ethik: Fördert eine menschenrechtsbasierte Governance, einschließlich ökologischer Nachhaltigkeit und kultureller Vielfalt;
• IEEE Ethically Aligned Design: Bietet einen technischen Leitfaden für die Entwicklung von KI, die Privatsphäre, Fairness und Autonomie respektiert.

Branchengeführte Konsortien

Unternehmen erkennen zunehmend die Notwendigkeit der Selbstregulierung, um das öffentliche Vertrauen zu erhalten und restriktivere staatliche Eingriffe zu vermeiden.

• Partnership on AI: Gegründet von OpenAI, Google, Microsoft und anderen, unterstützt sie Forschung zu Fairness, Interpretierbarkeit und gesellschaftlichen Auswirkungen;

• Frontier Model Forum: Eine Zusammenarbeit zwischen OpenAI, Anthropic, Google DeepMind und Cohere zur Förderung von:

  • Verantwortungsvollem Modell-Scaling;
  • Externen Sicherheitsüberprüfungen;
  • Best Practices für den Einsatz in kritischen Bereichen;
  • Austausch von technischen und sicherheitsrelevanten Dokumentationen.

• MLCommons und BigScience: Open-Source-Forschungsgemeinschaften, die an Transparenz-Benchmarks und offenen Modellbewertungen arbeiten.

Zukunftsausblick: Was kommt als Nächstes?

Die Regulierung von generativer KI befindet sich noch in den Anfängen, und mehrere wichtige Trends prägen ihre Zukunft:

• Modelltransparenz: Richtlinien werden voraussichtlich verlangen, dass Entwickler offenlegen, wie KI-generierte Inhalte erstellt werden und ob Nutzer mit einem KI-System interagieren;
• Kennzeichnung synthetischer Inhalte: Wasserzeichen und unsichtbare Signaturen könnten für KI-generierte Bilder, Videos und Texte verpflichtend werden;
• Audits und Risikobewertungen: Unabhängige Prüfungen von generativen Modellen werden besonders für fortschrittliche Modelle mit neuen Fähigkeiten entscheidend sein;
• Globale Koordination: Mit zunehmender Leistungsfähigkeit der Modelle wächst die Erkenntnis, dass globale Abkommen – ähnlich wie bei Klima- oder Nuklearabkommen – notwendig sein könnten;
• Modellregister: Länder könnten verlangen, dass Entwickler groß angelegte KI-Modelle zusammen mit Sicherheitsbewertungen und vorgesehenen Anwendungsfällen registrieren.