Da generative KI zunehmend in den Alltag integriert wird – von der Inhaltserstellung bis zur Entscheidungsunterstützung – sind regulatorische und Governance-Rahmenwerke unerlässlich, um eine sichere, faire und transparente Nutzung zu gewährleisten. Ohne Aufsicht besteht das Risiko, dass KI-Systeme Schaden verstärken, sich der Verantwortung entziehen und das öffentliche Vertrauen untergraben. Dieses Kapitel untersucht globale Bemühungen zur Regulierung generativer KI und zur Festlegung von Standards für einen verantwortungsvollen Einsatz.

Staatliche Regulierung

Regierungen weltweit erkennen, dass die transformative Kraft generativer KI mit erheblichen Risiken einhergeht – von Fehlinformationen und Deepfakes bis hin zu Arbeitsplatzverlusten und rechtlichen Unsicherheiten. Daher haben sich verschiedene regulatorische Ansätze herausgebildet.

Europäische Union – EU AI Act

Der EU AI Act ist der weltweit erste umfassende Rechtsrahmen für KI. Er klassifiziert KI-Systeme nach Risikostufen von minimal bis inakzeptabel und ordnet generative Modelle wie GPT und Stable Diffusion der Kategorie „hohes Risiko“ zu.

Wesentliche Verpflichtungen umfassen:

• Transparenzanforderungen: Entwickler müssen klar offenlegen, dass Inhalte von KI generiert wurden (zum Beispiel durch Wasserzeichen oder Metadaten).
• Dokumentation und Risikomanagement: Entwickler müssen technische Dokumentationen bereitstellen, die Trainingsdaten, potenzielle Risiken und Minderungsstrategien beschreiben.
• Einschränkungen der Nutzung: Bestimmte Anwendungen, wie die biometrische Überwachung in Echtzeit, sind vollständig verboten oder streng reguliert.

GDPR-Verbindung: Datenschutz und Privatsphäre

Die Datenschutz-Grundverordnung (DSGVO) ist ein Grundpfeiler der digitalen Politik der EU und steht in engem Zusammenhang mit dem AI Act. Während der AI Act regelt, wie KI-Systeme entwickelt und eingesetzt werden, regelt die DSGVO den Umgang mit personenbezogenen Daten, die für deren Training und Betrieb verwendet werden. Gemeinsam bilden sie einen doppelten Compliance-Rahmen für KI-Entwickler.

Wesentliche Überschneidungen und Prinzipien umfassen:

• Rechtmäßigkeit, Fairness und Transparenz: Jegliche Verarbeitung personenbezogener Daten für das KI-Training muss eine klare rechtliche Grundlage haben und den Nutzern transparent kommuniziert werden.
• Datenminimierung und Zweckbindung: Es dürfen nur Daten verwendet werden, die für die Funktion der KI unbedingt erforderlich sind; die Weiterverwendung personenbezogener Daten für nicht verwandtes Modelltraining ist eingeschränkt.
• Rechte der betroffenen Personen: Einzelpersonen behalten das Recht, auf personenbezogene Daten, die in KI-Systemen verwendet werden, zuzugreifen, diese zu berichtigen oder zu löschen sowie der automatisierten Entscheidungsfindung zu widersprechen (das "Recht auf Erklärung").
• Rechenschaftspflicht und Sicherheit: Entwickler müssen geeignete Schutzmaßnahmen wie Anonymisierung, Pseudonymisierung und Datenschutz-Folgenabschätzungen (DPIAs) implementieren, um Datenschutzrisiken zu mindern.

Gemeinsam bilden der EU AI Act und die DSGVO den Zwei-Säulen-Ansatz der Europäischen Union: Förderung von KI-Innovation bei gleichzeitiger Wahrung von Menschenrechten, Datenschutz und Vertrauen.

Vereinigte Staaten – Sektorenspezifische und bundesstaatliche Initiativen

Die USA haben noch kein einheitliches bundesweites KI-Gesetz verabschiedet. Es sind jedoch verschiedene Gesetze auf Bundesstaatsebene und bundesweite Exekutivmaßnahmen entstanden:

• California’s AB 730 verbietet den Einsatz von Deepfakes in politischer Werbung während Wahlperioden;
• Executive Order on AI (2023) fordert Bundesbehörden auf, Sicherheitsstandards zu entwickeln, Wasserzeichen zu unterstützen und Forschung zur Risikominderung bei KI zu fördern.

China – Verpflichtende Offenlegung und Inhaltsprüfung

China hat strenge Vorschriften eingeführt, die Folgendes verlangen:

• Echtnamen-Authentifizierung für Nutzer, die mit KI-generierten Inhalten interagieren;
• Wasserzeichen für synthetische Medien und menschliche Moderation von Inhalten mit politisch sensiblen Themen;
• Algorithmusregistrierung: Entwickler müssen Absicht und Fähigkeiten jedes öffentlich eingesetzten Modells registrieren und offenlegen.

Weitere Länder

• Kanada: hat das Artificial Intelligence and Data Act (AIDA) vorgeschlagen, um Hochrisiko-KI-Systeme zu regulieren;
• Vereinigtes Königreich: Die Regierung unterstützt einen „pro-innovativen“ Regulierungsansatz mit freiwilligen Leitlinien, aber bisher ohne strenge Gesetzgebung;
• Brasilien und Indien: diskutieren Rahmenwerke, die Verbraucherschutz mit Anreizen für Innovation verbinden.

Freiwillige Rahmenwerke und Brancheninitiativen

Während die Regulierung den technologischen Fortschritten hinterherhinkt, haben Branchenakteure und internationale Organisationen ethische Normen und bewährte Verfahren etabliert.

Internationale Standards und ethische Leitlinien

• OECD KI-Prinzipien: Von über 40 Ländern übernommen, fördern diese Prinzipien eine inklusive, transparente und rechenschaftspflichtige KI;
• UNESCO-Rahmenwerk für KI-Ethik: Unterstützt eine menschenrechtsbasierte Governance, einschließlich ökologischer Nachhaltigkeit und kultureller Vielfalt;
• IEEE Ethically Aligned Design: Bietet einen technischen Leitfaden für die Entwicklung von KI, die Privatsphäre, Fairness und Autonomie respektiert.

Branchengeführte Konsortien

Unternehmen erkennen zunehmend die Notwendigkeit der Selbstregulierung, um das öffentliche Vertrauen zu erhalten und restriktivere staatliche Eingriffe zu vermeiden.

• Partnership on AI: Gegründet von OpenAI, Google, Microsoft und anderen, unterstützt sie Forschung zu Fairness, Interpretierbarkeit und gesellschaftlichen Auswirkungen;

• Frontier Model Forum: Eine Zusammenarbeit zwischen OpenAI, Anthropic, Google DeepMind und Cohere zur Förderung von:

  • Verantwortungsvollem Modell-Skalieren;
  • Externen Sicherheitsprüfungen;
  • Best Practices für den Einsatz in kritischen Bereichen;
  • Austausch von technischen und sicherheitsrelevanten Dokumentationen.

• MLCommons und BigScience: Open-Source-Forschungsgemeinschaften, die an Transparenz-Benchmarks und offenen Modellbewertungen arbeiten.

Zukunftsausblick: Was kommt als Nächstes?

Die Regulierung von generativer KI befindet sich noch in einem frühen Stadium, und mehrere zentrale Trends prägen ihre Zukunft:

• Modelltransparenz: Es ist wahrscheinlich, dass Richtlinien Entwickler dazu verpflichten, offenzulegen, wie KI-generierte Inhalte erstellt werden und ob Nutzer mit einem KI-System interagieren;
• Kennzeichnung synthetischer Inhalte: Wasserzeichen und unsichtbare Signaturen könnten für KI-generierte Bilder, Videos und Texte verpflichtend werden;
• Audits und Risikobewertungen: Unabhängige Prüfungen generativer Modelle werden besonders für fortschrittliche Modelle mit neuartigen Fähigkeiten entscheidend sein;
• Globale Koordination: Mit zunehmender Leistungsfähigkeit der Modelle wächst die Erkenntnis, dass globale Abkommen – ähnlich wie im Klima- oder Nuklearbereich – notwendig sein könnten;
• Modellregister: Länder könnten Entwickler dazu verpflichten, groß angelegte KI-Modelle zusammen mit Sicherheitsbewertungen und vorgesehenen Anwendungsfällen zu registrieren.