Generative AI-modeller er designet til at skabe nyt indhold ved at lære mønstre fra eksisterende data. Disse modeller har kapacitet til at generere en bred vifte af output, herunder tekst, billeder, musik, videoer og endda 3D-objekter.

Generative AI-modeller kan overordnet klassificeres i to kategorier:

1. Regelbaserede modeller: disse modeller er afhængige af foruddefinerede regler og logik til at generere indhold. De er ofte enklere og mindre fleksible, men kan være effektive til specifikke opgaver;
2. Dybe læringsbaserede modeller: disse modeller anvender neurale netværk til at lære fra store mængder data, hvilket gør dem i stand til at producere meget realistiske og komplekse output. De er mere tilpasningsdygtige og kan håndtere forskellige kreative opgaver;

Moderne Generative AI er baseret på dybe læringsbaserede modeller, som omfatter:

• Generative Adversarial Networks (GANs);
• Variational Autoencoders (VAEs);
• Recurrent Neural Networks (RNNs) & Long Short-Term Memory (LSTMs);
• Diffusionsmodeller;
• Neural Radiance Fields (NeRFs).

Hver modeltype har en unik arkitektur, der påvirker, hvordan den genererer indhold, hvilket gør dem velegnede til forskellige anvendelser inden for AI.

1. Generative Adversarial Networks (GANs)

GANs består af to konkurrerende neurale netværk, der trænes sammen:

• Generator: skaber syntetiske data;
• Discriminator: skelner mellem ægte og falske data.

Arkitektur af GANs

1. Input:

   • Generatoren starter med en tilfældig støjvektor (latent space);

2. Generator-modul:

   • Anvender fuldt forbundne lag til at kortlægge støj til strukturerede træk;
   • Anvender konvolutionslag til at forfine outputtet (f.eks. generering af et billede);

3. Genereret output:

   • Generatoren producerer syntetiske data (f.eks. et billede);

4. Discriminator-modul:

   • Anvender konvolutionslag til at analysere billedet;
   • Anvender et klassifikationslag til at afgøre, om billedet er ægte eller falsk.

5. Adversarial træning

   • Hvis Discriminatoren korrekt klassificerer det falske billede, justerer Generatoren sine parametre for at forbedre sig;
   • Denne proces gentages, indtil Generatoren producerer meget realistiske output.

Almindelige anvendelser:

• AI-genererede billeder og deepfakes
• Syntetisk datagenerering
• AI-drevet kunstnerisk stiloverførsel

2. Variationsautoencodere (VAE'er)

VAE'er er probabilistiske modeller, der lærer en komprimeret repræsentation af data og derefter rekonstruerer variationer ud fra denne.

Arkitektur for VAE'er

1. Inputlag:
   • Modtager rå data (f.eks. et billede);
2. Encoder-modul:
   • Komprimerer input til en latent rum-repræsentation (lavere-dimensionelt feature space);
   • Anvender konvolutionelle eller fuldt forbundne lag;
3. Latent rum:
   • Definerer sandsynlighedsfordelingen af features ved brug af middel- og varianslag;
   • Tilføjer tilfældig støj for at muliggøre variationer i genererede output;
4. Decoder-modul:
   • Rekonstruerer data fra den latente repræsentation;
   • Anvender dekonvolutionelle lag (opskalering) til at generere nye data;
5. Outputlag:
   • Producerer rekonstruerede data (f.eks. en modificeret version af input).

Almindelige anvendelser:

• Dataforøgelse og generering af syntetiske data
• Billedgenerering med kontrollerede variationer
• Anomali-detektion

3. Transformer-baserede modeller

Transformere er grundlaget for moderne AI-tekstmodeller. I stedet for at behandle data sekventielt, analyserer de hele inputsekvenser på én gang ved hjælp af self-attention-mekanismer.

Arkitektur for transformere

1. Input-embedding:
   • Konverterer ord eller tokens til vektor-repræsentationer;
   • Anvender positionel kodning for at bevare ordstillingen;
2. Self-attention-modul:
   • Bestemmer hvilke ord i en sætning der er vigtige baseret på kontekst;
   • Anvender multi-head attention-lag for dybere kontekstforståelse;
3. Feedforward-netværk:
   • Behandler self-attention-output ved brug af fuldt forbundne lag;
   • Normaliserer data med lag-normalisering;
4. Outputlag:
   • Genererer næste-ord-forudsigelser eller oversætter tekst baseret på indlærte mønstre.

Almindelige anvendelser:

• AI-drevne chatbots og tekstgenerering
• Maskinoversættelse
• AI-assisteret programmering

4. Diffusionsmodeller

Diffusionsmodeller er en ny klasse af generative AI-modeller, der producerer højkvalitets, detaljerede billeder ved gradvist at forfine tilfældig støj til strukturerede output. Disse modeller er særligt effektive til AI-genereret fotografi og digital kunst.

I modsætning til GANs, som benytter sig af adversarial træning, lærer diffusionsmodeller ved at vende en støjproces—det vil sige, de starter med ren støj og rekonstruerer langsomt billeder.

Arkitektur for diffusionsmodeller

1. Fremadrettet proces (tilføjelse af støj):
   • Et rigtigt billede bliver gradvist forringet ved at tilføre tilfældig støj over flere trin;
   • Efter tilstrækkeligt mange trin bliver billedet til ren støj;
2. Omvendt proces (trinvis fjernelse af støj):
   • Et neuralt netværk lærer at fjerne støjen trin for trin;
   • Hvert trin gendanner detaljer i billedet;
   • Det endelige output er et højopløseligt genereret billede.

Centrale moduler i diffusionsmodeller

• Støjplanlægger – bestemmer hvor meget støj der tilføjes ved hvert trin;
• U-Net Backbone – et konvolutionelt neuralt netværk, der lærer at fjerne støj fra billeder;
• Tidskodningsmodul – Hjælper modellen med at forstå, hvilket trin den befinder sig på i støjfjernelsesprocessen.

Almindelige anvendelser:

• AI-genereret kunst og fotografi;
• Billedrestaurering (fjernelse af sløring og støj);
• Højopløsnings video frame-interpolering.

Hvordan diffusionsmodeller forbedrer sig i forhold til GANs

Diffusionsmodeller giver større stabilitet, højere outputkvalitet og mere diversitet end GANs. Hvor GANs benytter adversarial træning, hvilket kan føre til ustabile resultater og mode collapse, forfiner diffusionsmodeller gradvist støj til detaljerede billeder, hvilket sikrer konsekvent kvalitet. De producerer også mere varierede output, mens GANs kan generere gentagende indhold. Dog kræver diffusionsmodeller længere beregningstid på grund af deres trin-for-trin denoising-proces, hvilket gør dem langsommere, men mere pålidelige til højkvalitets billedsyntese.

Konklusion

Generativ AI består af fire hovedtyper af dybe læringsmodeller, hver optimeret til forskellige opgaver:

• GANs specialiserer sig i deepfakes, AI-kunstgenerering;
• VAE'er anvendes ofte til dataforøgelse og anomali-detektion;
• Transformers egner sig bedst til tekstgenerering.
• Diffusionsmodeller leverer de højeste billedkvaliteter med stabil træning.

Hver model har unikke fordele og udvikler sig fortsat, hvilket former fremtiden for AI-drevet kreativitet og automatisering.