Generatieve AI en grote taalmodellen uitgelegd: wat het is, hoe het werkt en waar het tekortschiet
Generatieve AI is een deelgebied van kunstmatige intelligentie dat modellen gebruikt om tekst, afbeeldingen, video en code te genereren. Grote taalmodellen (LLM's) vormen de technische kern achter tools als ChatGPT en Google Gemini — maar ze hebben ook bekende beperkingen.
Kernpunten
- Generatieve AI is een deelgebied van AI dat via generatieve modellen nieuwe inhoud produceert, zoals tekst, afbeeldingen, video en code.
- Grote taalmodellen (LLM's) zijn neurale netwerken getraind op grote hoeveelheden tekst; ze zijn gebaseerd op de transformer-architectuur en voorspellen bij elke stap het volgende woord.
- LLM's worden ingezet voor uiteenlopende taken zoals tekst genereren, samenvatten, vertalen en analyseren; ze vormen de basis van moderne chatbots.
- Bekende beperkingen zijn onder meer onbetrouwbare uitvoer door bevooroordeelde of onjuiste trainingsdata, en het risico op hallucinaties; ook zijn er zorgen over energieverbruik en auteursrechtelijke kwesties.
Wat is generatieve AI?
Generatieve AI (GenAI) is een deelgebied van kunstmatige intelligentie dat generatieve modellen gebruikt om nieuwe inhoud te produceren: tekst, afbeeldingen, video, audio of softwarecode. Zulke modellen leren de onderliggende patronen en structuren van hun trainingsdata en gebruiken die kennis om nieuwe data te genereren — doorgaans als reactie op een invoer in natuurlijke taal, een zogeheten prompt.
De opkomst van generatieve AI in de jaren 2020 werd mogelijk gemaakt door verbeteringen in diepe neurale netwerken, met name grote taalmodellen (LLM's) op basis van de transformer-architectuur. Bekende toepassingen zijn chatbots zoals ChatGPT, Claude, Copilot, DeepSeek en Google Gemini, tekst-naar-afbeelding-modellen zoals DALL-E, Stable Diffusion en Midjourney, en tekst-naar-video-modellen zoals Sora en Veo.
Wat zijn grote taalmodellen (LLM's)?
Een groot taalmodel is een neuraal netwerk getraind op een grote hoeveelheid tekst, bedoeld voor taken op het gebied van natuurlijke taalverwerking — met name het genereren van taal. LLM's zijn doorgaans gebaseerd op de transformer-architectuur, die beter te paralleliseren is dan eerdere modellen. Een veelgebruikt type is de generative pre-trained transformer (GPT): vooraf getraind om het volgende woord te voorspellen, en daarna vaak bijgestuurd (fine-tuned) om instructies op te volgen en als assistent te werken.
Wat betekent dit voor de BeNeLux?
De beperkingen — zoals het risico op onjuiste uitvoer en vragen rond auteursrecht en energieverbruik — zijn relevant voor iedereen die deze technologie evalueert of inzet. Een gedegen begrip van hoe LLM's werken en waar ze tekortschieten, helpt bij het maken van weloverwogen keuzes.
Hoe werkt een LLM technisch?
LLM's zijn neurale netwerken die worden getraind op grote tekstcorpora. De transformer-architectuur — geïntroduceerd in 2017 — maakt het mogelijk om de context van een woord in een zin beter te modelleren dan eerdere architecturen. GPT-modellen (generative pre-trained transformers) zijn een specifieke toepassing: ze worden vooraf getraind op tekstvoorspelling en daarna verfijnd voor specifieke taken.
Benchmarks voor LLM's meten doorgaans redeneervaardigheden, feitelijke nauwkeurigheid, alignment (het gedrag in lijn brengen met menselijke intenties) en veiligheid.
Toepassingen
Volgens Wikipedia worden generatieve AI-tools ingezet in een breed scala aan sectoren:
- Tekst en communicatie: chatbots, samenvatten, vertalen, analyseren
- Softwareontwikkeling: codegeneratie
- Creatieve sectoren: kunst, schrijven, productdesign
- Zakelijke toepassingen: klantenservice, sales en marketing
- Gezondheidszorg en financiën: analyse en ondersteuning
Bekende beperkingen en risico's
Generatieve AI en LLM's kennen een aantal gedocumenteerde beperkingen:
Onbetrouwbare uitvoer: Bevooroordeelde of onjuiste trainingsdata kan de uitvoer van een LLM minder betrouwbaar maken. LLM's kunnen zogenoemde hallucinaties produceren — uitvoer die feitelijk onjuist is maar overtuigend klinkt.
Misbruik: Generatieve AI wordt gebruikt voor cybercriminaliteit en het maken van deepfakes — synthetische media die mensen misleiden of manipuleren, bijvoorbeeld via nepnieuws.
Auteursrechtelijke kwesties: Generatieve AI-modellen zijn getraind op auteursrechtelijk beschermd materiaal zonder toestemming van de rechthebbenden.
Milieu-impact: Veel generatieve AI-systemen draaien op grootschalige datacenters. De milieu-impact omvat elektronisch afval, verbruik van zoetwater voor koeling en een hoog energieverbruik dat naar schatting gestaag groeit.
Korte historische achtergrond
De algoritmische generatie van media gaat verder terug dan de AI-boom van de jaren 2020. De wiskundige Andrey Markov introduceerde de Markov-keten in 1906; op basis van een tekstcorpus kan zo'n keten probabilistische tekst genereren. In 2014 maakten modellen als de variational autoencoder (VAE) en het generative adversarial network (GAN) effectieve diepe generatieve modellering van complexe data mogelijk. De doorbraak van de transformer-architectuur in 2017 leidde vervolgens tot de ontwikkeling van GPT-modellen, te beginnen met GPT-1 in 2018.
Veelgestelde vragen
- Wat is het verschil tussen generatieve AI en een groot taalmodel (LLM)?
- Generatieve AI is het brede deelgebied van AI dat modellen gebruikt om nieuwe inhoud te genereren (tekst, afbeeldingen, video, audio, code). Een groot taalmodel (LLM) is een specifiek type generatief model: een neuraal netwerk getraind op grote hoeveelheden tekst, gericht op het begrijpen en genereren van taal. LLM's zijn dus een subcategorie binnen generatieve AI.
- Hoe voorspelt een LLM het volgende woord?
- LLM's zijn gebaseerd op de transformer-architectuur en worden vooraf getraind om het volgende woord (of token) te voorspellen op basis van de voorafgaande tekst. Ze leren de patronen en structuren in grote tekstcorpora en gebruiken die om nieuwe tekst te genereren die statistisch aansluit bij de invoer.
- Wat zijn hallucinaties bij LLM's?
- Een LLM kan uitvoer produceren die feitelijk onjuist is maar overtuigend klinkt. Dit wordt een hallucinatie genoemd. Bevooroordeelde of onjuiste trainingsdata kan de kans hierop vergroten en de betrouwbaarheid van de uitvoer verlagen.
- Voor welke sectoren wordt generatieve AI al ingezet?
- Volgens Wikipedia gebruiken bedrijven in uiteenlopende sectoren generatieve AI, waaronder softwareontwikkeling, gezondheidszorg, financiën, entertainment, klantenservice, sales en marketing, kunst, schrijven en productdesign.
- Wat zijn de voornaamste maatschappelijke zorgen rond generatieve AI?
- Wikipedia noemt drie hoofdcategorieën: (1) misbruik voor cybercriminaliteit en het maken van deepfakes die mensen misleiden; (2) het trainen op auteursrechtelijk beschermd materiaal zonder toestemming van rechthebbenden; en (3) de milieu-impact van de benodigde datacenters, waaronder energieverbruik, waterverbruik en elektronisch afval.
Bronnen
Verder lezen
Verbanden uit de kennisgraph, met per artikel de reden van de koppeling.
Verwant
- Anthropic brengt krachtigste publieke model Claude Fable 5 uit met ingebouwde veiligheidsbeperkingenBevestigd
Achtergrond: hoe grote taalmodellen zoals Claude werken.
Graph laden…