KPMG-rapport over AI-voordelen zit vol AI-hallucinaties
Een rapport van consultancybureau KPMG dat de voordelen van AI moest aantonen, bevat zelf meerdere AI-hallucinaties. Dat meldt ITdaily.
Kernpunten
- KPMG publiceerde een rapport over de voordelen van AI dat aantoonbaar AI-gegenereerde fouten bevat.
- Het gaat om zogenoemde 'hallucinaties': onjuiste of verzonnen informatie geproduceerd door een AI-systeem.
- Het incident wordt breed uitgemeten als pijnlijk praktijkvoorbeeld van de risico's van AI in professionele rapportage.
Consultancybureau KPMG heeft een rapport uitgebracht dat de voordelen van artificiële intelligentie moest aantonen, maar het stuk bevat zelf meerdere AI-hallucinaties — een term voor onjuiste of verzonnen feiten die door een AI-taalmodel worden gegenereerd en als waar worden gepresenteerd.
Dat schrijft ITdaily op basis van onderzoek naar de inhoud van het rapport. De fouten zijn typerend voor wat er kan misgaan wanneer AI-gegenereerde teksten zonder voldoende verificatie worden gepubliceerd.
Wat betekent dit voor de BeNeLux?
Voor organisaties in de BeNeLux die AI inzetten bij het opstellen van rapporten, adviezen of beleidsstukken, illustreert deze zaak een concreet risico: AI-taalmodellen kunnen plausibel klinkende maar feitelijk onjuiste informatie produceren. Menselijke controle blijft noodzakelijk, ook — en misschien juist — wanneer het onderwerp van het rapport AI zelf is.