Witte Huis-rapport vol AI-fouten: Nepstudies, foutieve bronnen en niet-werkende links

Een belangrijk gezondheidsrapport van het Witte Huis, het zogeheten MAHA Report (Make America Healthy Again), blijkt vol fouten te staan. Een deel van de wetenschappelijke bronnen is waarschijnlijk gegenereerd met kunstmatige intelligentie, wat leidde tot foutieve citaties, verzonnen studies en niet-bestaande auteurs.

Het rapport, dat 522 voetnoten bevat, werd doorgelicht door The Washington Post. Daaruit bleek dat zeker 37 verwijzingen meerdere keren terugkwamen. Daarnaast bevatten sommige citaties verkeerde auteursnamen of verwezen ze naar onderzoeken die helemaal niet bestaan.

De term 'oaicite', die in sommige URL's opdook, wijst erop dat AI-software van OpenAI is gebruikt om de informatie te verzamelen. AI-chatbots als ChatGPT staan erom bekend soms studies te 'verzinnen' of foutieve informatie logisch te laten klinken.

Het rapport is opgesteld door een overheidscommissie onder leiding van minister van Volksgezondheid Robert F. Kennedy Jr., op verzoek van president Donald Trump. Het onderzoekt waarom de gezondheid van Amerikaanse kinderen achteruitgaat en noemt factoren als luchtvervuiling, slechte voeding en te veel schermtijd als oorzaken.

Sommige bronvermeldingen bleken compleet fout. Een studie over het overmatig voorschrijven van medicijnen aan kinderen met astma bleek niet te bestaan. In een latere versie van het rapport werd deze vervangen door een bestaand artikel uit 2017. Ook een artikel van U.S. News & World Report over speeltijd bij kinderen werd verkeerd geciteerd. De echte auteur, Kate Rix, werd vervangen door twee namen die geen journalisten blijken te zijn.

Uit de controle van de voetnoten bleek bovendien dat minstens 21 links niet werkten.

Donderdagmiddag begon het Witte Huis met het aanpassen van het rapport op zijn website. Zo werden onder andere foutieve hyperlinks en AI-gerelateerde verwijzingen zoals 'oaicite' verwijderd. De updates gingen de hele avond door. Een woordvoerder van het ministerie van Volksgezondheid, Andrew Nixon, erkende dat er fouten zijn verbeterd, maar benadrukte dat de inhoud van het rapport overeind blijft. 'Dit is een historisch en belangrijk rapport over de gezondheid van onze kinderen,' zei Nixon.