OpenAI heeft recentelijk het GPT-5.2 model gepresenteerd als hun meest geavanceerde AI voor professioneel gebruik. Echter, een recent onderzoek van de Britse krant *The Guardian* heeft twijfels doen rijzen over de betrouwbaarheid van de bronnen die het model hanteert. Uit de tests blijkt namelijk dat de AI soms informatie haalt uit Grokipedia, een online encyclopedie van xAI, het AI-bedrijf van Elon Musk. Dit platform is controversieel vanwege het gebruik van omstreden bronnen.
In het rapport van *The Guardian* wordt beschreven hoe GPT-5.2 Grokipedia citeerde bij gevoelige onderwerpen zoals de vermeende banden tussen de Iraanse overheid en het telecombedrijf MTN-Irancell. Daarnaast werd Grokipedia als bron gebruikt voor informatie over Richard Evans, een Britse historicus die betrokken was bij een rechtszaak tegen Holocaustontkenner David Irving. Opmerkelijk is dat Grokipedia niet werd gebruikt voor vragen over mediavoorkeuren tegen Donald Trump en andere vergelijkbare thema’s.
OpenAI lanceerde het GPT-5.2 model in december met de belofte van betere prestaties voor professionele toepassingen, zoals het maken van spreadsheets en het afhandelen van complexe taken. Hoewel Grokipedia al voor de release van GPT-5.2 beschikbaar was, raakte het in opspraak doordat het citaten bevatte van neonazistische fora. Uit een studie van Amerikaanse onderzoekers blijkt dat de AI-encyclopedie vaak steunt op “twijfelachtige” en “problematische” bronnen.
In reactie op het onderzoek van *The Guardian* verklaarde OpenAI dat GPT-5.2 gebruikmaakt van een breed scala aan publiek beschikbare bronnen en gezichtspunten. Ze benadrukken echter dat er veiligheidsfilters worden toegepast om het risico te verminderen dat links met ernstige schade naar voren worden gebracht.
De bevindingen van het onderzoek werpen een schaduw op de geloofwaardigheid van de informatie die door GPT-5.2 wordt verstrekt, vooral als het gaat om onderwerpen met een hoge gevoeligheid of waarover veel verdeeldheid bestaat. Het gebruik van Grokipedia als bron roept vragen op over de kwaliteitscontrolemechanismen die OpenAI toepast bij het selecteren van informatiebronnen.
Dit nieuws komt op een moment dat de vraag naar betrouwbare en nauwkeurige AI-systemen in toenemende mate groeit. Bedrijven en instellingen die AI-technologieën willen inzetten voor hun dagelijkse activiteiten, zijn afhankelijk van de betrouwbaarheid en de integriteit van de gegevens die door deze systemen worden gegenereerd. Het incident met Grokipedia benadrukt de noodzaak voor ontwikkelaars om strengere kwaliteitsnormen en transparantie in hun modellen te implementeren.
De discussie over de betrouwbaarheid van AI-bronnen werpt ook een licht op bredere ethische kwesties binnen de ontwikkeling van kunstmatige intelligentie. Hoe kunnen bedrijven ervoor zorgen dat hun AI-systemen niet alleen technisch geavanceerd, maar ook ethisch verantwoord zijn? Dit is een cruciale vraag die beantwoord moet worden, niet alleen door OpenAI, maar door de gehele AI-industrie.
Ondertussen blijft OpenAI vasthouden aan hun positie dat hun model ontworpen is om een breed scala aan informatiebronnen te onderzoeken en verschillende perspectieven te bieden. Het bedrijf heeft benadrukt dat het voortdurend werkt aan de verbetering van hun technologieën, inclusief het verfijnen van de algoritmen die bepalen welke bronnen als betrouwbaar worden beschouwd. Het is afwachten hoe OpenAI deze uitdagingen zal aanpakken en welke maatregelen ze zullen nemen om het vertrouwen in hun AI-modellen te herstellen.