OpenAI heeft recentelijk nieuwe gegevens vrijgegeven die een verontrustende trend aan het licht brengen: meer dan een miljoen mensen bespreken wekelijks zelfmoordgedachten met de AI-chatbot ChatGPT. Dit vertegenwoordigt 0,15% van de wekelijkse actieve gebruikers van ChatGPT, dat meer dan 800 miljoen gebruikers heeft. Naast deze zorgwekkende statistiek, meldt OpenAI dat een vergelijkbaar percentage van de gebruikers een emotionele gehechtheid aan de chatbot ontwikkelt, en dat honderdduizenden tekenen van psychose of manie vertonen in hun gesprekken met de AI.
Hoewel OpenAI benadrukt dat deze gesprekken zeldzaam zijn, benadrukken de cijfers de omvang van het probleem. De onderneming heeft gereageerd door haar inspanningen op te voeren om de manier waarop de modellen reageren op gebruikers met mentale gezondheidsproblemen te verbeteren. OpenAI heeft hiervoor meer dan 170 deskundigen op het gebied van geestelijke gezondheid geraadpleegd. Deze experts hebben vastgesteld dat de nieuwste versie van ChatGPT consistenter en adequater reageert dan eerdere versies.
Het aanpakken van mentale gezondheidsproblemen binnen ChatGPT is een existentiële kwestie voor OpenAI geworden. Het bedrijf wordt momenteel aangeklaagd door de ouders van een 16-jarige jongen die zijn suïcidale gedachten deelde met ChatGPT voordat hij zelfmoord pleegde. Tevens hebben de procureurs-generaal van Californië en Delaware OpenAI gewaarschuwd dat het meer moet doen om jonge gebruikers te beschermen.
OpenAI heeft onlangs aangekondigd dat de nieuwste versie van GPT-5 in staat is om in 65% van de gevallen “wenselijke reacties” te geven op mentale gezondheidskwesties, een aanzienlijke verbetering ten opzichte van eerdere versies. Evaluaties van AI-antwoorden op gesprekken over zelfmoord laten zien dat GPT-5 nu 91% voldoet aan de gewenste gedragsnormen van het bedrijf, vergeleken met 77% voor de vorige versie.
Daarnaast werkt OpenAI aan nieuwe evaluaties om enkele van de ernstigste mentale gezondheidsuitdagingen van gebruikers te meten. De basisveiligheidstesten voor AI-modellen zullen nu benchmarks bevatten voor emotionele afhankelijkheid en niet-suïcidale mentale gezondheidscrises.
OpenAI heeft ook nieuwe ouderlijke controles geïntroduceerd voor kinderen die ChatGPT gebruiken. Het bedrijf werkt aan een systeem voor leeftijdsvoorspelling om automatisch kinderen te identificeren en strengere veiligheidsmaatregelen toe te passen. Desondanks blijft het onduidelijk hoe persistent de mentale gezondheidsuitdagingen rond ChatGPT zullen zijn. Hoewel GPT-5 een verbetering lijkt te zijn op het gebied van veiligheid, zijn er nog steeds gevallen waarin de reacties van ChatGPT als “ongewenst” worden beoordeeld.
In het licht van deze uitdagingen blijft OpenAI vastbesloten om de interacties van ChatGPT met gebruikers veiliger en ondersteunender te maken. Het bedrijf blijft oudere en minder veilige AI-modellen, zoals GPT-4o, beschikbaar stellen voor miljoenen abonnees, wat voor zorgvuldige monitoring en voortdurende verbetering blijft zorgen. De komende maanden zullen cruciaal zijn voor OpenAI om aan te tonen dat hun technologische vooruitgang ook daadwerkelijk een positieve impact heeft op de mentale gezondheid van gebruikers wereldwijd.