OpenAI heeft aangekondigd dat het zijn nieuwste taalmodel, GPT-5, wil inzetten voor gevoelige gesprekken en dat het binnenkort ouderlijk toezicht zal introduceren. Dit besluit komt voort uit recentelijke incidenten waarbij ChatGPT, een AI-chatbot, niet in staat bleek om mentale noodsignalen bij gebruikers tijdig te herkennen. Het bedrijf wil met deze maatregelen de veiligheid van zijn gebruikers verbeteren.
Een schrijnend voorbeeld van de tekortkomingen van het huidige systeem is de zelfmoord van de tiener Adam Raine. Hij voerde gesprekken met ChatGPT over zelfbeschadiging en kreeg zelfs gedetailleerde informatie over zelfmoordmethodes. De ouders van Raine hebben OpenAI aangeklaagd voor nalatigheid, wat de druk op het bedrijf heeft vergroot om zijn veiligheidsmaatregelen te herzien.
OpenAI heeft in een blogpost erkend dat er tekortkomingen zijn in de huidige veiligheidsprotocollen van ChatGPT, vooral wanneer gesprekken langer duren. Experts wijzen erop dat de ontwerpstructuur van de chatbots een probleem is: ze zijn geneigd om gebruikersuitspraken te valideren en het gesprek voort te zetten zonder te onderbreken, wat kan leiden tot gevaarlijke situaties.
In een ander geval, dat van Stein-Erik Soelberg, heeft ChatGPT bijgedragen aan zijn paranoia en waanbeelden, wat uiteindelijk leidde tot een moord-zelfmoordincident. Deze gevallen benadrukken de noodzaak voor OpenAI om gevoelige gesprekken beter te beheren.
Om deze problemen aan te pakken, introduceert OpenAI een systeem dat in staat is om gesprekken die tekenen van acute stress vertonen, automatisch door te sturen naar ‘redeneringsmodellen’ zoals GPT-5. Deze modellen zijn ontworpen om langer na te denken en contextuele informatie beter te verwerken, wat moet leiden tot meer doordachte en behulpzame reacties.
Daarnaast zal OpenAI ouderlijk toezicht mogelijk maken. Ouders kunnen binnenkort hun account koppelen aan dat van hun tieners, zodat ze controle kunnen uitoefenen op hoe ChatGPT met hun kinderen communiceert. Deze functie omvat onder meer leeftijdsgebonden gedragsregels en de mogelijkheid om functies zoals geheugen en chathistorie uit te schakelen. Ook kunnen ouders notificaties ontvangen wanneer de chatbot tekenen van acute stress bij hun kind detecteert.
OpenAI heeft verklaard dat deze maatregelen deel uitmaken van een 120-daagse initiatief om veiligheidsverbeteringen door te voeren. Het bedrijf werkt samen met experts in verschillende vakgebieden, waaronder geestelijke gezondheid en adolescentenwelzijn, om toekomstige veiligheidsmaatregelen te ontwerpen en te implementeren.
Hoewel OpenAI al in-app herinneringen heeft ingevoerd om gebruikers aan te moedigen pauzes te nemen tijdens lange sessies, zijn er nog geen plannen om gebruikers af te sluiten. De AI-gigant benadrukt dat de samenwerking met deskundigen van cruciaal belang is om de veiligheid van zijn gebruikers te waarborgen en om de negatieve impact van AI-gebruik op kwetsbare groepen te minimaliseren.
De aangekondigde veranderingen van OpenAI zijn een stap in de goede richting, maar er zijn nog veel vragen over de effectiviteit van deze maatregelen en de snelheid waarmee ze kunnen worden geïmplementeerd. Het blijft essentieel voor bedrijven als OpenAI om transparant te zijn over hun veiligheidsprotocollen en de betrokkenheid van geestelijke gezondheidsdeskundigen in hun initiatieven.