OpenAI heeft nieuwe veiligheidsmaatregelen geïntroduceerd voor ouders van tieners die gebruikmaken van ChatGPT. Deze update, die wereldwijd is uitgerold, stelt ouders en wetshandhavers in staat om meldingen te ontvangen wanneer een kind, in dit geval gebruikers tussen 13 en 18 jaar, gesprekken voert met de chatbot over zelfbeschadiging of zelfmoordgedachten.
Deze aanpassingen komen na een rechtszaak waarin OpenAI wordt aangeklaagd door ouders die beweren dat ChatGPT een rol heeft gespeeld in de dood van hun kind. De chatbot zou het suïcidale kind hebben aangemoedigd een strop in hun kamer te verbergen, volgens berichtgeving van The New York Times.
Met deze update verandert de inhoudservaring voor tieners die ChatGPT gebruiken. Zodra ouders en tieners hun accounts hebben gekoppeld, krijgt het tieneraccount automatisch extra inhoudsbescherming. Deze omvatten een beperking van grafische inhoud, virale uitdagingen, seksuele, romantische of gewelddadige rollenspellen en extreme schoonheidsidealen, om de ervaring leeftijdsgericht te houden.
Onder de nieuwe beperkingen wordt, als een tiener een prompt invoert die verband houdt met zelfbeschadiging of suïcidale gedachten, deze prompt naar een team van menselijke beoordelaars gestuurd die beslissen of er een ouderlijke melding moet worden geactiveerd. OpenAI’s hoofd van jeugdwelzijn, Lauren Haber Jonas, zegt dat ouders op diverse manieren kunnen worden gecontacteerd, waaronder via sms, e-mail en een melding in de ChatGPT-app.
Hoewel de waarschuwingen binnen enkele uren na de beoordeling worden verwacht, werkt OpenAI aan het verkorten van deze reactietijd. De melding die naar ouders kan worden gestuurd, vermeldt in grote lijnen dat het kind mogelijk een prompt heeft geschreven die verband houdt met zelfmoord of zelfbeschadiging, en kan ook gespreksstrategieën van deskundigen op het gebied van geestelijke gezondheid bevatten voor ouders om te gebruiken bij het praten met hun kind.
De accounts van zowel de ouders als de tieners moeten zijn aangemeld voor deze veiligheidsfuncties. Dit betekent dat ouders hun tiener een uitnodiging moeten sturen om hun account te laten monitoren, en de tiener moet deze accepteren. OpenAI kan contact opnemen met de politie in situaties waarin menselijke moderatoren vaststellen dat een tiener mogelijk in gevaar is en de ouders niet bereikbaar zijn.
Een andere grote update voor ChatGPT is de mogelijkheid voor ouders om tijdsbeperkingen in te stellen voor hun tieners. In plaats van een bepaald aantal gebruiksuren kan de toegang tot ChatGPT worden geblokkeerd tijdens specifieke tijdsperioden, zoals van 20.00 uur tot 10.00 uur.
Al met al bieden de ouderlijke controles meerdere gedetailleerde keuzes voor voogden over de ChatGPT-ervaring van hun kind. Naast de beperking van gevoelige inhoud en stille uren, kunnen ouders ervoor kiezen om de gegevens van hun kind uit te sluiten van modeltraining, de opgeslagen herinneringen van de bot uit te schakelen en de stemmodus en beeldgeneratie uit te schakelen.
OpenAI erkent dat hoewel deze veiligheidsmaatregelen nuttig zijn, ze niet waterdicht zijn en kunnen worden omzeild als iemand daar bewust naar streeft. Eerdere tests van OpenAI’s GPT-5 model toonden aan dat bepaalde aspecten van mogelijke veiligheidsmaatregelen met eenvoudige opdrachten in de aangepaste instructies konden worden omzeild.
Deze updates komen ook na de dood van een andere tiener die een chatbot van Character.ai gebruikte. Na deze gebeurtenis implementeerde Character.ai ouderlijke controles voor meer inzicht in het gebruikspatroon van tieners, hoewel deze geen inhoudspecifieke waarschuwingen bevatten zoals die van OpenAI.
Naar verwachting zullen andere AI-bedrijven de aanpak van OpenAI volgen wat betreft deze veiligheidsinstrumenten voor tieners. Hoewel deze pogingen om tieners te beschermen succesvol kunnen blijken, is het hoogst onwaarschijnlijk dat dezelfde bescherming tegen suïcidale gedachten voor volwassenen zal worden ingevoerd vanwege OpenAI’s bezorgdheid over de privacy van gebruikers.