OpenAI heeft een nieuwe veiligheidsfunctie aangekondigd voor gebruikers van ChatGPT, waarmee volwassenen een noodcontact kunnen instellen voor mentale gezondheid en veiligheid. Deze functie, genaamd ‘Trusted Contact’, stelt gebruikers in staat om een vriend, familielid of verzorger als contactpersoon aan te wijzen. Dit contact wordt op de hoogte gebracht als OpenAI detecteert dat een gebruiker onderwerpen bespreekt zoals zelfbeschadiging of zelfmoord met de chatbot.
Volgens OpenAI is het doel van deze functie om in tijden van crisis gebruikers te verbinden met iemand die ze kennen en vertrouwen. Dit kan een aanzienlijke steun bieden, naast de reeds beschikbare lokale hulplijnen binnen ChatGPT. De Trusted Contact-functie is optioneel en kan door iedere volwassen gebruiker van ChatGPT worden ingeschakeld. Gebruikers kunnen een contactpersoon toevoegen in hun accountinstellingen, waarbij de contactpersoon de uitnodiging binnen een week moet accepteren. Het is tevens mogelijk om de contactpersoon later te wijzigen of te verwijderen, en de contactpersoon zelf kan zich ook op elk moment terugtrekken.
OpenAI benadrukt dat de meldingen die naar de Trusted Contact worden verstuurd, bewust beperkt zijn. Er worden geen chatdetails of transcripties gedeeld. Wanneer het systeem signaleert dat een gebruiker zichzelf mogelijk schade wil toebrengen, zal ChatGPT de gebruiker aanmoedigen contact op te nemen met hun Trusted Contact en hen informeren dat het contact mogelijk op de hoogte wordt gesteld. Een klein, speciaal getraind team zal de situatie beoordelen en vervolgens een korte melding sturen naar de Trusted Contact indien er sprake is van serieuze veiligheidszorgen.
Deze nieuwe functie bouwt voort op een eerdere noodcontactoptie die in september werd geïntroduceerd, samen met ouderlijk toezicht voor ChatGPT. Dit gebeurde na een tragisch incident waarbij een 16-jarige zelfmoord pleegde nadat hij maandenlang met de chatbot had gecommuniceerd. Ook andere techgiganten zoals Meta hebben vergelijkbare functies geïntroduceerd. Zo waarschuwt Instagram ouders wanneer hun kinderen herhaaldelijk zoeken naar zelfbeschadiging-gerelateerde onderwerpen.
De introductie van de Trusted Contact-functie markeert een belangrijke stap in de richting van het verbeteren van de gebruikersveiligheid bij het gebruik van AI-technologieën. OpenAI onderstreept het belang van menselijke tussenkomst in situaties waarin geautomatiseerde systemen signalen van nood detecteren. Door gebruikers aan te moedigen contact op te nemen met een vertrouwd persoon, hopen ze een extra veiligheidsnet te bieden dat technologie en menselijk inzicht combineert.
Deze ontwikkeling onderstreept de voortdurende evolutie van AI-platforms om niet alleen gebruiksvriendelijk en innovatief te zijn, maar ook sociaal verantwoordelijk. Terwijl AI-systemen steeds meer geïntegreerd raken in het dagelijks leven, wordt het steeds crucialer om functies te implementeren die de mentale gezondheid en het welzijn van gebruikers beschermen. Met de Trusted Contact-functie zet OpenAI een stap in de goede richting om de veiligheid van zijn gebruikers te waarborgen, terwijl het tegelijkertijd de complexiteit en gevoeligheid erkent van de kwesties die technologie niet alleen kan oplossen.