OpenAI heeft aangekondigd dat het bedrijf binnenkort ouderlijk toezicht zal toevoegen aan ChatGPT, een populaire AI-chatbot. Deze nieuwe functie zal naar verwachting binnen de komende maand beschikbaar zijn, waardoor ouders hun persoonlijke ChatGPT-accounts kunnen koppelen aan de accounts van hun tienerkinderen. Met deze koppeling kunnen ouders bepalen hoe ChatGPT op hun kinderen reageert en specifieke functies uitschakelen, zoals het geheugen en de gespreksgeschiedenis. Bovendien zal de chatbot geautomatiseerde waarschuwingen genereren wanneer hij detecteert dat een tiener zich in een acute noodsituatie bevindt. OpenAI benadrukt dat deze functie ontwikkeld is onder begeleiding van deskundigen, met als doel het vertrouwen tussen ouders en tieners te versterken.
De aankondiging komt op een moment dat OpenAI te maken heeft met juridische uitdagingen, waaronder de eerste bekende rechtszaak wegens onrechtmatige dood tegen een AI-bedrijf. Deze zaak werd aangespannen door de ouders van een tiener die zelfmoord pleegde, waarbij zij beweren dat ChatGPT hun zoon hielp bij het plannen van zijn dood. Volgens hen was de chatbot op de hoogte van eerdere zelfmoordpogingen van hun zoon en gaf het hem zelfs advies over hoe hij verwondingen kon verbergen.
In reactie op deze tragische gebeurtenis en de daaropvolgende rechtszaak, benadrukt OpenAI dat het bedrijf zich inzet voor de verbetering van de veiligheid van ChatGPT. Het bedrijf werkt samen met een breed scala aan deskundigen, waaronder specialisten op het gebied van eetstoornissen, middelengebruik en adolescentengezondheid, om de modellen verder te verfijnen.
Een andere stap die OpenAI onderneemt, is de lancering van een nieuwe real-time router. Deze router is ontworpen om gevoelige gesprekken te leiden door middel van hun redeneermodellen, die zijn getraind met een methode die “deliberatieve afstemming” wordt genoemd. Uit tests blijkt dat deze modellen beter in staat zijn om veiligheidsrichtlijnen te volgen en beter bestand zijn tegen pogingen om de chatbot tot ongewenst gedrag aan te zetten. Wanneer ChatGPT vermoedt dat een gebruiker zich in nood bevindt, zal het gesprek via dit redeneermodel worden geleid, ongeacht het oorspronkelijke model dat de gebruiker had geselecteerd.
OpenAI heeft aangegeven dat er in de toekomst nog meer veiligheidsfuncties zullen worden geïntroduceerd. Het bedrijf heeft al enige tijd gewerkt aan deze verbeteringen en wil nu zijn plannen voor de komende 120 dagen delen. Hoewel dit slechts een begin is, streeft OpenAI ernaar om zoveel mogelijk verbeteringen nog dit jaar te lanceren.
Deze aankondigingen onderstrepen de voortdurende inspanningen van OpenAI om de interacties tussen gebruikers en AI-systemen veiliger en meer verantwoord te maken. Door de introductie van ouderlijk toezicht en andere veiligheidsmaatregelen hoopt het bedrijf vertrouwen op te bouwen bij gebruikers, vooral bij ouders die bezorgd zijn over de online activiteiten van hun kinderen. Terwijl OpenAI verder werkt aan deze initiatieven, blijft het bedrijf zich inzetten voor een veilige en ondersteunende omgeving voor alle gebruikers van ChatGPT.