OpenAI heeft een nieuwe maatregel aangekondigd die ouders en voogden in staat stelt op de hoogte te blijven van het online gedrag van hun tieners. Wanneer een tieneraccount wordt gekoppeld aan dat van een ouder, zal OpenAI een melding sturen als het account van de tiener wordt gedeactiveerd wegens schendingen van het beleid met betrekking tot gewelddadige bedreigingen of daden van geweld. Deze stap is een uitbreiding van de reeds bestaande ouderlijke controles die OpenAI vorig jaar heeft ingevoerd voor zijn ChatGPT-platform.
De ouderlijke controlefuncties stellen ouders niet alleen in staat om gebruiksuren te plannen en gevoelige inhoud te filteren, maar dienen nu ook als een vroege waarschuwing voor potentieel gevaarlijk gedrag van hun kinderen. De uitbreiding van deze meldingsfunctie is ontwikkeld in samenwerking met Moonshot, een organisatie die zich specialiseert in het monitoren en tegengaan van online geweld. Volgens Vidhya Ramalingam, oprichter van Moonshot, is het van cruciaal belang dat ouders tijdig op de hoogte worden gebracht zodat zij proactief kunnen optreden en indien nodig hulp kunnen inschakelen.
Deze nieuwe aanpak komt na een incident in 2025 in Tumbler Ridge, British Columbia, waarbij een schutter gebruik had gemaakt van ChatGPT. OpenAI werd bekritiseerd omdat het destijds nagelaten had de autoriteiten in te lichten nadat het account van de verdachte was gedeactiveerd. Sam Altman, de CEO van OpenAI, bood later zijn excuses aan voor deze nalatigheid. Het bedrijf heeft sindsdien beloofd zijn veiligheidsprotocollen te versterken en heeft nu een systeem geïmplementeerd dat ouders waarschuwt voor potentieel gewelddadig gedrag van hun kinderen.
Naast deze meldingen heeft OpenAI ook een nieuwe functie geïntroduceerd die ouders in staat stelt de zogenaamde ‘Studie Modus’ direct via ouderlijke controles te activeren. Deze modus is ontworpen om studenten te helpen leren door hen hints te geven voordat ze antwoorden opvragen. Het idee is dat studenten op deze manier beter betrokken raken bij het leerproces. Bovendien zal ChatGPT nu tienergebruikers die langdurig actief zijn op het platform, vaker herinneren aan pauzes om gezondere technologiegewoontes te bevorderen.
De invoering van deze functies is een onderdeel van OpenAI’s bredere strategie om de veiligheid van jonge gebruikers te waarborgen terwijl ze gebruik maken van AI-technologie. Het bedrijf erkent de belangrijke rol die AI speelt in het dagelijks leven van jongeren en benadrukt dat het essentieel is om een veilige omgeving te creëren waarin zij kunnen leren en groeien.
De maatregelen van OpenAI weerspiegelen een groeiend bewustzijn binnen de tech-industrie over de noodzaak van verantwoorde AI-gebruik en de bescherming van kwetsbare gebruikersgroepen. Terwijl AI zich verder ontwikkelt, blijft de balans tussen innovatie en veiligheid een prioriteit voor bedrijven zoals OpenAI. Deze stappen zijn een voorbeeld van hoe technologie kan worden ingezet om de digitale veiligheid van jongeren te verbeteren, en tegelijkertijd ouders de tools te geven om betrokken te blijven bij het digitale leven van hun kinderen.
OpenAI’s inspanningen om ouders te betrekken en hen te voorzien van de nodige informatie en hulpmiddelen is een belangrijke stap in het waarborgen van een veiligere digitale ruimte voor jongeren. Het bedrijf blijft zich inzetten voor de ontwikkeling van technologieën die niet alleen geavanceerd, maar ook ethisch en veilig zijn.