OpenAI heeft een nieuwe functie geïntroduceerd in zijn ChatGPT-platform, gericht op het beschermen van minderjarige gebruikers tegen gevoelige inhoud. Deze ontwikkeling komt op een moment dat steeds meer online platforms maatregelen nemen om de toegang van jongeren tot potentieel schadelijke content te beperken. De nieuwe functie, genaamd leeftijdsvoorspelling, is ontworpen om de leeftijd van gebruikers te schatten en daaruit voortvloeiende beschermende maatregelen toe te passen voor degenen die naar schatting jonger zijn dan 18 jaar.
De leeftijdsvoorspellingsfunctie werkt door een combinatie van gedrags- en accountgegevens te analyseren. Hierbij wordt gekeken naar de leeftijd die de gebruiker heeft opgegeven, de leeftijd van het account, de tijdstippen waarop de gebruiker actief is, en de patronen in het gebruik over de tijd heen. Op basis van deze gegevens worden extra beschermingen geactiveerd om minderjarige gebruikers te beschermen tegen inhoud die als ongepast of schadelijk kan worden beschouwd.
De inhoud die door deze veiligheidsmaatregelen wordt beperkt, omvat onder andere afbeeldingen of video’s van grafisch geweld, virale uitdagingen die gevaarlijk gedrag kunnen aanmoedigen, seksuele of gewelddadige rollenspellen, beelden van zelfbeschadiging, en content die extreme schoonheidsnormen of ongezonde diëten promoot.
Voor volwassenen die ten onrechte in de minderjarige categorie worden geplaatst, is er een mogelijkheid om hun volledige toegang te herstellen. Dit kan worden gedaan door hun leeftijd te verifiëren met behulp van een selfie. Deze functie wordt wereldwijd uitgerold, met uitzondering van de Europese Unie, waar OpenAI heeft aangekondigd dat de invoering enkele weken later zal plaatsvinden vanwege regionale vereisten.
De introductie van deze age-gating technologie komt na verschillende controverses rondom ChatGPT. Het platform was eerder onderwerp van een rechtszaak over de zelfmoord van een tiener en een hoorzitting in de Amerikaanse Senaat waarin de potentiële gevaren van chatbots voor minderjarigen werden besproken. Deze ontwikkelingen hebben bijgedragen aan de groeiende druk op techbedrijven om meer verantwoordelijkheid te nemen voor de inhoud die jongere gebruikers kunnen tegenkomen.
In de afgelopen jaren hebben andere grote online platforms, zoals Instagram, YouTube en TikTok, ook soortgelijke maatregelen genomen om de toegankelijkheid van bepaalde inhoud voor jongere gebruikers te reguleren. Deze platforms maken gebruik van kunstmatige intelligentie en andere technologieën om de leeftijd van gebruikers te verifiëren en passende beperkingen in te stellen.
De stap van OpenAI om leeftijdsvoorspelling in te voeren, kan worden gezien als een voortzetting van deze bredere trend binnen de industrie. Het is een erkenning van de noodzaak om een veiligere online omgeving te creëren voor jongeren, die steeds vaker te maken krijgen met digitale risico’s.
Met deze verandering hoopt OpenAI niet alleen de veiligheid van minderjarigen te verbeteren, maar ook zijn positie als verantwoordelijke speler in de technologie-industrie te versterken. Naarmate de digitale wereld blijft groeien, wordt de bescherming van jongere gebruikers tegen schadelijke inhoud steeds belangrijker, en bedrijven zoals OpenAI lijken zich steeds meer bewust te zijn van hun rol hierin.
Terwijl de technologie zich verder ontwikkelt, zal het interessant zijn om te zien hoe deze en andere maatregelen zich in de praktijk zullen vertalen en wat de reacties van zowel gebruikers als toezichthouders zullen zijn. De effectiviteit van deze nieuwe technologie zal nauwlettend worden gevolgd, aangezien de balans tussen bescherming en privacy een voortdurende uitdaging blijft voor de industrie.