OpenAI heeft aangekondigd dat het een reeks open-source tools vrijgeeft die ontwikkelaars kunnen helpen om hun applicaties veiliger te maken voor tieners. Deze nieuwe set richtlijnen, bekend als de “teen safety policies”, is ontworpen om te integreren met OpenAI’s bestaande veiligheidsmodel genaamd gpt-oss-safeguard. De richtlijnen zijn bedoeld om ontwikkelaars te ondersteunen bij het beschermen van jongeren tegen schadelijke inhoud, zonder dat ze helemaal vanaf nul hoeven te beginnen.
De richtlijnen zijn ontworpen als prompts die gemakkelijk geïntegreerd kunnen worden met andere modellen dan alleen het gpt-oss-safeguard, maar ze zijn het meest effectief binnen het ecosysteem van OpenAI zelf. De richtlijnen behandelen een breed scala aan veiligheidskwesties, zoals grafisch geweld, seksuele inhoud, schadelijke lichaamsidealen en gedrag, gevaarlijke activiteiten en uitdagingen, en leeftijdsgebonden goederen en diensten.
OpenAI heeft samengewerkt met organisaties zoals Common Sense Media en everyone.ai om deze richtlijnen te ontwikkelen. Robbie Torney, hoofd AI & Digitale Beoordelingen bij Common Sense Media, benadrukt dat deze richtlijnen een basisniveau van veiligheid bieden dat in de loop van de tijd kan worden aangepast en verbeterd omdat ze als open-source zijn uitgebracht.
In een blogpost verklaart OpenAI dat veel ontwikkelaars, waaronder ervaren teams, moeite hebben om veiligheidsdoelen om te zetten in precieze operationele regels. Dit kan leiden tot inconsistentie in de handhaving of te brede filtering van inhoud. Het bedrijf stelt dat duidelijke, goed gedefinieerde richtlijnen een essentiële basis vormen voor effectieve veiligheidssystemen.
Hoewel de nieuwe richtlijnen een stap in de goede richting zijn, erkent OpenAI dat ze niet de volledige oplossing bieden voor de complexe uitdagingen van AI-veiligheid. Het bouwt voort op eerdere inspanningen, waaronder productniveau-beveiligingen zoals ouderlijk toezicht en leeftijdsvoorspelling. Vorig jaar paste OpenAI de richtlijnen voor zijn grote taalmodellen aan om te bepalen hoe deze zich zouden moeten gedragen bij interactie met minderjarigen.
Ondanks deze inspanningen kampt OpenAI zelf met uitdagingen. Het bedrijf heeft te maken met verschillende rechtszaken die zijn aangespannen door families van mensen die zelfmoord hebben gepleegd na intensief gebruik van ChatGPT. Deze gevaarlijke relaties ontstaan vaak nadat gebruikers de beveiligingsmaatregelen van de chatbot omzeilen, en geen enkel model is volledig ondoordringbaar. Toch bieden deze nieuwe richtlijnen een nuttige stap vooruit, vooral voor onafhankelijke ontwikkelaars die mogelijk niet over dezelfde middelen beschikken als grote techbedrijven.
De release van deze open-source tools illustreert OpenAI’s toewijding om een veiliger digitale omgeving te creëren voor jongeren. Het is nu aan de ontwikkelaarsgemeenschap om deze richtlijnen te omarmen en verder te verbeteren om de veiligheid en welzijn van tieners in de digitale wereld te waarborgen. Het initiatief van OpenAI kan een significante impact hebben op de manier waarop AI-modellen worden ontworpen en gebruikt, met een verhoogde focus op de bescherming van kwetsbare gebruikersgroepen.