OpenAI, het vooraanstaande bedrijf achter de populaire chatbot ChatGPT, blijkt volgens gelekte interne documenten en bronnen gebruik te maken van menselijke reviewers om de kwaliteit van zijn AI-modellen te verbeteren. Deze onthulling werpt een nieuw licht op de werking van ChatGPT en roept vragen op over de privacy van gebruikers.
Het project, intern bekend als ‘Project Lily’, omvat het inhuren van honderden externe contractanten die de door gebruikers ingebrachte vragen en gesprekken met ChatGPT analyseren. Deze prompts, die vaak gevoelige en persoonlijke informatie kunnen bevatten, worden door mensen beoordeeld om de reacties van de AI te verfijnen. De menselijke reviewers zijn verantwoordelijk voor het beoordelen en bekritiseren van de door de chatbot gegenereerde antwoorden, met het doel om deze te verbeteren en meer in lijn te brengen met de verwachtingen van gebruikers.
Ondanks dat OpenAI stelt dat ze proberen persoonlijke informatie te verwijderen voordat deze bij de reviewers terechtkomt, erkent het bedrijf dat gevoelige details soms toch doorkomen. Dit potentieel privacyrisico is vooral zorgwekkend omdat veel gebruikers ChatGPT als een vertrouwelijke assistent of zelfs therapeut gebruiken, waarbij ze persoonlijke details delen die ze niet noodzakelijkerwijs met anderen zouden bespreken.
Het idee dat menselijke tussenkomst noodzakelijk is voor de verbetering van AI-modellen, contrasteert met de gangbare opvatting dat deze technologieën uitsluitend worden gevoed door geautomatiseerde processen zoals het verzamelen van gegevens van het internet. Deze menselijke betrokkenheid benadrukt de complexiteit en de noodzaak van voortdurende menselijke evaluatie om de prestaties van AI-systemen te optimaliseren.
Naast OpenAI maakt ook Anthropic, een ander bedrijf dat zich richt op AI-ontwikkeling, gebruik van menselijke reviewers om hun modellen te verbeteren. Deze praktijk is niet uniek voor OpenAI; ook andere technologiebedrijven maken gebruik van menselijke input om hun AI-toepassingen te verfijnen.
De reviewers voeren hun werk uit zonder de gebruikersnamen te zien en volgen een gestructureerd proces: ze lezen de prompt van de gebruiker, maken een samenvatting van wat volgens hen de gebruiker vraagt, en beoordelen vervolgens de antwoorden van ChatGPT. Deze beoordelingen helpen bij het identificeren van zwakke punten in de AI-antwoorden, zoals overdadig gebruik van emoji’s of ongepaste toonzetting.
De betrokken reviewers ontvangen een aanzienlijk salaris van meer dan $50 per uur, wat opmerkelijk hoger is dan de gebruikelijke vergoedingen voor vergelijkbare functies in de techsector. Dit hoge salaris weerspiegelt mogelijk de complexiteit en het belang van hun rol in het verfijnen van AI-technologieën.
Hoewel de betrokkenheid van menselijke reviewers een essentieel onderdeel lijkt te zijn van de verbetering van AI-modellen, roept het ook vragen op over transparantie en ethiek. Gebruikers zijn zich vaak niet bewust dat hun gesprekken met AI-systemen door mensen kunnen worden gelezen, wat kan leiden tot zorgen over privacy en gegevensbescherming.
Deskundigen benadrukken het belang van transparantie van bedrijven als OpenAI over de manieren waarop gebruikersdata worden verwerkt en gebruikt. In een wereld waarin AI steeds prominenter wordt, is het cruciaal dat gebruikers vertrouwen hebben in de technologieën die ze gebruiken en begrijpen hoe hun gegevens worden beheerd.
OpenAI heeft naar aanleiding van vragen over dit onderwerp zijn informatiepagina’s bijgewerkt om gebruikers meer duidelijkheid te bieden over hoe ze kunnen kiezen om hun gegevens niet te laten gebruiken voor modelverbetering. Echter, de vraag blijft of gebruikers voldoende worden geïnformeerd over de mogelijkheid dat hun interacties door mensen kunnen worden beoordeeld.
Deze ontwikkelingen benadrukken de noodzaak van voortdurende discussie over de ethische implicaties van AI en de verantwoordelijkheid van bedrijven om de privacy en veiligheid van hun gebruikers te waarborgen. Terwijl AI zich blijft ontwikkelen, zal de rol van menselijke tussenkomst waarschijnlijk een belangrijk onderwerp van gesprek blijven in de balans tussen technologische vooruitgang en ethische overwegingen.