Voormalig onderzoeker bij OpenAI, Zoë Hitzig, heeft haar ontslag ingediend op de dag dat het bedrijf begon met het testen van advertenties in zijn populaire chatbot, ChatGPT. In een opiniestuk in The New York Times legde Hitzig uit dat haar vertrek werd ingegeven door zorgen over de ethische implicaties van de nieuwe advertentie-strategie van OpenAI. Hitzig, een econoom en dichter met een fellowship aan de Harvard Society of Fellows, werkte twee jaar bij OpenAI aan de ontwikkeling en prijsstelling van AI-modellen.
Hitzig benadrukte dat het probleem niet zozeer ligt bij advertenties op zich, maar bij de manier waarop gebruikersdata wordt ingezet. Gebruikers delen vaak persoonlijke informatie met ChatGPT, zoals medische zorgen en religieuze overtuigingen, omdat ze denken dat ze communiceren met een neutraal systeem zonder verborgen agenda. Hitzig waarschuwt dat het inzetten van advertenties kan leiden tot een situatie vergelijkbaar met die van Facebook, waar gebruikersdata werd ingezet op manieren die in strijd waren met de aanvankelijke privacybeloftes.
In haar essay vergelijkt Hitzig OpenAI’s strategie met de vroege geschiedenis van Facebook. Het sociale mediaplatform beloofde gebruikers ooit controle over hun data en inspraak in beleidsveranderingen, beloftes die volgens Hitzig met de tijd werden uitgehold. Ze vreest dat ChatGPT eenzelfde pad zou kunnen volgen, waarbij een economische drijfveer de overhand krijgt ten koste van gebruikersrechten.
De implementatie van advertenties in ChatGPT volgt op een week van publieke confrontaties tussen OpenAI en concurrent Anthropic. Terwijl OpenAI begon met advertenties voor gebruikers van hun gratis en “Go”-abonnementen, kondigde Anthropic aan dat hun AI, Claude, advertentievrij zou blijven. Ze voerden zelfs Super Bowl-commercials waarin ze ChatGPT’s advertentie-initiatieven belachelijk maakten. OpenAI’s CEO, Sam Altman, noemde deze advertenties “grappig maar oneerlijk” en benadrukte dat OpenAI nooit zou toestaan dat advertenties de antwoorden van hun chatbot beïnvloeden.
De zorgen van Hitzig worden versterkt door OpenAI’s eigen documentatie, die aangeeft dat advertentiepersonalisatie standaard is ingeschakeld voor gebruikers binnen de testfase. Hoewel adverteerders volgens OpenAI geen toegang hebben tot persoonlijke chats of gegevens, worden advertenties wel gekozen op basis van gesprekken. Dit roept vragen op over privacy en de ethische implicaties van dergelijke praktijken.
Hitzig stelt voor om buiten het binaire debat van wel of geen advertenties te denken en suggereert alternatieven zoals cross-subsidies en onafhankelijke toezichtsorganen. Ze verwijst naar modellen zoals de Zwitserse coöperatie MIDATA als mogelijke inspiratiebronnen voor een eerlijkere aanpak.
De discussie over advertenties in AI-chatbots komt op een moment van snelle commercialisering binnen de industrie, wat leidt tot spanningen en personeelsverloop. Behalve Hitzig hebben ook andere prominente AI-onderzoekers hun ontslag ingediend, waaronder Mrinank Sharma van Anthropic en twee medeoprichters van xAI na de fusie met SpaceX.
Deze ontwikkelingen illustreren de groeiende onvrede en ethische dilemma’s waarmee AI-onderzoekers worden geconfronteerd naarmate bedrijven steeds commerciëler worden. Terwijl de industrie zich verder ontwikkelt, blijft de roep om verantwoordelijke en ethische AI-praktijken luid klinken, een oproep die volgens Hitzig essentieel is om te voorkomen dat deze krachtige technologieën misbruikt worden.