De aankondiging van OpenAI om een ‘volwassen modus’ voor ChatGPT te introduceren, heeft geleid tot een verhitte discussie over de implicaties op het gebied van privacy en ethiek. De technologie, die gebruikers in staat stelt om erotische gesprekken te voeren met de AI-tool, heeft zowel nieuwsgierigheid als bezorgdheid gewekt onder experts op het gebied van kunstmatige intelligentie en mens-computerinteractie.
Julie Carpenter, een specialist in menselijke interactie met AI en auteur, legt uit dat het niet ongebruikelijk is dat mensen chatbots een menselijk karakter toekennen. Dit fenomeen wordt versterkt door de manier waarop generatieve AI-tools zijn ontworpen, met sterk gepersonaliseerde interacties die sociale ervaringen nabootsen. De introductie van AI-gegenereerde erotica binnen deze context voegt een extra complexiteitslaag toe. Carpenter benadrukt dat hoewel het verkennen van seksualiteit op zichzelf geen probleem is, het belangrijk is dat dit op een veilige manier gebeurt. “Er moet aandacht zijn voor het surveillanceaspect van de data,” waarschuwt ze.
De plannen van OpenAI zijn al enige tijd bekend, maar de implementatie blijft onduidelijk. Het bedrijf heeft in het verleden aangegeven volwassen gebruikers de mogelijkheid te willen bieden om erotica te genereren met ChatGPT. Echter, een precieze tijdlijn voor deze functie is nog niet vastgesteld. Een adviesraad van externe experts heeft recentelijk zorgen geuit over de risico’s die gepaard gaan met de lancering van deze functie, zoals de mogelijkheid van schadelijke toepassingen.
Volgens Kate Devlin, professor aan King’s College London, is het praten over seks met machines geen nieuw fenomeen. Ze merkt op dat OpenAI een commerciële kans ziet in iets wat mensen toch al proberen te doen. Echter, wat deze situatie anders maakt, is dat een mainstream platform zoals ChatGPT deze functionaliteit zou omarmen, wat niet gebruikelijk is voor erotische chatbots, die vaak op nichewebsites te vinden zijn.
Een interessant aspect van de volwassen modus is hoe ChatGPT omgaat met de herinneringen aan de seksuele voorkeuren van gebruikers. OpenAI heeft de geheugenfunctie van de chatbot voortdurend verbeterd, waardoor deze voorkeuren en eerdere interacties kan onthouden. Dit roept vragen op over privacy, aangezien de AI mogelijk zeer persoonlijke details kan onthouden en gebruiken in toekomstige interacties. De vraag blijft hoe OpenAI van plan is om met deze volwassen gesprekken om te gaan.
Gebruikers die ervoor kiezen om van deze nieuwe functie gebruik te maken, kunnen de ’tijdelijke chats’-functie activeren. Deze functie zorgt ervoor dat gesprekken niet worden opgeslagen in de gebruikersgeschiedenis. Toch worden deze gesprekken niet helemaal verwijderd; ze kunnen tot 30 dagen worden bewaard voor veiligheidsdoeleinden. Dit roept vragen op over de veiligheid en privacy van gebruikersgegevens, vooral gezien eerdere incidenten waarbij informatie over gebruikersinteracties met ChatGPT openbaar werd.
De mogelijkheid van intieme surveillance door AI-gedreven erotische gesprekken gaat verder dan het bijhouden van iemands pornografische geschiedenis. De interacties kunnen specifieke details blootleggen en evolueren naar steeds extremere fantasieën. Dit kan tot problemen leiden als accounts worden gehackt of als overheidsinstanties toegang eisen tot de gegevens.
De introductie van een volwassen modus in ChatGPT markeert een nieuw tijdperk in de vermenging van AI met persoonlijke en intieme aspecten van het menselijk leven. Het is een ontwikkeling die zowel nieuwsgierigheid als bezorgdheid opwekt, en die ons dwingt na te denken over de ethische en privacy-implicaties van dergelijke technologische vooruitgangen.