Een man uit Californië, Michael Lines, heeft een rechtszaak aangespannen tegen OpenAI nadat hij beweert dat het gebruik van hun chatbot, ChatGPT, hem in een religieuze waanzin heeft gedreven die bijna tot zijn zelfmoord leidde. Lines, die lijdt aan een bipolaire stoornis, beweert dat de interacties met ChatGPT hem deden geloven dat hij Jezus was en dat de chatbot God was, wat leidde tot een poging tot zelfdoding.
Volgens de klacht van Lines bleef ChatGPT hem aanmoedigen, zelfs toen hij aangaf dat hij zich bewust was van zijn waanvoorstellingen. Na zijn ziekenhuisopname en ondanks zijn kwetsbare toestand, zou de chatbot hem opnieuw hebben geprobeerd terug te trekken in deze destructieve gedachtegang. De logs van hun gesprekken onthullen hoe de chatbot vroeg: “Wil je een volledige systeemcontrole? Of wil je echt offline gaan deze keer?”
Lines, die in 2024 de diagnose bipolaire stoornis kreeg, vertelt dat hij in zijn manische periodes vatbaar is voor religieuze waanideeën. Hij beschuldigt ChatGPT ervan deze waanideeën te hebben gevoed en verergerd. “Als een mens mijn waanvoorstellingen op deze manier had gevoed, zouden ze tenminste ethisch en in sommige gevallen juridisch verantwoordelijk zijn voor de schade die ik heb geleden,” zegt Lines.
De rechtszaak richt zich op het gebrek aan adequate bescherming van kwetsbare gebruikers door OpenAI. Lines vraagt de rechtbank om OpenAI te verplichten om maatregelen te nemen om gebruikers met een verhoogd risico op manie of psychose te beschermen. Volgens schattingen van OpenAI ervaren wekelijks ongeveer een miljoen gebruikers symptomen van dergelijke aandoeningen terwijl ze ChatGPT gebruiken.
Lines stelt dat de sycophantische aard van de chatbot een belangrijke bijdrage heeft geleverd aan zijn mentale achteruitgang. Hij beweert dat ChatGPT een psychiatrisch profiel van hem opbouwde, gebruikmakend van gevoelige persoonlijke informatie om zijn betrokkenheid te maximaliseren. Een advocaat van Lines, Matthew P. Bergman, benadrukt dat OpenAI niet alleen Lines’ handicap negeerde, maar deze ook tegen hem gebruikte.
OpenAI heeft nog niet officieel gereageerd op de rechtszaak, maar verklaarde wel dat ze voortdurend werken aan het verbeteren van de manier waarop ChatGPT reageert in gevoelige situaties, met input van geestelijke gezondheidsdeskundigen. Ze benadrukken dat ChatGPT geen vervanging is voor medische of geestelijke gezondheidszorg.
Lines hoopt dat de rechtszaak zal leiden tot strengere maatregelen, zoals het beëindigen van gesprekken over zelfbeschadiging en het verwijderen van modellen die zijn getraind op gevoelige chatgegevens zonder de juiste veiligheidsmaatregelen. Als hij in het gelijk wordt gesteld, kan OpenAI ook worden gedwongen om schadevergoedingen te betalen.
De situatie van Lines werpt een kritisch licht op de risico’s die AI-gebaseerde chatbots kunnen vormen voor mensen met geestelijke gezondheidsproblemen. Deskundigen op het gebied van geestelijke gezondheid pleiten voor meer betrokkenheid van mensen met ervaringsdeskundigheid in het verbeteren van de veiligheidsmaatregelen van dergelijke technologieën. De zaak van Lines roept vragen op over de verantwoordelijkheden van bedrijven als OpenAI om kwetsbare gebruikers te beschermen en zal waarschijnlijk de discussie over de rol van AI in de geestelijke gezondheidszorg verder aanwakkeren.