Tijdens een recent gesprek in de podcast van Theo Von, heeft Sam Altman, CEO van OpenAI, zijn zorgen geuit over het gebruik van ChatGPT als een virtuele therapeut. Altman benadrukte dat er momenteel geen wettelijke bescherming is voor de privacy van gebruikers die persoonlijke informatie delen met AI-systemen. Dit gebrek aan vertrouwelijkheid kan ernstige gevolgen hebben voor gebruikers die de AI-app benaderen voor emotionele ondersteuning of advies.
Altman legde uit dat veel mensen, vooral jongeren, ChatGPT gebruiken als een soort levenscoach of therapeut. Ze bespreken intieme levenskwesties en vragen om advies voor hun problemen. Echter, in tegenstelling tot gesprekken met een menselijke therapeut, advocaat of arts, die onderworpen zijn aan wettelijke vertrouwelijkheid, bestaat er geen vergelijkbare juridische bescherming voor gesprekken met AI. Dit betekent dat in geval van juridische procedures OpenAI verplicht kan worden om die gesprekken openbaar te maken.
Het ontbreken van een duidelijk juridisch kader voor AI-gebruikers vertrouwelijkheid is volgens Altman problematisch. Hij betoogde dat mensen dezelfde verwachtingen van privacy zouden moeten hebben wanneer ze met AI praten als wanneer ze met een therapeut spreken. De huidige situatie kan een belemmering vormen voor de bredere adoptie van AI, omdat gebruikers huiverig kunnen zijn om persoonlijke informatie te delen zonder de garantie van privacybescherming.
In reactie op een vraag over de juridische implicaties van AI, merkte Altman op dat er dringend behoefte is aan regelgeving die specifiek is gericht op AI-systemen. OpenAI is zich bewust van de privacyproblemen en is momenteel betrokken bij een juridische strijd om te voorkomen dat gebruikersgegevens worden vrijgegeven in een rechtszaak met The New York Times. Het bedrijf vecht tegen een gerechtelijk bevel dat hen zou verplichten om chats van wereldwijde gebruikers op te slaan, met uitzondering van klanten van ChatGPT Enterprise.
De kwestie van digitale privacy is niet nieuw in de technologie-industrie. In de afgelopen jaren zijn techbedrijven regelmatig gedwongen om gebruikersgegevens over te dragen voor juridische doeleinden. De recente ontwikkelingen op het gebied van wetgeving, zoals de omverwerping van Roe v. Wade door het Amerikaanse Hooggerechtshof, hebben de bezorgdheid over digitale privacy verder aangewakkerd. Consumenten zijn op zoek gegaan naar meer privacymogelijkheden, zoals het overstappen naar apps die betere gegevensbescherming bieden.
Altman benadrukte dat er een duidelijke behoefte is aan transparantie en juridische zekerheid voordat gebruikers zich comfortabel kunnen voelen bij het delen van persoonlijke informatie met AI-systemen. Hij spoorde aan tot het ontwikkelen van een juridische infrastructuur die de vertrouwelijkheid van AI-gebruikers garandeert.
De discussie over de privacy van gebruikers van AI-systemen benadrukt de noodzaak voor de technologie-industrie om snel te handelen. Terwijl AI steeds meer geïntegreerd raakt in het dagelijks leven, wordt het steeds belangrijker dat er passende wettelijke kaders worden ontwikkeld om de rechten van gebruikers te beschermen. De toekomst van AI en zijn rol als persoonlijke adviseur hangt af van het vermogen van de industrie om deze uitdagingen aan te pakken en het vertrouwen van gebruikers te winnen.