Sam Altman, CEO van OpenAI, heeft zijn zorgen geuit over het gebruik van AI-chatbots zoals ChatGPT voor persoonlijke en vertrouwelijke gesprekken. Tijdens een recent interview op de podcast “This Past Weekend” besprak Altman de groeiende trend waarbij gebruikers AI-tools inzetten als persoonlijke therapeuten, juridisch adviseurs of zelfs als medische adviseurs. Hij benadrukte dat er momenteel een gebrek is aan duidelijke juridische bescherming en privacyregels voor dergelijke gesprekken met AI.
Altman stelde dat er behoefte is aan dezelfde vertrouwelijkheidsbescherming als die welke bestaat voor gesprekken met advocaten of therapeuten. Deze bescherming zou gebruikers meer vertrouwen geven om openhartig te zijn tijdens hun interacties met AI-systemen. Hij erkende dat veel mensen, vooral jongeren, AI gebruiken als een soort vertrouwenspersoon voor problemen in relaties of persoonlijke uitdagingen, maar waarschuwde dat de huidige juridische kaders hen niet voldoende beschermen.
In de context van de discussie kwam ook de recente juridische strijd van OpenAI met de New York Times ter sprake. Deze zaak, die draait om auteursrechtinbreuken en intellectuele eigendom, heeft de kwestie van gebruikersprivacy verder onder de aandacht gebracht. OpenAI heeft bezwaar gemaakt tegen het verzoek om gebruikersgesprekken te bewaren als onderdeel van de juridische procedures, maar Altman gaf toe dat het huidige juridische landschap misschien niet in hun voordeel werkt. Hij noemde het “erg problematisch” dat zijn bedrijf mogelijk gedwongen zou kunnen worden om vertrouwelijke gebruikersinformatie openbaar te maken in rechtszaken.
De zorgen van Altman worden gedeeld door experts zoals William Agnew van de Carnegie Mellon University. Agnew, die onderzoek deed naar de effectiviteit van chatbots in therapeutische settings, onderstreept het belang van privacy bij het delen van persoonlijke informatie met AI-tools. Hij wijst erop dat de manier waarop AI-modellen werken en hoe gesprekken worden verwerkt, aanleiding kan geven tot bezorgdheid. Er bestaat een risico dat informatie die in vertrouwen is gedeeld, onbedoeld kan worden opgehaald of gedeeld in andere contexten.
Een ander punt van zorg is dat AI-modellen bekendstaan om het reproduceren van informatie. Dit betekent dat persoonlijke details uit een gesprek met een AI, bijvoorbeeld over medische kwesties of therapie, mogelijk aan het licht kunnen komen als dezelfde tool door anderen wordt geraadpleegd met vergelijkbare vragen. Agnew adviseert gebruikers om zeer voorzichtig te zijn met wat ze delen, gezien de mogelijkheid dat de gegevens op verschillende manieren kunnen worden gebruikt.
De discussie over de behoefte aan meer regelgeving rondom AI is niet nieuw, maar krijgt steeds meer aandacht naarmate de technologie vordert en zijn weg vindt in dagelijkse toepassingen. Hoewel de overheid vooralsnog terughoudend is met het invoeren van strenge regels die de ontwikkeling van AI kunnen belemmeren, groeit de roep om regelgeving die de privacy van gebruikers moet waarborgen.
Gezien de snelle ontwikkeling van AI-technologie en de toenemende afhankelijkheid ervan in diverse aspecten van het leven, benadrukt Altman dat er dringend behoefte is aan een robuust juridisch kader dat de privacy en vertrouwelijkheid van gebruikersinteracties beschermt. Voor nu ligt de verantwoordelijkheid grotendeels bij de gebruikers zelf om bewust om te gaan met de informatie die zij delen en alert te zijn op de mogelijke implicaties ervan.