Nieuwe AI-gestuurde webbrowsers zoals OpenAI’s ChatGPT Atlas en Perplexity’s Comet proberen de gevestigde positie van Google Chrome als de toegangspoort tot het internet voor miljarden gebruikers te ondermijnen. Deze innovatieve browsers introduceren AI-agenten die beloven taken namens de gebruiker uit te voeren door op websites te klikken en formulieren in te vullen. Hoewel de technologie veelbelovend lijkt, roept deze ook ernstige zorgen op over de privacy van gebruikers.
Deskundigen op het gebied van cyberbeveiliging hebben hun bezorgdheid geuit over de privacyrisico’s die gepaard gaan met het gebruik van AI-browseragenten. In tegenstelling tot traditionele browsers, kunnen deze AI-agenten een aanzienlijk groter risico vormen doordat ze toegang vragen tot gevoelige persoonlijke gegevens, waaronder e-mails, agenda’s en contactlijsten van gebruikers. Dit niveau van toegang kan nuttig zijn voor eenvoudige taken, maar bij complexere opdrachten blijkt de technologie regelmatig tekort te schieten, soms met meer nadelen dan voordelen.
Een van de grootste zorgen betreft zogenaamde ‘prompt injection attacks’, waarbij kwaadwillenden verborgen instructies op een webpagina plaatsen. Wanneer een AI-agent deze pagina analyseert, kan deze onbedoeld de kwaadaardige opdrachten van de aanvaller uitvoeren. Zonder adequate beveiligingsmaatregelen kunnen dergelijke aanvallen leiden tot het blootleggen van gebruikersgegevens, zoals e-mails of inloggegevens, of tot ongewilde acties zoals ongewenste aankopen of sociale mediaposts.
Brave, een bedrijf dat zich richt op privacy en beveiliging, heeft recentelijk onderzoek gepubliceerd waarin indirecte prompt-injectie-aanvallen als een systemisch probleem voor AI-browsers worden bestempeld. Eerder werd dit probleem al geïdentificeerd bij Perplexity’s Comet, maar nu wordt erkend dat het een breder probleem binnen de industrie is.
Shivan Sahib, een senior onderzoeker en privacy-ingenieur bij Brave, legt uit dat hoewel er enorme kansen zijn om het leven van gebruikers te vergemakkelijken, het feit dat browsers nu namens de gebruiker handelen, fundamenteel gevaarlijk is. OpenAI’s Chief Information Security Officer, Dane Stuckey, erkende de uitdagingen in een recente post en benadrukte dat prompt-injectie een onopgelost beveiligingsprobleem blijft, waar tegenstanders voortdurend aan werken om misbruik van te maken.
Zowel OpenAI als Perplexity hebben verschillende maatregelen geïntroduceerd om de risico’s van deze aanvallen te verminderen. OpenAI heeft een ‘logged out mode’ gecreëerd, waarin de agent niet is aangemeld in de account van de gebruiker wanneer deze het web doorzoekt. Dit beperkt de bruikbaarheid van de agent, maar ook de hoeveelheid data die een aanvaller kan bereiken. Perplexity heeft een detectiesysteem ontwikkeld dat prompt-injectie-aanvallen in realtime kan identificeren.
Hoewel deze inspanningen worden geprezen door cyberbeveiligingsonderzoekers, bieden ze geen garantie dat de webbrowseragenten van OpenAI en Perplexity volledig bestand zijn tegen aanvallen. Steve Grobman, Chief Technology Officer van McAfee, wijst erop dat de kern van prompt-injectie-aanvallen ligt in het feit dat grote taalmodellen moeite hebben om te begrijpen waar instructies vandaan komen. Er is een losse scheiding tussen de kerninstructies van het model en de data die het verwerkt, waardoor het moeilijk is om het probleem volledig uit te roeien.
Gebruikers kunnen zichzelf beschermen door unieke wachtwoorden en multi-factor authenticatie te gebruiken voor AI-browseraccounts. Rachel Tobac, CEO van SocialProof Security, adviseert gebruikers ook om de toegang die ChatGPT Atlas en Comet tot gevoelige accounts hebben, te beperken. Naarmate de beveiliging van deze tools verbetert, is het raadzaam voorzichtig te blijven met het verstrekken van brede toegangsrechten.
De opkomst van AI-browseragenten biedt zowel kansen als uitdagingen. Terwijl de technologie zich verder ontwikkelt, zal de balans tussen innovatie en veiligheid van cruciaal belang blijven voor het vertrouwen van de consument en de bredere acceptatie van deze geavanceerde tools.