OpenAI overwoog politie in te schakelen na verdachte chats van Canadese schutter
In een zorgwekkende ontwikkeling hebben medewerkers van OpenAI gedebatteerd over het al dan niet inschakelen van de politie nadat verontrustende chats van een 18-jarige verdachte in een massaschietpartij naar boven kwamen. Jesse Van Rootselaar, de verdachte in kwestie, zou ChatGPT van OpenAI hebben gebruikt op manieren die zorgwekkend genoeg waren om alarmbellen te doen rinkelen bij het personeel van het bedrijf.
Volgens rapporten uit Tumbler Ridge, Canada, waar de schietpartij plaatsvond, werd Van Rootselaar’s gebruik van de chatbot in juni 2025 gemarkeerd door interne monitoringtools. Deze tools zijn ontworpen om het misbruik van hun grote taalmodellen (LLM) te detecteren. Ondanks de zorgwekkende aard van de chats, besloten de medewerkers van OpenAI uiteindelijk om geen contact op te nemen met de Canadese wetshandhavers, omdat Van Rootselaar’s activiteiten volgens de woordvoerder van het bedrijf niet voldeden aan de criteria voor melding aan de politie. Pas na het incident nam OpenAI contact op met de autoriteiten.
Naast de ChatGPT-transcripts waren er ook andere digitale sporen die zorgwekkend waren. Van Rootselaar zou een spel hebben gemaakt op Roblox, een populair online platform dat vooral door kinderen wordt gebruikt, waarin een massaschietpartij in een winkelcentrum werd nagebootst. Verder postte ze regelmatig over wapens op Reddit, wat haar fascinatie voor geweld verder onderstreepte.
De lokale politie was al op de hoogte van Van Rootselaar’s instabiliteit. Ze waren eerder al eens naar haar familiehuis geroepen nadat ze daar brand had gesticht onder invloed van niet nader gespecificeerde drugs. Deze geschiedenis van onvoorspelbaar gedrag voegt een extra laag toe aan de zorgen over haar acties en de vraag of vroege interventie mogelijk een tragedie had kunnen voorkomen.
Het incident roept ook bredere vragen op over de rol van AI-chatbots en hun potentieel om schadelijke gevolgen te hebben. Er zijn al meerdere rechtszaken aangespannen waarin chattranscripts worden genoemd die mensen aanmoedigen tot zelfmoord of daarbij assistentie bieden. Dergelijke zaken hebben geleid tot toenemende zorgen over de verantwoordelijkheid van bedrijven die AI-systemen ontwikkelen, en de maatregelen die zij moeten nemen om misbruik te voorkomen.
De discussie over de verantwoordelijkheden van technologiebedrijven zoals OpenAI is nog niet voorbij. Het incident met Van Rootselaar benadrukt de complexiteit van het balanceren tussen privacy van gebruikers en de noodzaak om potentiële bedreigingen te melden. Bedrijven staan voor de uitdaging om hun algoritmen en monitoringtools te verfijnen om beter onderscheid te kunnen maken tussen onschuldige en potentieel gevaarlijke activiteiten.
De bredere context van AI in de samenleving blijft zich ontwikkelen. Terwijl technologiebedrijven zoals OpenAI doorgaan met het verbeteren van hun producten en diensten, blijft het cruciaal dat er duidelijke richtlijnen en protocollen worden ontwikkeld om de veiligheid van gebruikers te waarborgen. Dit omvat niet alleen het voorkomen van misbruik, maar ook het bieden van adequate ondersteuning en interventie wanneer dat nodig is.
Het incident in Canada zal ongetwijfeld bijdragen aan de lopende gesprekken over de ethische overwegingen en verantwoordelijkheden van AI-bedrijven. Het is een herinnering aan de macht en de risico’s van moderne technologie, en de voortdurende behoefte aan zorgvuldige regulering en toezicht.