De waarnemend directeur van de Amerikaanse cyberbeveiligingsdienst, Madhu Gottumukkala, ligt onder vuur na het uploaden van gevoelige overheidsdocumenten naar ChatGPT. Dit werd bekendgemaakt in een rapport van Politico. De documenten, die bestemd waren voor intern gebruik, werden afgelopen zomer ingevoerd in de commerciële versie van ChatGPT, wat leidde tot een reeks interne veiligheidswaarschuwingen bij de Cybersecurity and Infrastructure Security Agency (CISA).
Gottumukkala, sinds mei de waarnemend directeur van CISA, zou documenten met de aanduiding “alleen voor officieel gebruik” hebben ingevoerd in de AI-tool van OpenAI. Hoewel deze documenten niet als geclassificeerd werden beschouwd, is de aanduiding een teken dat de inhoud niet voor publieke distributie is bedoeld. Dit incident veroorzaakte een keten van geautomatiseerde waarschuwingen binnen het netwerk van CISA, waardoor de hoogste leiding van het Department of Homeland Security (DHS) een intern onderzoek startte om de mogelijke risico’s voor overheidsnetwerken en -gegevens te evalueren.
Volgens functionarissen van het DHS, die door Politico werden geraadpleegd, is het nog niet duidelijk tot welke conclusies het onderzoek heeft geleid. Dit voorval krijgt extra aandacht omdat Gottumukkala speciale toestemming had gekregen om ChatGPT te gebruiken. Op dat moment was het gebruik van het platform voor andere DHS-medewerkers beperkt. CISA-woordvoerder Marci McCarthy verklaarde tegenover Politico dat Gottumukkala’s gebruik van ChatGPT was goedgekeurd, maar dat het gebruik beperkt was in omvang en duur en dat er controlemaatregelen van kracht waren.
Gottumukkala, de meest senior politieke functionaris bij CISA, is verantwoordelijk voor de bescherming van federale netwerken tegen buitenlandse cyberdreigingen, waaronder die uit Rusland en China. De situatie werd verder gecompliceerd omdat de openbare versie van ChatGPT, in tegenstelling tot door DHS goedgekeurde tools zoals DHSChat, niet is ontworpen om gegevens binnen overheidsnetwerken te houden. Na het incident heeft Gottumukkala een ontmoeting gehad met hoge DHS-leiders om de geüploade materialen te bespreken.
Dit incident voegt zich bij een reeks uitdagingen waarmee Gottumukkala tijdens zijn ambtstermijn te maken heeft gehad. Eerder deze zomer werden enkele medewerkers op non-actief gesteld na een ongeoorloofde contra-inlichtingenpolygraaftest die door Gottumukkala was aangevraagd en niet werd doorstaan. Tijdens een recente getuigenis voor het congres zei hij dat hij het niet eens was met de beoordeling dat hij de test niet had doorstaan. Bovendien probeerde Gottumukkala recentelijk de chief information officer van CISA te verwijderen, een stap die werd geblokkeerd door andere politieke benoemden binnen de dienst.
De gebeurtenissen rond Gottumukkala en zijn gebruik van ChatGPT onderstrepen de uitdagingen en risico’s die gepaard gaan met het gebruik van commerciële AI-tools binnen overheidsinstanties. Het incident heeft de aandacht gevestigd op de noodzaak van strikte richtlijnen en beveiligingsprotocollen bij het gebruik van dergelijke technologieën voor gevoelige overheidsinformatie. Terwijl het DHS zijn interne beoordeling voortzet, blijft het onduidelijk welke gevolgen het incident zal hebben voor de huidige leiding en beleidsprocedures binnen CISA en andere betrokken diensten.