Een recente uitspraak van een Amerikaanse federale rechter heeft grote gevolgen voor de manier waarop de overheid haar financiering toewijst. De uitspraak betreft het Department of Government Efficiency (DOGE), dat meer dan $100 miljoen aan subsidies had ingetrokken. Deze subsidies, oorspronkelijk verleend door de National Endowment for the Humanities (NEH), werden volgens de rechter onrechtmatig geannuleerd op basis van een proces dat gebruikmaakte van kunstmatige intelligentie, specifiek ChatGPT, om te beoordelen of aanvragen gerelateerd waren aan diversiteit, gelijkheid en inclusie (DEI).
De zaak kwam aan het licht na een rechtszaak aangespannen door diverse humanitaire organisaties tegen DOGE. Volgens de uitspraak gebruikte DOGE ChatGPT om subsidieaanvragen te screenen op de aanwezigheid van termen die verband houden met beschermde kenmerken zoals ras, nationaliteit, religie en seksualiteit. De AI werd ingezet om te bepalen of een subsidieaanvraag enige relatie had met DEI door middel van standaard prompts. Dit proces leidde ertoe dat honderden subsidies werden herkend als ‘verspillend’ enkel vanwege hun verband met beschermde groepen.
Rechter Colleen McMahon stelde dat DOGE’s aanpak flagrant tegen de grondwet indruiste. Ze benadrukte dat de overheid verantwoordelijk blijft voor de methoden die ze kiest, inclusief het gebruik van AI, en dat de inzet van ChatGPT geen vrijbrief is voor potentieel discriminerend beleid. Volgens de rechter was er geen bewijs dat er een grondige menselijke evaluatie volgde op de aanbevelingen van de AI, wat de basis vormt voor de ongrondwettige annulering van de subsidies.
De beslissing van McMahon is vooral belangrijk omdat het de rol van kunstmatige intelligentie binnen overheidsprocedures onder de loep neemt. Het gebruik van AI voor dergelijke beslissingen roept vragen op over de naleving van fundamentele rechten en de verantwoordelijkheid van overheidsinstanties. In haar 143 pagina’s tellende oordeel noemde McMahon ook dat de subsidies, die als ‘verspillend’ werden bestempeld, vaak betrekking hadden op belangrijke historische en culturele projecten, zoals studies over de Holocaust en burgerrechten.
De rechterlijke uitspraak heeft een directe impact: de meer dan 1.400 ingetrokken subsidies moeten worden hersteld. Dit betekent dat projecten die de diversiteit en culturele rijkdom van de Amerikaanse samenleving benadrukken, opnieuw in aanmerking komen voor financiering. McMahon onderstreepte dat de onderwerpen die DOGE als onbelangrijk had bestempeld, juist kernonderdelen zijn van de missie van de NEH, zoals bepaald door het Congres.
Deze uitspraak roept bredere vragen op over de integratie van technologie in beleids- en besluitvormingsprocessen. Het benadrukt de noodzaak van een ethische benadering bij het gebruik van AI, vooral als het gaat om beslissingen die de rechten en erkenning van minderheidsgroepen kunnen beïnvloeden. Bovendien zet het vraagtekens bij de bevoegdheden van overheidsinstanties en de noodzaak om transparante en rechtvaardige processen te waarborgen.
De zaak onderstreept de noodzaak voor beleidsmakers om zorgvuldig te overwegen hoe en wanneer AI-tools worden ingezet, vooral in contexten die de democratische waarden en grondwettelijke rechten kunnen beïnvloeden. Terwijl technologie steeds prominenter wordt in het overheidsbeleid, blijft het cruciaal dat mensenrechten en gelijkheid in het hart van elk besluitvormingsproces staan.