In een recent openbaar gemaakte getuigenis in de rechtszaak van Elon Musk tegen OpenAI heeft de techmagnaat kritiek geleverd op de veiligheidspraktijken van OpenAI. Musk beweert dat zijn eigen bedrijf, xAI, een grotere nadruk legt op veiligheid en verklaart: “Niemand heeft zelfmoord gepleegd door Grok, maar blijkbaar wel door ChatGPT.”
Deze opmerking kwam naar voren tijdens een reeks vragen over een openbare brief die Musk in maart 2023 ondertekende. In de brief werd opgeroepen tot een pauze van zes maanden in de ontwikkeling van AI-systemen die krachtiger zijn dan GPT-4, het vlaggenschipmodel van OpenAI destijds. Meer dan 1.100 mensen, waaronder veel AI-experts, ondertekenden de brief, waarin werd gesteld dat er onvoldoende planning en beheer plaatsvond in AI-laboratoria, die verwikkeld waren in een “onbeheersbare race om steeds krachtigere digitale geesten te ontwikkelen en in te zetten die niemand — zelfs hun makers niet — kan begrijpen, voorspellen of betrouwbaar kan controleren.”
Sindsdien zijn deze zorgen geloofwaardiger geworden. OpenAI wordt nu geconfronteerd met een reeks rechtszaken waarin wordt beweerd dat de manipulerende gesprekstactieken van ChatGPT verschillende mensen hebben geleid tot negatieve psychologische effecten, met enkele gevallen van zelfmoord tot gevolg. Musks opmerkingen suggereren dat deze incidenten als bewijs zouden kunnen dienen in zijn zaak tegen OpenAI.
De transcriptie van Musks videoverklaring, die in september plaatsvond, werd deze week openbaar gemaakt, voorafgaand aan het verwachte juryproces volgende maand.
De rechtszaak tegen OpenAI richt zich op de verschuiving van het bedrijf van een non-profit AI-onderzoeksinstituut naar een winstgericht bedrijf, wat volgens Musk in strijd is met de oorspronkelijke overeenkomsten. Als onderdeel van zijn argumenten stelt Musk dat de veiligheid van AI in gevaar zou kunnen komen door de commerciële relaties van OpenAI, aangezien dergelijke relaties de nadruk zouden leggen op snelheid, schaal en inkomsten boven veiligheidskwesties.
Echter, sinds die opname heeft xAI zelf ook veiligheidsproblemen ondervonden. Vorige maand werd Musks sociale netwerk X overspoeld met niet-consensuele naaktbeelden die door xAI’s Grok waren gegenereerd, waarvan sommige naar verluidt van minderjarigen waren. Dit leidde ertoe dat het kantoor van de procureur-generaal van Californië een onderzoek startte naar de kwestie. Ook de EU voert haar eigen onderzoek uit, en andere overheden hebben maatregelen genomen, waaronder blokkades en verboden.
In de nieuw ingediende getuigenis verklaarde Musk dat hij de AI-veiligheidsbrief had ondertekend omdat “het een goed idee leek,” niet omdat hij net een AI-bedrijf had opgericht dat wilde concurreren met OpenAI. “Ik ondertekende het, net als veel anderen, om voorzichtigheid te vragen bij AI-ontwikkeling,” zei Musk. “Ik wilde gewoon dat AI-veiligheid prioriteit kreeg.”
Musk reageerde ook op andere vragen in de getuigenis, waaronder die over kunstmatige algemene intelligentie, of AGI — het concept van AI dat menselijke redeneervermogen kan evenaren of overtreffen over een breed scala aan taken — zeggende dat “het een risico met zich meebrengt.” Hij bevestigde ook dat hij zich “vergist had” over zijn vermeende donatie van 100 miljoen dollar aan OpenAI; de tweede gewijzigde aanklacht in de zaak plaatst het werkelijke bedrag dichter bij 44,8 miljoen dollar.
Hij herinnerde zich ook waarom OpenAI was opgericht, namelijk omdat hij “steeds meer bezorgd was over het gevaar van Google die een monopolie op AI zou hebben,” toevoegende dat zijn gesprekken met Google-medeoprichter Larry Page “alarmerend waren, in die zin dat hij de veiligheid van AI niet serieus leek te nemen.” OpenAI werd gevormd als een tegenwicht voor die dreiging, beweerde Musk.
Deze onthullingen werpen een nieuw licht op de immer escalerende spanningen in de AI-industrie, waar de balans tussen innovatie en veiligheid steeds crucialer wordt geacht. Terwijl de technologie zich steeds sneller ontwikkelt, blijven zorgen over de ethische en sociale implicaties ervan toenemen, wat een complex speelveld creëert voor zowel bedrijven als beleidsmakers wereldwijd.