Diogo Almeida, voormalig onderzoeker bij OpenAI en medeontwikkelaar van de populaire chatbot ChatGPT, heeft een nieuwe weg ingeslagen in de wereld van kunstmatige intelligentie. Na zijn vertrek bij OpenAI richtte hij TypeSafe AI op, een startup die zich richt op het aanpakken van een belangrijk probleem binnen de huidige AI-ontwikkeling: de limitaties van grote taalmodellen voor automatisering.
Almeida was een van de pioniers achter reinforcement learning from human feedback (RLHF), een techniek die een cruciale rol heeft gespeeld in de opkomst van AI zoals we die nu kennen. Ondanks de indrukwekkende prestaties van deze modellen, ontdekte hij dat hun optimalisatie voor menselijke taal hen minder geschikt maakt voor automatiseringstaken, gezien computers een andere ’taal’ spreken.
In plaats van tekst te genereren, produceert het nieuwe model van TypeSafe AI, genaamd Jev, waarschijnlijkheden of “gekalibreerde beslissingen”. Dit transformer-gebaseerde model is ontworpen om snel en kostenefficiënt te werken. Door de uitgangsresultaten vooraf te definiëren, elimineert Jev het risico op ‘hallucinaties’, een bekend probleem bij traditionele taalmodellen.
De interesse vanuit de ontwikkelaarsgemeenschap is groot. De vraag naar Jev was zo hoog dat het bedrijf tijdelijk niet in staat was om alle gebruikers via de API te bedienen. Het model lijkt vooral nuttig voor softwareautomatisering, waar het een robuustere en goedkopere oplossing biedt dan bestaande taalmodellen.
Een praktijkvoorbeeld van de effectiviteit van Jev komt van Pranit Sharma, software engineer bij Vercel. Zijn bedrijf verving OpenAI’s ChatGPT Luna 5.6 met Jev voor het classificeren van opdrachten op veiligheid. Het resultaat was een verbetering in snelheid en nauwkeurigheid, met resultaten die 5 tot 18 keer sneller waren.
Nikhil Mudholkar, CTO van Bryo AI, testte Jev tegen Gemini voor het classificeren van zakelijke e-mails. Hoewel Gemini iets nauwkeuriger bleek, was het ook 10 tot 20 keer duurder. Mudholkar was vooral onder de indruk van Jev’s nauwkeurigheidsscores, die hem ideaal maken voor het automatiseren van workflows.
Naast het vervangen van taalmodellen in bepaalde toepassingen, kan Jev ook als aanvulling dienen, bijvoorbeeld door als controlemechanisme te fungeren. Dit maakt het mogelijk om agenten te monitoren zonder de hoge kosten die daar doorgaans bij komen kijken.
Armin Ronacher, CTO van Earendil, ziet nog meer potentieel in Jev, zoals het modelleren van routes. Het voorspellen van de benodigde modellen voor specifieke workloads kan met Jev op een kostenefficiënte en snelle manier worden gerealiseerd.
Almeida hoopt dat de lagere kosten van Jev zullen leiden tot een bredere inzet van intelligente software. Het model is vernoemd naar William Stanley Jevons, de 19e-eeuwse econoom die bekend is vanwege de paradox waarin een dalende prijs leidt tot een grotere vraag. Almeida voorziet een toekomst waarin intelligente software op een wijdverspreide en gedistribueerde manier wordt ingezet, vergelijkbaar met de vroege dagen van het internet.
De architectuur van Jev blijft voorlopig een goed bewaard geheim, al suggereren buitenstaanders dat het model mogelijk is ontwikkeld bovenop een open-weight LLM. Almeida benadrukt dat Jev is getraind met uitsluitend synthetische data, via een techniek die hij “reinforcement learning from calibrated decisions” noemt.
Hoewel Jev momenteel uniek is in zijn soort, verwacht Ronacher dat er spoedig concurrenten zullen opduiken nu de voordelen van deze technologie duidelijk worden. TypeSafe AI plant al de ontwikkeling van nieuwe varianten van het model om hun aanbod verder uit te breiden.
Almeida stelt dat TypeSafe AI geen frontier lab is dat zich richt op angst of hype, maar eerder op het creëren van intelligentie. Hij ziet de toekomst van zijn bedrijf niet in het najagen van oneindige rijkdom of het bouwen van goddelijke entiteiten in datacenters, maar in het ontwikkelen van praktische, intelligente oplossingen die de wereld ten goede komen.