Adrian Holovaty, de oprichter van het muziekonderwijsplatform Soundslice, stond onlangs voor een raadsel dat hem wekenlang bezighield. Zijn platform werd overspoeld met vreemde uploads van afbeeldingen die duidelijk afkomstig waren van ChatGPT-sessies. Na onderzoek ontdekte Holovaty dat ChatGPT een fervent promotor van zijn bedrijf was geworden, maar dat het ook valse informatie verstrekte over de mogelijkheden van zijn app.
Holovaty, die bekend is als een van de mede-oprichters van het open-source Django-project, lanceerde Soundslice in 2012 als een innovatieve tool voor muziekonderwijs. Het platform biedt gebruikers de mogelijkheid om muziekvideo’s te synchroniseren met bladmuzieknotaties, waardoor studenten en docenten beter inzicht krijgen in hoe muziekstukken gespeeld moeten worden. Een van de geavanceerde functies van de app is de “sheet music scanner”, die gebruikers in staat stelt om een afbeelding van papieren bladmuziek te uploaden en deze met behulp van AI te transformeren naar een interactieve digitale versie.
Het probleem begon toen Holovaty merkte dat de foutlogboeken van deze functie werden overspoeld met afbeeldingen van tekst en ASCII-tablatuur, een simpel tekstgebaseerd systeem voor gitaarnotaties. Deze afbeeldingen kwamen niet overeen met de bedoelde bladmuziekuploads en veroorzaakten verwarring onder nieuwe gebruikers. Het bleek dat ChatGPT gebruikers aanspoorde om deze afbeeldingen te uploaden naar Soundslice om muziek te beluisteren, wat feitelijk niet mogelijk was met de bestaande technologie van het platform.
De situatie bracht Holovaty in een lastig parket. Aanvankelijk overwoog hij om disclaimers op de website te plaatsen om gebruikers te informeren dat de app niet in staat was om ChatGPT-sessies om te zetten in hoorbare muziek. Echter, na een intern overleg besloot hij een stap verder te gaan en daadwerkelijk de functionaliteit te ontwikkelen waarmee ASCII-tablatuur naar audio kon worden omgezet, ondanks dat dit systeem oorspronkelijk niet werd ondersteund door Soundslice.
Holovaty beschouwt deze ontwikkeling met gemengde gevoelens. Aan de ene kant is hij blij om een nieuwe functie aan te kunnen bieden die gebruikers helpt, maar hij voelt ook dat hij min of meer gedwongen werd om te reageren op verkeerde informatie die door een AI werd verspreid. Hij vraagt zich af of dit een uniek geval is van een bedrijf dat een functie heeft moeten ontwikkelen omdat een AI herhaaldelijk een onjuiste voorstelling van zaken aanbood.
De situatie roept interessante discussies op binnen de technologie- en ondernemersgemeenschap. Op platforms zoals Hacker News vergelijken sommige programmeurs de situatie met een overijverige verkoper die beloften doet die het ontwikkelteam vervolgens moet waarmaken. Holovaty erkent de vergelijking als treffend en amusant.
Deze gebeurtenis dient als een fascinerend voorbeeld van hoe AI-technologieën zoals ChatGPT niet alleen informatie verspreiden, maar ook daadwerkelijk de richting van productontwikkeling binnen bedrijven kunnen beïnvloeden. Het roept vragen op over de verantwoordelijkheid van AI in het bieden van accurate informatie en de impact die onjuiste voorstellingen van zaken kunnen hebben op zowel gebruikers als bedrijven. Terwijl Holovaty en zijn team de nieuwe functie implementeren, blijft de kwestie van AI-hallucinaties een onderwerp van voortdurende discussie en onderzoek in de technologie-industrie.