Volgens hoogleraar Computationele Lexicologie Piek Vossen zijn de jubelende reacties op AI-schrijfchatbot ChatGPT volledig misplaatst. „Het zou weleens de dood van het internet kunnen zijn.”
Met taalprogramma ChatGPT knalt men er op basis van Artificial Intelligence de meest uiteenlopende artikelen uit: van een blog over Tokio tot een rechterlijke pleidooitekst. Haast niet van ‘echt’ te onderscheiden. Wat vindt de wetenschap hiervan?
„Ik begrijp de commotie niet”, begint Vossen het gesprek nog voor ik hem die vraag kan stellen. „ChatGPT is geen revolutionair nieuw systeem of andere benadering. Het bouwt voort op eerdere versies, alleen is het een beetje beter.”
Duidelijke taal. U bent dus geen voorstander?
„Nee. Het is bovendien ook vermoeiend dat we als wetenschappers al tien jaar bezig zijn met uitleggen dat deze systemen eigenlijk helemaal niet zo intelligent zijn als ze lijken. Nu komt deze versie weer uit en die lijkt indrukwekkend als je er oppervlakkig naar kijkt, maar er is nog steeds niets fundamenteel veranderd. Het is een soort papegaai die op een ingenieuze manier een reactie geeft. Verder is het niets.”
Een papegaai, omdat de woorden geen betekenis hebben?
„Precies. Het grootste probleem is dat deze systemen geen enkele voorstelling hebben van de wereld. Het systeem weet niet waarover het iets zegt. Aan eerdere versies kon je die inconsequenties zien. Dat er bij een vrouw bijvoorbeeld gerefereerd werd aan ‘hem’, vanwege een gender bias in de data. Dat zie je nu minder. Als deze systemen iets genereren, klinkt het creatief en fantastisch, maar het representeert niets. Het gáát nergens over. Ze hebben uit zichzelf niets te zeggen en reageren alleen."
Schuilt in die onzichtbaarheid en in die ogenschijnlijk ‘goede’ teksten niet juist het gevaar van het programma?
„Zeker. Zelfs ik trap erin als het gaat om een tekst die op mijn eigen vakgebied ligt. Het wordt steeds moeilijker om de waarheid te achterhalen. Het zou weleens de dood van het internet kunnen zijn. Op het moment dat mensen helemaal niets meer kunnen vertrouwen, keren ze zich misschien wel van het internet af."
Denkt u dat er mogelijkheden bestaan om de teksten te onderscheiden?
„Wat we als onderzoekers zouden moeten doen, is AI ontwikkelen die de AI ontmaskert. Dat wordt ook wel gedaan, met behulp van zogenaamde ‘probing tools’, maar er bestaat nog geen makkelijk te gebruiken product. Je zou mensen moeten trainen om te letten op bepaalde kenmerken."
Heeft u al bedacht hoe u eventuele essays die zijn geschreven door ChatGPT gaat opsporen?
„Nee nog niet. Misschien pak ik de beginzin en geef die aan ChatGPT. Ik kan dan kijken wat dat systeem als vervolg genereert en hoe het lijkt op wat de student heeft geschreven. Aan de andere kant: ik kan ook niet zien dat studenten een spellingchecker gebruiken. Ze kunnen het ook genereren en later bewerken. Voor veel docenten gaat er een zware tijd aankomen, ben ik bang. Misschien gaan we toe naar mondelinge tentamens."
Voorlopig ziet u zichzelf geen gebruik maken van de software van ChatGPT dus?
„Nee. Alleen al omdat het helemaal geen open AI is, al zeggen ze van wel. Deze versie kun je online gebruiken, maar ik kan hem niet downloaden en gebruiken in andere software."
„Mag ik daarnaast nog een laatste punt van kritiek maken? Het kost heel veel computing power om een programma als dit te maken. Wat dat voor het milieu betekent, daar hoor je niemand over. ChatGPT is bovendien gebaseerd op data uit een bepaald tijdsframe. Over vijf jaar is de taal veranderd, zijn wij veranderd en is dit systeem verouderd. Ik vind het dom om zo’n niet duurzaam model te bouwen. Het is leuk allemaal, maar er staan weet ik hoeveel computers te stampen en warmte te produceren. En als je kijkt naar wat een zesjarig kind heeft gelezen in vergelijking met de onvoorstelbare hoeveelheid teksten die dit systeem kent, is dat kind van zes alsnog slimmer dan ChatGPT."
