2 februari 2023 10:15

UAntwerpen onderzoekt fraudegeval met ChatGPT

Universiteit Antwerpen onderzoekt of een student AI-tool ChatGPT heeft ingezet om zijn paper te schrijven. Mogelijk is UAntwerpen daarmee het eerste AI-fraudegeval op het spoor.

Gebleken is dat ChatGPT vrijwel overal toe in staat is. De AI (Artificiële Intelligentie) tool van OpenAI kan niet alleen simpele teksten uitwerken op basis van je prompt, maar bleek ook al in staat een begin te maken aan complexe malware. Dat de tool zo sterk en bovenal eenvoudig in gebruik is, maakt het natuurlijk ook tot de ‘ideale toolkit’ voor studenten om hun werk mee te laten schrijven. UAntwerpen, zo meldt DPG, ontdekte dat ChatGPT mogelijk inderdaad al wordt ingezet door studenten en zegt begonnen te zijn met een onderzoek naar de AI-fraude.

Opvallend weinig bronvermeldingen

Vermoed wordt dat een student ChatGPT heeft gebruikt om een paper te schrijven. Vooropstaat dat nog niet bewezen is of de student de tool heeft gebruikt, en dat Universiteit Antwerpen met de onderzoeken naar het vermeende fraudegeval bezig is. Volgens de universiteit viel op dat er weinig bronvermeldingen in de paper aanwezig waren, wat er mogelijk op wijst dat de tekst samengesteld werd door de AI-tool. Bij het uitwerken van teksten geeft ChatGPT namelijk geen verwijzingen naar de bronnen waarvan de gegevens afkomstig zijn; tenzij daar expliciet naar gevraagd wordt.

Vooralsnog is Universiteit Antwerpen de enige Vlaamse universiteit die een onderzoekt heeft lopen naar vermeend misbruik met ChatGPT. KULeuven noemt het gebruik van ChatGPT wel ontoelaatbaar en zegt dat hun examenreglement het toelaat om tegen dergelijke onregelmatigheden op te treden. Of er tijdens de lopende examenperiode mogelijk fraude werd gepleegd met ChatGPT of soortgelijke tools, is volgens de universiteit nog niet bekend. Zulke data worden pas na afsluiting van de examens bekend.

Maatregelen worden onderzocht

Zoals wel vaker met (technologische) ontwikkelingen, loopt de wet- en regelgeving achter op nieuwe technieken als ChatGPT. Universiteiten zeggen nog volop te onderzoeken wat de impact van zulke AI-tools op het onderwijs is en hoe zij daarmee moeten omgaan. Dat geldt overigens niet enkel voor de Vlaamse universiteiten – ook scholen worstelen met de opkomst van het nieuwe hulpmiddel. Bij het gebruik van zo’n tool leren studenten immers inhoudelijk weinig over het schrijven van papers en de gekozen topics, terwijl ze mogelijk wel gewoon becijferd worden.

OpenAI, de ontwikkelaar van ChatGPT, werkt intussen aan een tool die moet helpen om teksten van het hulpmiddel te herkennen. Wel waarschuwt de ontwikkelaar ervoor dat het mogelijk teksten van mensen of robots per ongeluk verkeerd kan labelen. Als de herkenningstool dus aangeeft dat de AI-tool mogelijk werd gebruikt om de tekst te schrijven, biedt dat nog geen houvast. Hoe UAntwerpen het eerste vermeende fraudegeval wil opsporen als OpenAI dat mogelijk zelfs niet kan, is onbekend.