Generatieve AI

Wat is GenAI? 

GenAI modellen genereren output op basis van een vraag of zoekopdracht (‘prompt’) van een gebruiker. Hierbij wordt gebruik gemaakt van zeer grote hoeveelheden gegevens om het algoritme te trainen in het herkennen van patronen en kenmerken in de data. Deze dataset wordt een ‘trainingsset’ genoemd.

Binnen deze groep modellen zijn er onder meer taalmodellen, zoals ChatGPT (OpenAI), Bing (Microsoft) en Bard (Google), beeldmodellen, zoals DALL-E (OpenAI) en Midjourney (Midjourney, Inc.), en modellen die video of muziek genereren. Ook zijn er open source modellen, die niet het eigendom zijn van commerciële organisaties en waarvan de achterliggende algoritmes voor gebruikers in te zien zijn.

Geen gemiddelde chatbot

Taalmodellen zoals ChatGPT zijn in staat om antwoord te geven op je vraag, doordat het model zo getraind is dat de output statistisch gezien het meest waarschijnlijk volgt op de gegevens in de prompt. Daarnaast onthoudt het model je prompts en kan het reageren op eerder gestelde vragen en gegeven output. Daardoor kun je een taalmodel bijvoorbeeld vragen om verduidelijking of dieper ingaan op het onderwerp. De toepassingen van deze technologie breiden zich steeds verder uit.

Ontwikkeling

In november 2022 heeft OpenAI het prototype van ChatGPT 3.5 voor publiek toegankelijk gemaakt. Sindsdien krijgt GenAI veel aandacht in het maatschappelijk debat en komen er in hoog tempo nieuwe applicaties en toepassingen beschikbaar. Inmiddels wordt de technologie door miljoenen mensen wereldwijd gebruikt.

Impact op de universiteit

De toepassingen van GenAI zijn breed en raken veel werkzaamheden binnen de Radboud Universiteit, vooral binnen onderwijs en onderzoek. Taalmodellen kunnen bijvoorbeeld helpen bij antwoorden op complexe vragen, met brainstormen, automatisch samenvatten, het schrijven van teksten en programmeercode, en taalfouten corrigeren.

Toetsen

Onze aandacht gaat in eerste instantie uit naar de impact van GenAI op toetsen en opdrachten die door studenten buiten het zicht van een docent of surveillant worden gemaakt. Er is al langer de wens om de beoordeling meer aan te passen op het leerproces van de student, maar GenAI verhoogt de noodzaak hiervoor aanzienlijk.  

Kansen

GenAI biedt echter ook kansen. Zo kunnen deze toepassingen het onderwijs verrijken en werkdruk verlagen. Studenten kunnen deze technologie gebruiken in hun leerproces, bijvoorbeeld door uitleg te vragen of een taalmodel te gebruiken als brainstormpartner. Ook voor docenten kan het voordelen opleveren: een taalmodel kan werk uit handen nemen bij leerdoelen formuleren, een lesplan opstellen of feedback geven. De tijd die hiermee vrij komt kan bijvoorbeeld worden besteed aan complexe onderwijsinhoud of meer persoonlijk contact tussen studenten en docenten.

Advies en koers

Docenten, opleidingen en examencommissies hebben de laatste maanden al veel ervaring opgedaan met deze technologie en hoe ze hier in hun onderwijs of toetsing op in willen spelen. Op deze pagina zijn aandachtspunten en tips te vinden voor docenten.

Naar aanleiding van een notitie over GenAI heeft het college van bestuur aan de divisies Information and Library Services en Academic Affairs de opdracht gegeven om het proces te starten om (één of meerdere) GenAI applicaties beschikbaar te maken op de campus. Er zullen voor het gebruik van deze applicaties, wel spelregels worden opgesteld.

Fraude en beleid

Ondanks dat GenAI kansen biedt voor het onderwijs, zijn er ook risico's. Plagiaat en fraude vragen daarbij de meeste aandacht van de universiteit:

Het gebruik van output (bijvoorbeeld tekst of programmeercode) die door GenAI modellen is gegenereerd in een toets, opdracht of scriptie valt binnen de definitie van fraude. Ook valt het gebruik van GenAI binnen de 'niet toegestane hulpmiddelen', zoals deze zijn benoemd in de integriteitscode toetsen op afstand.

Eigen verantwoordelijkheid

Er zijn allerlei ontwikkelingen gaande die plagiaat met GenAI tegengaan. Mogelijk vraagt dit ook om aanvullend beleid, bijvoorbeeld op het gebied van toetsing. De realiteit is dat we in het onderwijs moeten leren omgaan met deze nieuwe technologie, waarbij de fundamentele vraag is: 'Kun je GenAI gebruiken om je eigen leerproces te verbeteren en daarnaast je eigen verantwoordelijkheid voor het leren van de lesstof of het ontwikkelen van kennis en vaardigheden behouden?' Hierin verwachten we van studenten dat ze ook hun verantwoordelijkheid nemen. 

Gebruik van GenAI

Als je als medewerker of student besluit om GenAI toepassingen te gebruiken, wees je er dan van bewust dat:

• De output van GenAI modellen niet altijd correct is. Daarnaast fungeren de meeste modellen als een ‘black box’ (zo worden de trainingssets vaak niet openbaar gemaakt) en is het vaak lastig om als gebruiker te achterhalen waar de gegeven output vandaan komt.
• Trainingssets vrijwel zeker auteursrechtelijk beschermd materiaal bevatten, waarvoor geen toestemming is gegeven door de auteur. Daarnaast zullen in veel GenAI modellen biases voorkomen die invloed hebben op de output.
• Het ontwikkelen en trainen van GenAI modellen grote hoeveelheden energie kost en daarmee een significante impact heeft op milieu en klimaat. Daarnaast vraagt het ontwikkelen van deze technologie een grote financiële investering die bijna uitsluitend door grote commerciële tech-bedrijven kan worden gedragen.
• Bij de meeste (gratis) GenAI modellen alle input die je geeft eigendom van de ontwikkelaar wordt. Het advies is om geen gevoelige informatie te delen.