Vrouw met koptelefoon gefotografeerd op haar achterhoofd kijkt naar laptop waarvan het scherm onscherp is
Nieuws

DPIA EduGenAI

Werken aan veilige en verantwoorde AI in het onderwijs

Samen met Npuls werken we aan EduGenAI: een platform dat een veilige en verantwoorde toepassing van generatieve AI in het vervolgonderwijs mogelijk maakt. Al in de ontwikkelfase hebben we een data protection impact assesment (DPIA) laten uitvoeren, waaruit een aantal lage risico’s kwamen. Zo kunnen we deze nog tijdens de ontwikkeling van EduGenAI oplossen.

Resultaat: 12 lage risico’s worden ontwikkeldoelen

Een DPIA is een instrument om de privacyrisico’s van gegevensverwerking in kaart te brengen. Uit de EduGenAI-DPIA, die werd uitgevoerd door Privacy Company, kwamen 12 lage risico’s naar voren. Het DPIA-rapport beveelt bij ieder geïdentificeerd risico een concrete mitigerende maatregel aan. Denk aan maatregelen tegen overmatig vertrouwen op de juistheid van gegenereerde teksten, en maatregelen om de verwerking van persoonsgegevens te minimaliseren. Als deze ontwikkeldoelen effectief worden geïmplementeerd en getest, kunnen SURF en de onderwijsinstellingen de gevonden gegevensbeschermingsrisico’s beperken. 

Vervolg

Deze DPIA biedt een voorproefje van de toekomstige functionaliteit van EduGenAI. De ontwikkelaars nemen de aanbevolen maatregelen mee in de verdere ontwikkeling van het platform. Zo werken we als sector gezamenlijk aan een veilig, gebalanceerd aanbod van AI-diensten om de autonomie van ons onderwijs te waarborgen.

Volledig rapport beschikbaar
DPIA on EduGenAI
Downloaden DPIA on EduGenAI, Engels, Bestandsextensie: pdf (Bestandsgrootte: 4 MB) Engels, Bestandsextensie: pdf (Bestandsgrootte: 4 MB)

Over EduGenAI 

Het EduGenAI-platform biedt onderwijsinstellingen de mogelijkheid om te chatten met verschillende taalmodellen. Zowel open-source-modellen die SURF zelf host, als commerciële modellen. We ontwikkelen EduGenAI om publieke waarden als datasoevereiniteit en privacy te beschermen bij het gebruik van generatieve AI, en om te bevorderen dat instellingen van elkaar leren. Het platform wordt ontwikkeld in nauwe samenwerking met onderwijsinstellingen en sluit aan bij de behoeften en wensen van de gebruikers. 

Meer over EduGenAI

Vragen?

Heb je vragen over deze DPIA? Meld je aan voor het verdiepende webinar op 4 september (van 10-12:00 uur, alleen voor SURF-leden).  Of neem contact op met SURF via vendorcompliance@surf.nl.   
 
Vragen over de ontwikkeling van EduGenAI? Mail edugenai@npuls.nl.  

Gerelateerde onderwerpen: