DPIA EduGenAI
Werken aan veilige en verantwoorde AI in het onderwijs
Resultaat: 12 lage risico’s worden ontwikkeldoelen
Een DPIA is een instrument om de privacyrisico’s van gegevensverwerking in kaart te brengen. Uit de EduGenAI-DPIA, die werd uitgevoerd door Privacy Company, kwamen 12 lage risico’s naar voren. Het DPIA-rapport beveelt bij ieder geïdentificeerd risico een concrete mitigerende maatregel aan. Denk aan maatregelen tegen overmatig vertrouwen op de juistheid van gegenereerde teksten, en maatregelen om de verwerking van persoonsgegevens te minimaliseren. Als deze ontwikkeldoelen effectief worden geïmplementeerd en getest, kunnen SURF en de onderwijsinstellingen de gevonden gegevensbeschermingsrisico’s beperken.
Vervolg
Deze DPIA biedt een voorproefje van de toekomstige functionaliteit van EduGenAI. De ontwikkelaars nemen de aanbevolen maatregelen mee in de verdere ontwikkeling van het platform. Zo werken we als sector gezamenlijk aan een veilig, gebalanceerd aanbod van AI-diensten om de autonomie van ons onderwijs te waarborgen.
Over EduGenAI
Het EduGenAI-platform biedt onderwijsinstellingen de mogelijkheid om te chatten met verschillende taalmodellen. Zowel open-source-modellen die SURF zelf host, als commerciële modellen. We ontwikkelen EduGenAI om publieke waarden als datasoevereiniteit en privacy te beschermen bij het gebruik van generatieve AI, en om te bevorderen dat instellingen van elkaar leren. Het platform wordt ontwikkeld in nauwe samenwerking met onderwijsinstellingen en sluit aan bij de behoeften en wensen van de gebruikers.
Vragen?
Heb je vragen over deze DPIA? Neem contact op met SURF via vendorcompliance@surf.nl.
Vragen over de ontwikkeling van EduGenAI? Mail edugenai@npuls.nl.