“Maak de informatica weer socialer”

Ze was het afgelopen jaar niet te missen: in de Tweede Kamer, op televisie (o.a. Buitenhof), op BNR Nieuwsradio, als columnist in de Volkskrant, in podcasts en op conferenties. Felienne Hermans (1984) is hoogleraar Computer Science Education aan de Vrije Universiteit in Amsterdam, zet zich in voor programmeerles voor kinderen en geeft een dag per week les aan een middelbare school. Ook maakt ze een podcast over computerwetenschap én schrijft ze iedere week een persoonlijke nieuwsbrief over AI (aanrader!). Op 10 november opent zij de SURF Onderwijsdagen met een keynotespeech.

Het belang van inclusie in de digitale wereld

Mensen moeten begrijpen hoe de software werkt die een steeds groter deel van ons dagelijks leven bepaalt, vindt Felienne. “Je hoeft natuurlijk niet allemaal professioneel programmeur te worden, maar enige kennis van programmeren helpt wel om kritisch na te denken. Wie bepaalt hoe een systeem werkt? Welke keuzes zitten er in een algoritme? Voor wie is een technologie eigenlijk ontworpen en wie wordt er misschien uitgesloten? 

Dit klinkt misschien abstract, maar je ziet het terug in concrete dingen. Bijvoorbeeld: een groot deel van de Arabischsprekende wereld gebruikt andere cijfers dan wij. In bepaalde programmeertalen worden die als ongeldig beschouwd, terwijl het technisch gezien helemaal niet ingewikkeld is om ervoor te zorgen dat die cijfers wel gebruikt kunnen worden. Dat zegt iets over wie de macht heeft in de digitale wereld. Als bepaalde groepen niet worden meegenomen bij het ontwerp, komen hun perspectief en behoeften simpelweg niet in die technologie terecht.

Dat zie je nu ook bij AI. Modellen worden getraind op gegevens die niet neutraal zijn: er zitten historische ongelijkheden en vooroordelen in. Daardoor geeft AI soms een vertekend beeld van de werkelijkheid. Zo bleek uit onderzoek in 2023 dat wanneer je een chatbot vraagt om een afbeelding van een dokter te genereren in slechts 7 procent van de gevallen een vrouw verschijnt, terwijl het werkelijke percentage vrouwelijke artsen veel hoger ligt.

Daarom is inclusie in de digitale wereld voor mij niet alleen de vraag of iedereen toegang heeft tot technologie. Het gaat ook om de vraag welke wereld we in die technologie terugzien en wie bepaalt wat daarin als normaal wordt beschouwd.”

Schelden op social media

“Vroeger dacht ik dat inclusie in de digitale wereld een technisch probleem was en we vooral technische oplossingen moesten maken. Dat was het idee achter Hedy, de programmeertaal voor kinderen die ik in 2019 ontwikkelde. Ik heb geprobeerd Hedy zo toegankelijk mogelijk te maken: gratis, in verschillende talen en ook geschikt voor blinden en slechtzienden. En ik publiceerde een stappenplan voor andere programmeurs om programmeertalen inclusiever te maken.

Ik dacht dat de informaticawereld superblij zou zijn en gelijk aan de slag zou gaan met mijn tips. Maar het tegenovergestelde gebeurde: mensen werden boos en scholden me uit op sociale media. Ze vonden het gezeur, en dat ik ‘woke’ naar de informatica bracht. Ik realiseerde me dat het geen technisch, maar een sociaal probleem is. Je kunt een programmeertaal wel toegankelijker maken, maar daarmee verander je nog niet automatisch de cultuur van het vakgebied.

Macht van AI-bedrijven

“Ik denk dat we over 10 jaar kritischer naar AI en andere technologieën zullen kijken. Sociale media en mobiele telefoons vonden we in het begin ook vooral leuk en handig, maar inmiddels zien we de nadelen. Ik verwacht dat zoiets ook met AI gebeurt. Mensen beginnen al meer aandacht te krijgen voor de klimaatschade, het enorme waterverbruik en de macht die bij een kleine groep bedrijven en individuen terechtkomt. Er zijn genoeg redenen waarom mensen uiteindelijk kunnen zeggen: ik wil dit niet gebruiken.

Als AI puur binnen de wetenschap was gebleven, zou ik er waarschijnlijk veel enthousiaster over praten. Maar je kunt de technologie nu niet meer los zien van de commerciële hype eromheen. Een kleine groep Amerikaanse softwarebedrijven vertelt ons dat AI sneller en beter dan ooit allerlei problemen kan oplossen. Maar dat is een marketingverhaal. Ze hebben in feite dezelfde overtuiging als makers van wapens: ze maken een product en wat het effect daarvan is op de samenleving kan ze niks schelen. Het gaat ze enkel om macht en geld. En dat geven wij ze.”

De rol van technologie in ons onderwijs

In haar keynote op de SURF Onderwijsdagen wil Felienne het publiek vooral meegeven dat technologie meer is dan alleen techniek. “Als je een nieuw systeem, algoritme of AI-toepassing invoert, maak je daarmee ook keuzes over hoe mensen werken, leren en met elkaar omgaan. 

Dat betekent dat je je als onderwijsprofessional niet alleen moet afvragen wat technologie mogelijk maakt, maar ook welke wereld je ermee creëert. Wie heeft er voordeel van? Wie heeft er last van? Welke waarden zitten erin? En wie heeft eigenlijk besloten dat dit de richting is waarin we moeten gaan? 

Ik hoop dat mensen zich na mijn keynote wat minder laten meeslepen door het idee dat iedere nieuwe technologische ontwikkeling automatisch iets is waar het onderwijs in mee moet. We hoeven ons niet aan de technologie aan te passen: wij bepalen zelf welke rol technologie in ons onderwijs krijgt.”

Felienne besluit: “Ik weet ook niet of alle veranderingen die ik voor ogen heb realistisch zijn. Maar dat vind ik eigenlijk niet zo belangrijk. Dat iets moeilijk is of misschien niet lukt, betekent niet dat je het niet moet proberen. Ik wil uiteindelijk terugkijken op mijn leven en kunnen zeggen dat ik alles heb gedaan wat ik kon.”

Foto’s: Bob Bronshoff