Van pilots naar praktijk: Hogeschool Rotterdam bouwt met AI-hub veilige en betrouwbare AI-agents

Wat doe je als je het antwoord op een vraag echt niet weet? Kom je daarvoor uit of bluf je je uit de situatie? Large Language Models (LLM’s) hebben sterk de neiging tot het laatste. Rob van der Willigen, hoofddocent bij het Kenniscentrum Zorginnovatie (KCZ) en Tech Lead van de DataLabs EAS, Healthcare en AI SusTech aan de Hogeschool Rotterdam, zegt het volgende: “Ik las onlangs nog een artikel in Nature waaruit blijkt dat als je AI-modellen wetenschappelijke referenties laat zoeken, er foutpercentages tot wel 80 procent optreden.” 

Van der Willigen houdt zich bezig met waarheidsvinding bij de inzet van AI-agents, die zelfstandig wetenschappelijke informatiesystemen zoals Google Scholar, PubMed en andere bibliografische databases doorzoeken. 

Met AI-hub veilig LLM-toepassingen bouwen

Het kiezen van het juiste AI-model en het aanbrengen van robuuste ‘guardrails’ (beperkingen aan de acties van het algoritme) zijn essentieel. Voor veel onderwijsinstellingen is de betrouwbaarheid van AI-modellen een actuele zorg. SURF en Npuls schieten daarbij te hulp met de ontwikkeling van de AI-hub en EduGenAI.  

De AI-hub is een laag tussen een AI-applicatie en het onderliggende taalmodel (LLM). Deze laag geeft je de vrijheid om het beste model voor je vraag te selecteren. Bovendien garandeert de AI-hub dat de verwerking van de data betrouwbaar, veilig en compliant gebeurt. “AI-hub biedt de kans om veilig taalmodellen in te zetten vanuit een beschermde omgeving. Daar kun je tools aan koppelen, zodat je een echt betrouwbare AI-agent kunt bouwen,” vertelt Corno Vromans, adviseur Publieke Waarden bij SURF, nauw betrokken bij de ontwikkeling van de AI-hub.  

Het project van Van der Willigen is een van de 85 pilotprojecten waarmee SURF samen met Npuls hard werkt aan een versie die naar verwachting tegen het einde van het jaar voor alle leden beschikbaar komt. De pilotfase is breed opgezet en bedoeld om praktijkervaring op te doen. Tegelijk is technische kennis bij instellingen soms nodig om dit echt goed te integreren. “We geven onze gebruikers een zogeheten API-key, een sleutel om toegang te krijgen tot de AI-hub. En natuurlijk geven we ondersteuning, bijvoorbeeld met een uitgebreide wiki.”  

Hogeschool Rotterdam kan veilig versnellen 

Van der Willigen is heel enthousiast. “Zonder SURF hadden we niet zo’n breed palet aan modellen kunnen gebruiken.” Hij kan nu bijvoorbeeld een aantal Chinese modellen inzetten die zonder de AI-hub lokaal hadden moeten worden gehost. “Daar hebben we gewoon de infrastructuur niet voor. De AI-hub heeft onze ontwikkeling enorm versneld.”  

Van der Willigen was al betrokken bij het voortraject van de AI-hub en nam deel aan de ontwikkeling van de juridische kaders die nodig zijn om de pilots mogelijk te maken. Hij werkt onder meer voor het vakgebied Healthcare aan kleinere, effectievere en domeinspecifieke modellen.  

Hoe essentieel accuraatheid is, illustreert hij met een voorbeeld uit de dramaserie The Pitt. De arts Al-Hashimi benadrukt in een scène dat generatieve AI in een elektronisch patiëntendossier ongeveer 98 procent correct is, maar dat jammer genoeg de medicatie verkeerd is ingevuld. “Dat is het probleem met AI op dit moment. 99 procent lijkt in orde te zijn, maar juist die 1 procent aan cruciale informatie: daarop kun je niet vertrouwen. Binnen elk domein heb je zulke specifieke problemen.”  

SURF faciliteert innovatieklimaat

De modellen die het Data Lab van de Hogeschool Rotterdam ontwikkelt, worden met open-sourcelicenties ter beschikking gesteld aan derden via GitHub-repositories en wiki’s. “Iedereen kan dus nabouwen wat wij al hebben uitgezocht.”  

Van der Willigen ziet een groeiende rol voor SURF bij dit soort initiatieven. Hij zou graag zien dat SURF letterlijk een kluis bouwt waarin servers staan waar alleen Nederlandse onderzoeksgroepen bij kunnen en waarop modellen draaien die alleen op Nederlandse, of breder op Europese bodem zijn gebouwd.  

Een technische tegenkracht

“De achilleshiel van Europa is niet zozeer onze innovatiekracht ten opzichte van de rest van de wereld, want met heel veel dingen lopen we echt voor. Het probleem is dat het verdienmodel ons parten speelt. Start-ups worden al heel vroeg opgekocht. Een initiatief als dit vormt daarin een tegenkracht. Met SURF en nu binnen het Npuls-programma kun je langdurig aan innovaties bouwen zonder dat iemand in je nek hijgt: of er al geld mee wordt verdiend.” De AI-Hub en ook EduGenAI zijn daar mooie voorbeelden van. De AI-hub biedt als innovatie een technisch fundament voor het onderzoek naar AI toepassingen zoals AI-agents en de toegankelijke en onderwijsgerichte gebruikersinterface van EduGenAI die ook op eigen bodem is opgezet.

Om volledig gebruik te kunnen maken van de AI-hub, moeten geïnteresseerde onderwijsinstellingen nog even geduld hebben. Voorbereiding is wel al mogelijk, bijvoorbeeld door deel te nemen aan een speciale bijeenkomst op 23 juni op het SURF kantoor in Utrecht, waarin de deelnemers presentaties geven over hun pilotprojecten. Meld je aan voor de bijeenkomst via ai@surf.nl. 

Tekst: Thijs Doorenbosch