Artificial intelligence

AI-hub

SURF bouwt momenteel aan de AI-hub: een centraal vertrouwd toegangspunt waar open source en commerciële generatieve AI-modellen gekoppeld kunnen worden. Op een soevereine, veilige, transparante en toekomstbestendige manier. Met de AI-hub kunnen instellingen zelf bepalen tot welke taalmodellen hun gebruikers toegang krijgen.

Regie over het gebruik van taalmodellen met de AI-hub

Artificial Intelligence biedt de mogelijkheid om het onderzoeks- en onderwijsdomein te transformeren. Binnen de context van het Nederlandse onderwijs en onderzoek zijn talloze toepassingen te bedenken. Elke week verschijnen er nieuwe AI-modellen die de vorige overtreffen. Er wordt wetgeving opgesteld, zoals de AI-verordening. Instellingen moeten die handhaven, terwijl specifiek AI-beleid nog vaak ontbreekt.

Gebruikers van kunstmatige intelligentie staan te popelen om aan de slag te gaan, maar staan ook voor veel uitdagingen. Staat mijn instituut dit specifieke AI-model toe en is de data veilig? Hoe kan ik gebruik maken van meerdere modellen? Kan ik voor mijn vakgebied specifieke modellen gebruiken en delen met anderen? Hoe voorkomen we als instelling dat we afhankelijk worden van generatieve AI-leveranciers en hoe vindt verrekening van kosten plaats? Met de AI-hub bieden SURF en Npuls een antwoord op deze uitdagingen.

Veilig inrichten van workflows

De AI-hub is een centraal vertrouwd toegangspunt waar gebruikers of applicaties gekoppeld kunnen worden met verschillende AI-aanbieders, zoals GPT- en LLM-modellen. Gebruikers kunnen dit koppelpunt vervolgens zelf inrichten en configureren, afhankelijk van hun behoeften en toepassing. De AI-hub draait in eigen datacenters van SURF en kan, na certificatie die nog moet plaatsvinden, gebruikt worden met vertrouwelijke data.

De behoefte om te configureren, varieert: docenten en studenten hebben bijvoorbeeld andere eisen en beperkingen dan een onderzoeksafdeling. Met de AI-hub bepalen instellingen zelf hoe AI op instellings- of groepsniveau wordt gebruikt. Instellingen kunnen eigen toepassingen en gebruikersinterfaces maken, of bestaande toepassingen of interfaces uitbreiden met AI-functionaliteit. Zo levert de AI-hub de infrastructuur waarmee verschillende AI-workflows veilig worden ingericht.

De AI-hub zelf heeft geen webapplicatie of front-end toepassing zoals EduGenAI. Het is primair bedoeld om taalmodellen op een verantwoorde manier te ontsluiten en te zorgen voor de financiële afhandeling. De AI-hub is te gebruiken via een zogenaamde API-koppeling voor programma’s op basis van de OpenAI-standaard. De software voor de AI-hub is door SURF ontwikkeld en de programmacode wordt open source beschikbaar gesteld.

Publieke waarden als uitgangspunt

Met de ontwikkeling van de AI-hub bundelen SURF en Npuls hun krachten met instellingen. Samen bouwen we aan een toekomstbestendig AI-platform dat op een verantwoorde manier toegang geeft tot taalmodellen.

De AI-hub geeft via een centraal punt toegang tot commerciële en open source AI-modellen. Op deze manier helpt het:

Artificial intelligence te gebruiken met gevoelige data (na certificering).
Instellingen aan het roer te laten, doordat ze zelf bepalen welke modellen beschikbaar zijn voor gebruikers en welke niet, passend bij het AI-beleid van hun instelling. Instellingen kunnen ook zelf ontwikkelde taalmodellen aan collega-instellingen aanbieden.
Onafhankelijk te zijn van leveranciers. Met de AI-hub worden diverse modellen ontsloten, van verschillende leveranciers. Zo kun je eenvoudig wisselen van taalmodel én van (cloud)leverancier.
Transparantie te vergroten. Gebruikers worden geïnformeerd over eigenschappen van modellen en providers, zoals energieverbruik, zodat ze een gewogen keuze kunnen maken.
Toegankelijkheid te vergroten. Gebruikers hebben toegang tot state of the art open-sourcemodellen waarvoor compliancy checks zijn uitgevoerd, op lokale en betrouwbare SURF-infrastructuur.
Transparantie te vergroten. De code van de AI-hub wordt open source vrijgegeven, zodat onze leden en andere geïnteresseerden de AI-hub binnen hun eigen omgeving kunnen uitrollen.

Van idee naar dienst

De AI-hub richt zich in eerste instantie op instellingen die bij SURF zijn aangesloten. Het is de bedoeling dat we de AI-hub aan onze leden gaan aanbieden als dienst. In het zogenoemde LCPM-proces (Life Cycle Portfolio Management) wordt het ontwikkeld van idee naar dienst.

Op dit moment bevindt de AI-hub zich in fase 0.7: de pilotfase waarin we use cases testen met de leden en een tariefmodel ontwikkelen. Zo’n 85 instellingen hebben een AI use case of toepassing aangemeld om via de AI-hub te koppelen. Deelnemende instellingen ontvangen na het indienen van hun use case en aanleveren van een getekende pilot-overeenkomst een API-key. Hiermee krijgen ze toegang tot AI-taalmodellen die momenteel draaien op de hardware van SURF.

AI-hub en EduGenAI: overeenkomst en verschillen

Het groeifondsprogramma Npuls gebruikt de AI-hub als technische basis voor het EduGenAI platform. De krachtige AI-modellen en veilige infrastructuur van de AI-Hub, bieden een fundament voor de toegankelijke en onderwijsgerichte gebruikersinterface van EduGenAI. EduGenAI bevindt zich net als de AI-hub in een pilotfase, maar de inhoud van beide pilots is anders.

EduGenAI komt met een ‘all in one’-oplossing: een gebruikersinterface specifiek voor het onderwijs. Met de AI-hub kunnen eigen en andere toepassingen en gebruikersinterfaces gemaakt worden, of bestaande toepassingen of interfaces worden uitgebreid met AI-functionaliteit. Dit kan ook buiten het onderwijs. Zowel bij EduGenAI als de AI-Hub werken SURF, Npuls en de instellingen toe naar toekomstbestendige oplossingen voor AI.

Voor meer informatie zie:

SURF AI infrastructuur incl. relatie AI-Hub en EduGenAI — AI infrastructuur incl. relatie AI-Hub en EduGenAI

Meer informatie

Wil je meer weten over de ontwikkelingen rond de AI-hub? Stuur dan een mail naar ai@surf.nl.