AI-hub
Regie over het gebruik van taalmodellen met de AI-hub
Het AI-landschap verandert snel. Het biedt de mogelijkheid om het onderzoeks- en onderwijsdomein te transformeren. Binnen de context van het Nederlandse onderwijs en onderzoek zijn talloze toepassingen te bedenken. Elke week verschijnen er nieuwe AI-modellen die de vorige overtreffen. Er wordt wetgeving opgesteld, zoals de AI-verordening. Die moet worden gehandhaafd, terwijl specifiek AI-beleid nog vaak ontbreekt.
Gebruikers van kunstmatige intelligentie staan te popelen om aan de slag te gaan, maar staat ook voor veel uitdagingen. Staat mijn instituut dit specifieke AI-model toe en is mijn data veilig? Hoe kan ik gebruik maken van meerdere modellen? Kan ik voor mijn vakgebied specifieke modellen gebruiken en delen met anderen? Hoe voorkomen we als instelling dat we afhankelijk worden van generatieve AI-leveranciers en hoe vindt verrekening van kosten plaats? Met de AI-hub willen SURF en Npuls deze uitdagingen ondervangen.
Veiligstellen van workflows
De AI-hub is een centraal vertrouwd toegangspunt waar gebruikers of applicaties gekoppeld kunnen worden met verschillende AI-aanbieders, zoals GPT- en LLM-modellen. Gebruikers kunnen dit koppelpunt vervolgens zelf inrichten en configuren, afhankelijk van hun behoeften en toepassing. De AI-hub draait in eigen datacenters van SURF en kan, na certificatie die nog moet plaatsvinden, gebruikt worden met vertrouwelijke data.
De behoefte om te configureren, varieert per organisatiegroep: docenten en studenten hebben bijvoorbeeld andere eisen en beperkingen dan een onderzoeksafdeling. Met de AI-hub bepalen instellingen zelf hoe AI op instellings- of groepsniveau wordt gebruikt. De AI-hub biedt instellingen de mogelijkheid om eigen toepassingen en gebruikersinterfaces te maken, of bestaande toepassingen of interfaces uit te breiden met AI-functionaliteit. Zo levert de AI-hub de infrastructuur waarmee verschillende AI-workflows worden veiliggesteld.
De AI-hub zelf heeft geen webapplicatie of front-end toepassing zoals EduGenAI. Het is primair bedoeld om taalmodellen op een verantwoorde manier te ontsluiten en te zorgen voor de financiële afhandeling. Het is via een zogenaamde API-koppeling voor programma’s te gebruiken. Voor deze API-koppeling wordt de OpenAI standaard gebruikt. De software voor de AI-hub is door SURF ontwikkeld en de programmacode wordt open source beschikbaar gesteld.
Publieke waarden als uitgangspunt
Met de ontwikkeling van de AI-hub bundelen SURF en Npuls hun krachten met instellingen. Samen bouwen we aan een toekomstbestendig AI-platform dat op een verantwoorde manier toegang geeft tot taalmodellen.
De AI-hub geeft via een centraal punt toegang tot commerciële en open source AI-modellen. Op deze manier helpt het:
- Een vendor lock-in te voorkomen. Door de beste open-sourcemodellen lokaal aan te bieden, is er minder invloed van leveranciers (cloud providers).
- Artificial intelligence te gebruiken met gevoelige data (na certificering).
- Instellingen aan het roer te laten, door zelf te bepalen welke modellen beschikbaar zijn voor gebruikers en welke niet binnen het AI-beleid van hun instelling of instituten. Instellingen kunnen ook zelf ontwikkelde taalmodellen aan collega-instellingen aanbieden.
- Onafhankelijkheid te zijn van leveranciers. Met de AI-Hub worden diverse modellen ontsloten, van verschillende leveranciers. Zo kan eenvoudig gewisseld worden van taalmodel én van leverancier.
- Transparantie te vergroten. Gebruikers worden geïnformeerd over eigenschappen van modellen en providers, zoals energieverbruik, zodat een gewogen keuze gemaakt kan worden.
- Toegankelijkheid te vergroten. Gebruikers hebben toegang tot state of the art open-sourcemodellen waarvoor compliancy checks zijn uitgevoerd, op lokale en betrouwbare SURF-infrastructuur.
- Transparantie te vergroten. De code van de AI-hub wordt open source vrijgegeven, zodat onze leden en andere geïnteresseerden de AI-hub binnen hun eigen omgeving kunnen uitrollen.
Van idee naar dienst
Het is de bedoeling dat we de AI-hub aan onze leden gaan aanbieden als dienst. De AI-hub bevindt zich daarom binnen het zogenoemde LCPM-proces (Life Cycle Portfolio Management). Tijdens dit proces wordt een product ontwikkeld van idee naar dienst.
Op dit moment bevindt de AI-hub zich in fase 0.7: de pilotfase waarin naast geteste use cases met de leden ook een tariefmodel wordt ontwikkeld. Er zijn zo’n 85 AI use cases of toepassingen aangemeld die zich via de AI-hub willen koppelen. Deelnemende instellingen ontvangen na het indienen van hun use case en een getekende pilot-overeenkomst een API-key. Hiermee krijgen ze toegang tot AI-taalmodellen die momenteel draaien op de hardware van SURF.
AI-hub en EduGenAI: overeenkomst en verschillen
Het groeifondsprogramma Npuls benut binnen EduGenAI de AI-Hub als technische basis. De krachtige AI-modellen en de veiligere infrastructuur van de AI-Hub bieden een fundament voor de toegankelijke en onderwijsgerichte gebruikersinterface van EduGenAI.
Het groeifondsprogramma Npuls gebruikt de AI-hub als technische basis binnen het EduGenAI platform. De krachtige AI-modellen en de veiligere infrastructuur van de AI-Hub bieden een fundament voor de toegankelijke en onderwijsgerichte gebruikersinterface van EduGenAI. EduGenAI bevindt zich net als de AI-hub in een pilotfase, maar de inhoud van beide pilots is anders.
EduGenAI komt met een ‘all in one’-oplossing: een al gebouwde gebruikersinterface die specifiek is voor het onderwijs. Met de AI-hub kunnen eigen en andere toepassingen en gebruikersinterfaces gemaakt worden, of bestaande toepassingen of interfaces worden uitgebreid met AI-functionaliteit. Dit kan ook buiten het onderwijs. Zowel bij EduGenAI als de AI-Hub werken SURF, Npuls en de instellingen toe naar toekomstbestendige oplossingen voor het onderwijs in relatie tot AI.
Voor meer informatie zie:
Meer informatie
Wil je meer weten over de ontwikkelingen rond de AI-hub? Stuur dan een mail naar ai@surf.nl.