Hoe ziet een digitale onderzoeksinfrastructuur voor kunstmatige intelligentie eruit? Dat onderzoeken we, zodat we toewerken naar nieuwe en verbeterde componenten van een digitale infrastructuur voor onderzoek.
DIANNA: Deep Insight And Neural Network Analysis
SURF en het Netherlands eScience Center bundelen hun krachten om DIANNA te ontwikkelen: een gestandaardiseerd open source systeem dat zal 'uitleggen' hoe Deep Neural Networks redeneren.
Acceptatie van Deep Neural Networks
Moderne wetenschappelijke uitdagingen worden steeds vaker benaderd met behulp van Artificiële Intelligentie, meestal met (Deep) Neural Networks (DNN). Ondanks hun hoge voorspellende nauwkeurigheid zijn de uitkomsten van Artificial Intelligence (AI) modellen, meestal Deep Neural Networks (DNNs), moeilijk te verklaren. Daardoor hebben ze de reputatie ‘zwarte dozen’ te zijn. Uitlegbaarheid is echter noodzakelijk om vertrouwen en sociale acceptatie te bevorderen. Hoewel er verschillende methoden bestaan om AI verklaarbaar te maken, hebben ze verschillende nadelen en worden ze vooral gebruikt door AI-experts en niet zozeer door de bredere wetenschappelijke gemeenschap.
Deep Insight And Neural Network Analysis
DIANNA staat voor 'Deep Insight And Neural Network Analysis'. Het project is gericht op het creëren van een open source software tool die 'uitlegt' hoe DNNs redeneren. De 'uitleg' vertegenwoordigt kennis die door het AI-systeem is vastgelegd en die wordt gevisualiseerd door middel van een 'relevantie heatmap'. Op deze manier kan de visualisatie zelf een bron van nieuw wetenschappelijk inzicht worden.
Best verklaarbare AI-methoden voor onderzoek
In lijn met de technologiestrategie van het eScience Center heeft DIANNA tot doel de beste verklaarbare AI-methoden (XAI) voor gebruik in onderzoek te bepalen. Het ondersteunt de Open Neural Network eXchange (ONNX) standaard en biedt nieuwe beeldbenchmarks die geschikt zijn voor het bestuderen van de XAI heatmaps. Om DIANNA bekend en toegankelijk te maken voor de bredere onderzoeksgemeenschap, zullen SURF en het Netherlands eScience Center tutorials en webdemonstraties verzorgen.
De mogelijkheden van DIANNA laten zien
De mogelijkheden van DIANNA zullen worden getoond aan de hand van een radiologiecasus. Een van de uitdagingen bij het plannen van radiotherapiebehandelingen is hoe om te gaan met dagelijkse variaties in de interne anatomie van de patiënt. Het genereren van CT-scans kan mogelijk worden gebruikt om deze variaties te simuleren. Het verkrijgen van uitleg over de factoren die de variaties beïnvloeden kan medische deskundigen helpen bij hun besluitvorming.
DIANNA is een zogeheten SURF Alliance Project, een jaarlijkse samenwerking tussen het Netherlands eScience Center en SURF. De projecten zijn vooral bedoeld om geavanceerde technologische expertise binnen beide organisaties met elkaar te verbinden, op basis van hun respectievelijke technologiestrategieën. De softwareoplossingen die uit de projecten voortkomen, kunnen mogelijk worden hergebruikt om andere onderzoeksproblemen in verschillende disciplines aan te pakken.