Nieuws

Ontwikkeling DIANNA door SURF's Open Innovation Lab en eScience Center

SURF en het Netherlands eScience Center bundelen hun krachten om DIANNA te ontwikkelen: een gestandaardiseerd open source systeem dat zal 'uitleggen' hoe Deep Neural Networks redeneren.
DIANNA

Ondanks hun hoge voorspellende nauwkeurigheid zijn de uitkomsten van Artificial Intelligence (AI) modellen, meestal Deep Neural Networks (DNNs), moeilijk te verklaren. Daardoor hebben ze de reputatie ‘zwarte dozen’ te zijn. Uitlegbaarheid is echter noodzakelijk om vertrouwen en sociale acceptatie te bevorderen. Hoewel er verschillende methoden bestaan om AI verklaarbaar te maken, hebben ze verschillende nadelen en worden ze vooral gebruikt door AI-experts en niet zozeer door de bredere wetenschappelijke gemeenschap.

DIANNA

Elena Ranguelova, Technology Lead bij het eScience Center: "DIANNA staat voor 'Deep Insight And Neural Network Analysis'. Het project is gericht op het creëren van een open source software tool die 'uitlegt' hoe DNNs redeneren. De 'uitleg' vertegenwoordigt kennis die door het AI-systeem is vastgelegd en die wordt gevisualiseerd door middel van een 'relevantie heatmap'. Op deze manier kan de visualisatie zelf een bron van nieuw wetenschappelijk inzicht worden."

Best verklaarbare AI-methoden voor onderzoek

In lijn met de technologiestrategie van het eScience Center heeft DIANNA tot doel de beste verklaarbare AI-methoden (XAI) voor gebruik in onderzoek te bepalen. Het ondersteunt de Open Neural Network eXchange (ONNX) standaard en biedt nieuwe beeldbenchmarks die geschikt zijn voor het bestuderen van de XAI heatmaps. Om DIANNA bekend en toegankelijk te maken voor de bredere onderzoeksgemeenschap, zullen SURF en het Netherlands eScience Center tutorials en webdemonstraties verzorgen.

Expertise in XAI

Ranguelova: "Zowel het Netherlands eScience Center als SURF hebben uitgebreide expertise in het toepassen van AI op onderzoeksprojecten in verschillende domeinen en op verschillende soorten data. Ik wilde al een tijdje samenwerken met het Open Innovation Lab van SURF, en dit project vormt de perfecte gelegenheid."

De mogelijkheden van DIANNA laten zien

De mogelijkheden van DIANNA zullen worden getoond aan de hand van een radiologiecasus. Een van de uitdagingen bij het plannen van radiotherapiebehandelingen is hoe om te gaan met dagelijkse variaties in de interne anatomie van de patiënt. Het genereren van CT-scans kan mogelijk worden gebruikt om deze variaties te simuleren. Het verkrijgen van uitleg over de factoren die de variaties beïnvloeden kan medische deskundigen helpen bij hun besluitvorming.

Toepassing en nut

Damian Podareanu, Lead High Performance Machine Learning bij SURF: "Het zal interessant zijn om XAI toe te passen op generatieve modellen, aangezien deze algemeen bekend staan om hun moeilijkheid om te kwantificeren en te vergelijken. In het geval van medische generatieve modellen beoordelen specialisten de output meestal handmatig. We zijn ervan overtuigd dat DIANNA in die context nuttig zal blijken te zijn."

DIANNA is een zogeheten SURF Alliance Project, een jaarlijkse samenwerking tussen het Netherlands eScience Center en SURF. De projecten zijn vooral bedoeld om geavanceerde technologische expertise binnen beide organisaties met elkaar te verbinden, op basis van hun respectievelijke technologiestrategieën. De softwareoplossingen die uit de projecten voortkomen, kunnen mogelijk worden hergebruikt om andere onderzoeksproblemen in verschillende disciplines aan te pakken.