Op 7 september verdedigde onderzoeker Savvina Daniil haar proefschrift. Zij deed onderzoek naar vooroordelen in recommenders. Dat zijn algoritmes waarmee bibliotheken boeken aanraden. De KB heeft dit onderzoek gefinancierd.
Algoritmes
Veel bibliotheken gebruiken al lang algoritmes voor leestips. De afgelopen jaren komen daar ook AI-assistenten bij. Die leestips moeten passen bij de lezer, maar ook verrassend en betrouwbaar zijn. Bias in algoritmes kan een probleem zijn: bij het opzetten van het algoritme worden onbewuste vooroordelen van de makers meegenomen en uitvergroot. Als trainingsdata bijvoorbeeld alleen mannelijke schrijvers bevat, zal een algoritme ook geen vrouwelijke auteurs aanraden. Bibliotheken willen natuurlijk dat hun aanbevelingen de waarden van de bibliotheek bevorderen. Hiervoor is het belangrijk dat je eventuele bias herkent en zoveel mogelijk oplost.
Onderzoek
Op deze afbeelding zijn de algemene gebruiksvoorwaarden van KB.nl van toepassing. Foto: Michel de Gruijter.
Savvina Daniil. Foto: Michel de Gruijter.
Savvina Daniil werkte de afgelopen 4 jaar vanuit het Centrum Wiskunde & Informatica (CWI) aan het project Responsible Recommenders in the Public Library Sector. Dit project gaat over aanbevelingssystemen in openbare bibliotheken. Daniil onderzocht hoe bibliotheken waarden als inclusiviteit en pluriformiteit kunnen omzetten naar specifieke, machinaal leesbare criteria en meetwaarden. Hierdoor kunnen systemen op een verantwoordelijke manier ontwikkeld en ingezet worden. Op de website van de VU lees je het complete proefschrift.
Het project Diagnosing Bias in Library Recommender Systems (DiBiLi) is een vervolg op het onderzoek van Daniil. Het is een samenwerking tussen CWI, de online Bibliotheek en NBD Biblion I Bookarang. Het doel van dit project is de ontwikkeling van een bias-dashboard. Hiermee kunnen ontwikkelaars van algoritmes verschillende vormen van bias visualiseren en testen. Zo kunnen ongewenste effecten van bias in het eindproduct zo klein mogelijk gemaakt worden. Het DiBiLi-project loopt van maart tot december 2026.
-
Ontwerp: Dimitra Tsiamouli
Vervolgstappen
Openbare bibliotheken kunnen het onderzoek van Daniil gebruiken om gebruikersaanbevelingen te ontwikkelen. De online Bibliotheek, een dienst van de KB, zal de opgedane kennis ook gebruiken om nieuwe producten in de toekomst duurzaam in te zetten volgens kernwaarden als leesbevordering en pluriformiteit.
