AI en diversiteit & inclusie: vertrouw niet blind op technologie   

Voor de culturele sector is AI (artificiële intelligentie) niet alleen een handig hulpmiddel. De sector moet ook kritisch blijven reflecteren op de beperkingen ervan. Dat was een van de conclusies tijdens het online vakimpuls van Logeion over het thema AI en Diversiteit & Inclusie door Sirous Kavehercy. Voor de inzet van AI is een combinatie van menselijke intuïtie, diversiteit in besluitvorming en technische transparantie nodig.

Door: Wytse Pyt de Jager

De grootste valkuil? Automation bias verwijst naar de neiging van mensen om te vertrouwen op geautomatiseerde systemen, zoals kunstmatige intelligentie (AI), zelfs als die systemen fouten maken. Dit vertrouwen kan leiden tot een verminderd kritisch denkvermogen en kan ervoor zorgen dat mensen automatisch aannemen dat een technologie correct en betrouwbaar is, zonder het resultaat voldoende te controleren of ter discussie te stellen. Door automation bias actief te erkennen en tegen te gaan, kan de culturele sector AI op een ethische en impactvolle manier integreren, zonder haar kernwaarden – creativiteit, inclusiviteit en kritisch denken – te verliezen.

Met concrete voorbeelden en praktische handvatten liet Sirous zien hoe belangrijk het is om diversiteit en inclusie vanaf het begin in AI-processen te verankeren. Historische datasets waarop AI wordt getraind, kunnen bestaande vooroordelen versterken, zoals gender- of raciale ongelijkheden. Dit geldt ook voor automation bias: een overmatig vertrouwen op AI kan leiden tot subtiele maar significante uitsluitingen in de culturele sector, bijvoorbeeld bij: 

– Creatieve besluitvorming
AI-tools kunnen suggesties doen voor het programmeren van evenementen of tentoonstellingen. Maar als die suggesties uitsluitend gebaseerd zijn op algoritmische analyses, kunnen minderheidsstemmen en niche-kunstvormen worden gemarginaliseerd.

– Publieksanalyse
AI-modellen analyseren bezoekersgedrag en doen aanbevelingen op basis van wat ‘populair’ is. Dit kan zorgen voor een eenzijdige programmering, die voorbijgaat aan de behoefte van diverse publieksgroepen.

– Inclusieve representatie
Het document stelt dat AI-systemen geneigd zijn bestaande beelden te reproduceren. Zo kunnen algoritmes traditionele rolpatronen en stereotype beelden versterken, bijvoorbeeld in beeldvorming rond ‘de ideale bezoeker’ of ‘de typische kunstenaar’.

Drie tips op hoofdlijnen:  
Om inclusieve principes te verankeren en om automation bias tegen te gaan, geeft Kavehercyde volgende tips mee bij de inzet van AI bij diversiteit en inclusie: