Verslaglegging expertisesessies Representatiebias
report
Het ontwikkelen van een taalmodel brengt ethische, juridische en technische uitdagingen met zich mee. Eén van die uitdagingen is het vraagstuk hoe we om moeten gaan met (representatie)bias en hoe we dit kunnen mitigeren. Om extra inzichten op te halen, organiseerden we daarom twee bijeenkomsten voor experts op het onderwerp representatie, discriminatie, en biasmitigatie. Tijdens deze bijeenkomsten zijn we een open gesprek aangegaan over representatiebias. Middels de expertsessies wilden we extra inzicht verkrijgen in de representatie van bepaalde groepen. Daarnaast wilden we kennis vergaren op mogelijkheden voor data augmentatie, waarbij door te filteren of teksten te herschrijven, de representatie in de dataset kan worden verbeterd. In de expertsessies testen we onze aannames en onderzoeken we andere visies, uitgangspunten en methoden. Dit verslag beschrijft de discussies en inzichten die we hebben opgehaald in deze bijeenkomsten. We delen deze inzichten om transparant te zijn over de ontwikkeling van GPT-NL. Daarnaast hopen wij middels dit verslag de dialoog over taalmodellen en representatiebias te voeden. Let wel: de sessies hadden niet het doel om een kenniskloof te dichten, dit verslag presenteert geen wetenschappelijke onderzoeksresultaten.
TNO Identifier
1017505
Collation
29 p.