Het Doel van Moqod
Ontwikkelingsexpertise bieden bij het maken van een gepersonaliseerd dashboard voor multi-platform Haatspraak Monitoring in 24 talen als een brug tussen de AI-technologie van Textgain en experts op het gebied van haatspraak op hoog niveau.
Het Europese Observatorium van Online Haat is een project dat wordt ondersteund door de Rechten, Gelijkheid en Burgerschap Programma-oproep van de Europese Commissie. Het project wordt tot leven gebracht met Textgain in de hoofdrol, in samenwerking met Dare To Be Grey, Hogeschool Utrecht en PCDS.
Het consortium moet een tweejarig onderzoek uitvoeren naar de fundamentele aard van de dynamiek van online haat, hoe haat zich manifesteert, de verbanden tussen de daders en hun invloed, en desinformatie strategieën. Het doel op lange termijn is om de community en de hoeveelheid beschikbare tools te verbreden om een totaaloplossing te creëren voor online onderzoek naar haatspraak.
MQD werd gevraagd om een belangrijke rol te spelen in de gezamenlijke ontwikkeling van een monitoringtool met behulp van de geavanceerde AI-tools van Textgain.
Meer over de oplossing
Het platform bestaat uit twee eenvoudige maar innovatieve concepten: kanalen om data te verzamelen van zowel mainstream als marginale social media platforms en vakken om die data op te slaan. Deze kunnen privé of openbaar zijn, om iemands werk te delen en de gemeenschap te laten weten wat er wordt onderzocht. Bovendien vormt de aangepaste interface, of het dashboard, een brug tussen de AI-technologie van Textgain en beoefenaars, die misschien niet de tijd of middelen hebben om kwantitatief onderzoek naar haatspraak uit te voeren.
De EOOH-monitoringtool biedt continu, diepgaand inzicht in haatzaaiende uitlatingen in de EU gedurende de hele levenscyclus van het project. Overleg met een netwerk van experts op hoog niveau en organisaties uit een breed scala aan doelgroepen zal van cruciaal belang zijn voor de ontwikkeling, het testen, de implementatie en de doorlopende rapportage van de tool. Het is gericht op verschillende doelgroepen: NGO-campagnevoerders, beleidsmakers, academici en wetshandhavers. Deze gebruikers hebben verschillende toegangsniveaus tot de gegevens, afhankelijk van hun rol.
Technische implementatie
EOOH richt zich op het ontwikkelen van een monitoringtool met behulp van geavanceerde AI die beschikbaar is in de 24 werktalen van de Europese Unie en die gegevens integreert van een breed scala aan sociale-mediaplatforms. Het project doet een beroep op de ervaring en het advies van meer dan 50 deskundigen op hoog niveau uit de hele Europese Unie om te helpen bij de ontwikkeling van dit instrument en om de praktische toepassing ervan te verankeren. De methodologie maakt gebruik van Explainable AI en big data-onderzoek.
Het project combineert verschillende aspecten van datawetenschap: frequente en betrouwbare dataverzameling, datavisualisatie en filtering, evenals community-functionaliteiten.
Wat het verzamelen van gegevens betreft, is het een uitdaging om gegevens uit veel verschillende bronnen met een verschillende mate van toegankelijkheid in één formaat te verzamelen. Desalniettemin, kunnen door deze unieke aggregatie en standaardisatie alle gegevens netjes worden verwerkt.
Textgain heeft de AHA Innovation Award ontvangen, voornamelijk voor het werk aan EOOH.
Lopende plannen
Gegevensprivacy is een ander belangrijk aandachtspunt in dit project, op twee niveaus. De eerste is op het niveau van gegevensverzameling, waarbij er moet worden gezorgd dat de eindgebruikers van het dashboard geen toegang hebben tot persoonlijke gegevens in de weergegeven berichten. Daartoe worden berichten geanonimiseerd op metadataniveau, maar ook in de tekst zelf. Het tweede niveau is onder dashboardgebruikers zelf, waar hun anonimiteit moet worden beschermd en tegelijkertijd community-functionaliteiten mogelijk moeten worden gemaakt. Het wordt dus aan hen overgelaten wat voor soort informatie ze willen tonen aan de gemeenschap. Het vinden van een balans tussen deze aspecten vereist een goede en frequente communicatie met gebruikers om hun behoeften te begrijpen.
Een andere uitdaging is het vinden van een compromis tussen het toevoegen van functionaliteiten en het eenvoudig en intuïtief houden van de interface. Dit aspect komt terug in wekelijkse bijeenkomsten en staat in het middelpunt van de belangstelling.