Roboter kan spore jødehat

Israelske myndigheter overvåker antisemittiske ytringer på sosiale medier med dataroboter. Dette kommer fram i studien «Før maskinlæringsprogrammer ble innført, hadde Israels utenriksdepartement 26 ansatte som fulgte med på sosiale medier. Nå har de tre ansatte som benytter maskinlæringsprogrammer til å gjøre samme oppgave,» bemerker den.

Må lære opp programmene

Slike programmer krever imidlertid omfattende opplæring. Forfatterne bak rapporten har snakket med en medarbeider i det israelske utenriksdepartementet, som anslår at det trengs hele 10.000 twittermeldinger som utvalg som programmet skal få trene seg på. Det er en jobb som tar et par måneder, men som til gjengjeld gjør at programmet treffer riktig på antisemittiske ytringer i ni av ti tilfeller. I tillegg til slik programvare bruker Israel ikke-statlige organisasjoner og andre grupper for å holde øye med slike ytringer.

LES MER: Blander kristendom i jødehat

Tre parenteser

Rapporten peker også på en rekke utfordringer med slik programvare. Bruken av ironi, symbolikk og kodespråk er utstrakt i antisemittiske ytringer på nettet. I 2016 ble det for eksempel kjent at nettsteder på ytre høyre brukte trippel parentes for å markere personer og organisasjoner med jødisk bakgrunn eller tilknytning, noe som ofte ikke blir plukket opp av søkemotorer.

I tillegg kommer flere etiske spørsmål som rapportens forfattere ikke ønsker å gi et direkte svar på, blant annet når det gjelder ytringsfrihet og samarbeid med store organisasjoner som Facebook.

Testet selv programmer

Forfatterne bak rapporten testet selv et maskinlæringsprogram som skulle kunne sile ut antisemittiske meldinger på norsk. Den fant til slutt 230.000 meldinger på en rekke nettsteder – ikke alle disse kan klassifiseres som antisemittiske, men de fikk treff på et eller flere av en lang rekke søkeord. Uttrykkene programmet ble trent til å søke på inkluderte «(((liberale globalister)))» og «holohoax».