Det viser seg nemlig at voldstrusler nesten alltid inneholder ord som «jeg», «vi» eller et aggressivt ord som «drepe», «utrydde» eller for eksempel «balltre». Målet for trusselen er også gjerne med: «innvandrerne», «svina» og lignende.

Det er forsker Hugo Lewi Hammer ved Høgskolen i Oslo og Akershus som har funnet ut dette da han leste seg gjennom 25 000 setninger fra kommentarfeltene på YouTube. Av disse identifiserte han 1500 trusler eller sympatier med vold. 

Dette materialet brukte han deretter til å lære datamaskiner å oppdage nettrusler automatisk.

– Dette er et viktig arbeid blant annet fordi slike ytringer er ulovlige, både etter norsk og internasjonal lov, sier han. 

Enorme mengder tekst på kort tid

Bakgrunnen for arbeidet er at forskeren med bekymring har sett hvordan hat og diskriminering, for eksempel mot minoriteter, i økende grad har hardnet ordskiftet på nettet. 

– Det er nærmest umulig å holde oversikt over uønsket og ulovlig aktivitet ved å lese seg gjennom innholdet på internett, fastslår forsker Hugo Lewi Hammer ved Høgskolen i Oslo og Akershus (HiOA).

Han håper at metoden hans kan bety slutten på internett som friområde for hatefulle ytringer og trusler om vold.

Datamaskiner kan lete gjennom enorme mengder tekst på kort tid, hvis man lærer dem hva de skal lete etter. Det er nettopp dette Hammers metode benytter seg av.

– Kjernen i metoden ligger i å la datamaskinen lære hva slags ord og setningsstrukturer som typisk karakteriserer trusler om vold, utdyper Hammer.

Treffsikkerhet på over 90 prosent

Metoden er ikke ufeilbarlig, men på materialet fra YouTube klassifiserte metoden feil i mindre enn én av ti tilfeller. Hammer understreker likevel at metoden ikke kan erstatte menneskelig intelligens.

– Den kan både klassifisere en voldstrussel som ingen trussel, og klassifisere en harmløs setning som trussel. Men feilklassifiseringen er altså under ti prosent for begge disse feiltypene. 

Hovedhensikten, forteller forskeren, har vært å utvikle en metode som kan bistå politi, frivillige organisasjoner, moderatorer og andre som er opptatt av komme netthets til livs. Metoden kan raskt filtrere bort en svært stor andel av materialet på Internett som med stor sikkerhet ikke inneholder trusler om eller sympatier med vold.

– Dermed kan de som daglig ser etter hatefull aktivitet på Internett nøye seg med å fokusere på en langt mindre del av innholdet på Internett, noe som vil gjøre deres hverdag mye lettere, sier forskeren.

Håper på et mer gjennomsiktig nett

Så langt ser Hammers metode på setninger isolert, men forskeren mener det er et stort potensial for forbedringer og utvikling. Ved å også ta for seg annen informasjon fra kommentarfeltene og diskusjonene, som brukernavn, utvikling til diskusjoner over tid, temaet som diskuteres og lignende, kan metoden bli enda mer treffsikker.

– Sammen med kolleger på HiOA, ønsker jeg også å utvikle metoden slik at den kan oppdage andre typer hatefulle ytringer, som for eksempel rasisme, legger Hammer til.

Kombinerer man dessuten Hammers forskning med andre metoder og annen teknologi, ser forskeren for seg store muligheter. Han trekker blant annet frem web crawlere, som er dataprogrammer som automatisk beveger seg rundt på internett og samler inn relevant tekst.

– I kombinasjon med en web crawler, kan metoden potensielt oppdage nye steder på Internett med store mengder hatefulle ytringer som ellers ville være svært vanskelig å oppdage, tror Hammer.