Android

Sada i botovi mogu otkriti sarkazam: pomoći će u borbi protiv zlouporabe na mreži

Humans Need Not Apply

Humans Need Not Apply
Anonim

Istraživači s Massachusetts Institute of Technology (MIT), SAD, razvili su algoritam koji može otkriti sarkazam u tweetovima, naizgled bolji od većine ljudi.

Istraživači su u početku imali za cilj razviti algoritam koji može otkriti rasistički i nasilni sadržaj, ali u tom su procesu prvi razvili ovaj algoritam, jer su smatrali da je važno da stroj shvati sarkazam.

Istraživači vjeruju da je razumijevanje sarkazma prvi korak za algoritam prema boljem razumijevanju emocionalnog podteksta rečenice.

"Budući da ne možemo koristiti intonaciju u našem glasu ili govoru tijela da kontekstualiziramo ono što govorimo, emojiji su način na koji to radimo na mreži", kaže Iyad Rahwan, izvanredni profesor u laboratoriju MIT Media koji je razvio algoritam s jednim od njegovih studenti, Bjarke Felbo, rekao je za MIT Review.

Više u vijestima: Microsoft radi na Windows 10 uređaju: Podržava AR i VR Tech

"Neuronska mreža naučila je vezu između određene vrste jezika i emojija", dodao je Rahwan.

Twitter je već središte za trolove i tvrtka je pojačala napore za suzbijanje prijetnje.

Procjenjivanje stavova i ponašanja ljudi prema postovima na društvenim medijima bila je prevladavajuća praksa među oglašivačima.

Kad se u potpunosti razvije, ovaj se algoritam može pokazati elementarnim u pomaganju u sprečavanju uvredljivih / rasističkih / maltretiranja tvita i korisnika.

Algoritam koristi tehniku ​​dubokog učenja koja trenira simuliranu neuronsku mrežu za prepoznavanje i razumijevanje obrazaca koristeći velike količine podataka.

Istraživači su koristili vrlo čest način prikazivanja emocija na Internetu - emojis - kao sustav označavanja i jedan od načina obuke njihovog algoritma za prepoznavanje emocija u tweetovima.

Da bi testirali robota u stvarnom scenariju protiv ljudi, istraživači su novačili volontere putem veltercing web stranice Mechanical Turks. Algoritam je identificirao sarkastične tonove u tvitovima s 82 posto točnosti u usporedbi s ljudskim dobrovoljcima koji su identificirali sarkazam s 76 posto točnosti.

"Može biti da se uči sav različiti sleng", kaže Felbo. "Ljudi imaju vrlo zanimljive upotrebe jezika - to smo tako postavili."

Istraživači su skupili više od 55 milijardi tweetova, od kojih je 1, 2 milijarde sadržavalo emojise. Koristeći ove tweetove ugrađene u emoji, istraživači su pomogli algoritam naučiti i identificirati koji se emojisi koriste uz koji tekst - sretan, tužan, šaljiv i tako dalje.

Više u vijestima: 10 ključnih stvari koje treba znati o Rs 49, 999 vrijedi Asus Zenfone AR

Računala su iz dana u dan sve bolja u strojnom učenju i dobivaju bolji osjećaj kako ljudi razgovaraju i ponašaju se putem vađenja podataka na društvenim mrežama.

Ovaj se algoritam može upotrijebiti za suzbijanje sadržaja koji sadrže nasilje, rasizam i terorizam ne samo s Twittera, već i drugih organizacija poput Facebooka, YouTubea, Snapa i drugih koji pokušavaju svoje platforme i Internet učiniti boljim mjestom.