Key Takeaways
- ToxMod, kompanije Modulate sa sjedištem u Bostonu, tvrdi da automatski otkriva i djeluje protiv ometajućeg govora, u realnom vremenu.
- Umjesto da bude ograničen jednostavnim jezikom, ToxMod koristi mašinsko učenje da otkrije nematerijalna svojstva poput emocija, jačine zvuka i ritma.
- ToxMod je trenutno dizajniran za upotrebu sa sobama za ćaskanje u igri, ali nema razloga da ne dođe na vaš Twitch kanal.
Kompanija sa sjedištem u Bostonu koristi mašinsko učenje kako bi stvorila ono što naplaćuje kao prvu svjetsku uslugu moderiranja govora, koja može razlikovati ono što se govori i ono što znači.
ToxMod je pokušaj rješavanja paradoksa moderiranja bilo kojeg otvorenog prostora na Internetu; nema dovoljno ljudi da održe korak sa potražnjom, ali algoritmi, filteri i sistem izvještaja ne razumiju nijanse.
Sa ToxMod-ovom bazom podataka, može pratiti faktore u govoru igrača kao što su emocije i glasnoća, što mu pomaže da razlikuje trenutnu grešku i obrazac ponašanja. Nedavno je najavljena kao dodatak igri američkog fudbala 7v7 Gridiron, trenutno u Steam Early Accessu.
"Svi znaju da su uznemiravanje, govor mržnje i toksičnost u glasovnom četovanju i igrama ogroman problem. To se obično razumije", rekao je Carter Huffman, glavni tehnološki direktor i suosnivač Modulate, na Google sastanku sa Lifewire. „Mogli bismo da uzmemo karakteristike koje smo izdvajali kroz ovu raznovrsnost sistema mašinskog učenja i da ih spojimo u sistem koji je uzeo u obzir sve ovo stručno znanje koje smo učili od zajednice."
Svi pozdravljeni naši novi robotski moderatori
Modulate radi na ToxModu od prošle jeseni i uključio ga je kao jednu od tri osnovne usluge kompanije. Takođe nudi VoiceWear, maskirno sredstvo za prerušavanje glasa koje pokreće mašinsko učenje, i VoiceVibe, uslugu agregatora koja omogućava korisnicima da saznaju o čemu razgovaraju ljudi u njihovim zajednicama.
Kada je ToxMod pokrenut u chatu, može se programirati preko Modulate admin panela da poduzima niz automatskih radnji, kao što je izdavanje upozorenja, isključivanje zvuka igrača ili individualno podešavanje jačine zvuka.
Koristi sistem trijaže gdje je njegova lokalna instanca prva koja poduzima akciju, prije nego što provjeri sa Modulate serverima za potvrdu. Onda konačno eskalira do tačke u kojoj bi moglo zahtevati ljudsku intervenciju. Prolaskom kroz svaku provjeru naizmjence, koju Modulate naziva "trijažnim vratima", ideja je da ToxMod daje malom timu moderatora alate pomoću kojih može efikasno moderirati mnogo veću zajednicu.
"Tužna istina je da su svi imali to iskustvo, da su pokušali koristiti glasovni chat na bilo kojoj platformi na kojoj ste bili, i otkrili da je to, dečko, bila loša ideja", rekao je izvršni direktor Modulate Mike Pappas u video poziv sa Lifewire-om. "Moći ući i reći: 'Ovo nije Divlji zapad. Postoje pravila.' Mislim da je to zaista važno."
Razbijanje sistema
Naravno, drugo ili treće pitanje o ToxModu je kako ga razbiti.
Sa mnogim automatskim sistemima moderiranja, kao što su algoritmi koji upravljaju Twitterom, lako ih je igrati protiv ljudi koji vam se ne sviđaju. Samo masovno prijavite svoju metu s nekoliko naloga marioneta i oni će pouzdano pojesti zabranu.
"Na osnovnom nivou, ToxMod se ne mora oslanjati na te dodatne izvještaje igrača," rekao je Pappas. „Još uvijek može proizvesti čvrste procjene na koje prekršaje moramo [obratiti] pažnju. Ne morate da brinete o igračima koji pokušavaju da igraju sistem, jer zapravo nema šta da se igra.
Svi znaju da su uznemiravanje, govor mržnje i toksičnost u glasovnom razgovoru i igrama ogroman problem.
"Sve nad čim imate kontrolu kao igrač je vaš vlastiti audio", nastavio je Pappas. "Najgora stvar koju možete učiniti je da budete manje loši prema osobi, tako da vas ne označavamo kao lošeg glumca, što je, rekao bih, nešto blizu uspjeha misije."
Općenito, dakle, ideja iza ToxMod-a je aktivni pokušaj reklamacije. Mnogi igrači su u ovom trenutku iskusili neki oblik uznemiravanja od strane nasumičnih stranaca u otvorenim glasovnim kanalima, u rasponu od nasumičnih uvreda do aktivnih prijetnji. Kao rezultat toga, igrači obično izbjegavaju glasovni chat općenito, radije se odričući njegove pogodnosti u zamjenu za vlastiti mir.
"Ono što očekujemo da vidimo [loši glumci provode] mnogo manje vremena u glasovnom razgovoru prije nego što budu pronađeni i uklonjeni", rekao je Pappas."To ima više od samo linearnog uticaja. Kada svi vide glasovno ćaskanje kao sigurnije mesto, više dobrih glumaca je spremno da se vrati glasovnom ćaskanju i pokuša. Mislim da se sve može zavitlati u pozitivnom pravcu."
