Иахоо-ови вести имају пуно неукусних коментара, слично као и остатак интернета, па је Иахоо тим одлучио да користи њихов одељак за коментаре како би развио алгоритам који би могао успешно да идентификује најгоре прекршиоце. Њихова нови алгоритам за откривање злоупотребе ради у 90 процената времена, што кажу да га чини ефикаснијим од покушаја других организација да преузму сличне подвиге и описано као велики корак напред на терену. 90 посто ради звучим прилично добро, признајем.
Жичан извештава да Иахоо такође објављује прву јавно доступну курирану базу података говора мржње на мрежи као део свог пројекта за борбу против злостављања. То значи да ће друге веб локације моћи да користе Иахоо-ову базу података коментара како би дизајнирале сопствене алгоритме. Иахоо-ов алгоритам је развијен на основу машинског учења и такође на основу података о њиховим одељцима са коментарима које су пријавили корисници.
Најтежи део било ког алгоритма за модерирање коментара бави се лажним позитивним резултатима. Многи алгоритми за откривање злоупотребе траже одређене речи или фразе, попут псовки или уобичајених увреда, и аутоматски означавају коментаре ради модерирања. Међутим, ово резултира тиме да се коментари означе чак и ако се позивају на непристојне речи у контексту изјаве да то није прикладно, на пример, или ако је коментар саркастична имитација трола. Иахоо-ов алгоритам очигледно може да открије одређене обрасце говора и направљен је тако да може да разликује разлику између шаљивог сарказма и стварне злоупотребе. (Наравно, ако се ваш урнебесни коментар не разликује од стварне злоупотребе, прилично сам сигуран да ће га алгоритам и даље означавати, али не могу са сигурношћу да кажем како тај део АИ функционише.)
Иахоо је ангажовао обучене модераторе коментара како би помогли усавршавању алгоритма, а такође су платили неке необучене модераторе и открили су да су обучени модератори много боље схватили који су коментари прикладни (врста нимало паметног, али хеј). Током стварања АИ, Иахоо је открио да је рад ових обучених људских модератора био пресудан за одржавање ефикасности алгоритма и усавршавање његових техника откривања.
Наравно, алгоритми и даље имају пристрасности , што би захтевало (надам се разноврстан) тим људских модератора да настави понављати методологије коришћене за класификацију коментара. Звучи као тежак посао, али барем Иахоо сада схвата важност тренинга и вреднује улоге својих добро обучених људских модератора и свог новог колеге из АИ.
Самус је открио да је женско
(путем Следећи веб , слика преко Мицхаел Цордедда / Флицкр )
