Články zpravodajství Yahoo obsahují spoustu nechutných komentářů, podobně jako zbytek internetu, proto se tým Yahoo rozhodl použít jejich sekci komentářů k vývoji algoritmu, který by dokázal úspěšně identifikovat ty nejhorší pachatele. Jejich nový algoritmus detekce zneužití funguje 90 procent času, což podle nich činí efektivnější než pokusy jiných organizací o podobné úspěchy a je popsáno jako hlavní krok vpřed v této oblasti. 90 procent dělá zní to celkem dobře, připouštím.
Kabelové uvádí, že Yahoo v rámci svého projektu boje proti zneužívání také vydává první veřejně dostupnou databázi online nenávistných projevů. To znamená, že jiné weby budou moci používat databázi komentářů Yahoo k navrhování vlastních algoritmů. Algoritmus Yahoo byl vyvinut na základě strojového učení a také na datech o jejich komentářích hlášených uživateli.
Nejsložitější částí každého algoritmu moderujícího komentáře je řešení falešných poplachů. Mnoho algoritmů pro zjišťování zneužití hledá konkrétní slova nebo fráze, jako jsou nadávky nebo běžné urážky, a komentáře automaticky nahlásí pro moderování. To však má za následek označení komentářů, i když například odkazují na urážku v souvislosti s tím, že to není vhodné, nebo pokud je komentář sarkastickou napodobeninou trolla. Algoritmus Yahoo zjevně dokáže detekovat určité vzorce řeči a je navržen tak, aby dokázal rozeznat rozdíl mezi vtipným sarkasmem a skutečným zneužitím. (Samozřejmě, pokud je váš veselý komentář nerozeznatelný od skutečného zneužití, pak jsem si docela jistý, že algoritmus jej bude stále označovat, ale nemohu s jistotou říci, jak tato část AI funguje.)
Yahoo přihlásil vyškolené moderátory komentářů, aby pomohli zdokonalit algoritmus, a také zaplatili některým netrénovaným moderátorům a zjistili, že vyškolení moderátoři byli mnohem lepší v tom, aby zjistili, které komentáře jsou vhodné (tak trochu ne přemýšlet, ale hej). V průběhu vytváření AI Yahoo zjistil, že práce těchto vyškolených moderátorů lidí byla nezbytná pro udržení účinnosti algoritmu a zdokonalení jeho detekčních technik.
Samozřejmě, algoritmy stále mají předsudky , což by vyžadovalo (snad různorodý) tým lidských moderátorů, aby pokračovali v iteraci metodik použitých ke klasifikaci komentářů. Zní to jako těžká práce, ale přinejmenším Yahoo nyní chápe důležitost školení a oceňování rolí jak jejich dobře vyškolených lidských moderátorů, tak jejich nového kolegy z AI.
koncept umění happytime vraždí
(přes Další web , obrázek přes Michael Cordedda / Flickr )
