Yahoo-nun xəbər məqalələri, internetin qalan hissəsi kimi çox xoşagəlməz şərhlərə malikdir, buna görə Yahoo komandası, ən pis cinayətkarları uğurla müəyyənləşdirə biləcək bir alqoritm hazırlamaq üçün şərh bölməsindən istifadə etməyə qərar verdi. Onların yeni sui-istifadə alqoritmi zamanın yüzdə 90-ı işləyir, bunu digər təşkilatların oxşar uğurlar qazanmaq cəhdlərindən daha təsirli etdiyini söylədilər və bu sahədə irəliyə doğru böyük bir addım kimi xarakterizə etdilər. Yüzdə 90 edir çox yaxşı səslənirəm, etiraf edirəm.
Simli Yahoo-nun sui-istifadə ilə mübarizə layihəsi çərçivəsində onlayn nifrət nitqinin ilk açıq məlumat bazasını da yayımladığını bildirir. Bu o deməkdir ki, digər saytlar öz alqoritmlərini tərtib etmək üçün Yahoo’nun şərhlər bazasından istifadə edə biləcəklər. Yahoo’nun alqoritmi maşın öyrənməyə və həmçinin şərh bölmələri haqqında istifadəçilər tərəfindən verilən məlumatlara əsaslanaraq hazırlanmışdır.
Şərhi idarə edən hər hansı bir alqoritmin ən hiyləgər hissəsi yanlış pozitivlərlə işləməkdir. Bir çox sui-istifadəni aşkar edən alqoritmlər ləkə və ya ümumi təhqir kimi xüsusi söz və ya ifadələr axtarır və şərhləri avtomatik olaraq tənzimləmə üçün qeyd edir. Bununla belə, bu, uyğun olmadığını söyləmək kontekstində bir söyüşə istinad etsələr də, şərhlərin işarələnməsinə səbəb olur, məsələn və ya şərh trolun istehzalı bir təqlididir. Yahoo-nun alqoritmi, göründüyü kimi, müəyyən danışıq nümunələrini aşkar edə bilər və şaka istehzası ilə həqiqi istismar arasındakı fərqi ayırd edə bilmək üçün hazırlanmışdır. (Əlbətdə, şən şərhiniz həqiqi sui-istifadə ilə fərqlənmirsə, onda alqoritmin yenə də işarələyəcəyinə əminəm, amma AI-nin bu hissəsinin necə işlədiyini dəqiq deyə bilmərəm.)
Yahoo, alqoritmi mükəmməlləşdirməyə kömək etmək üçün öyrədilmiş şərh moderatorlarını cəlb etdi və bəzi öyrədilməmiş moderatorlara da pul verdilər və öyrəndikləri moderatorların hansı şərhlərin uyğun olduğunu müəyyənləşdirməkdə daha yaxşı olduqlarını tapdılar (heç bir düşüncəsizdir, amma hey). AI-nin yaradılması zamanı Yahoo bu təlim keçmiş insan moderatorlarının işinin alqoritmin effektivliyini qorumaq və aşkarlama üsullarını təkmilləşdirmək üçün vacib olduğunu tapdı.
Əlbəttə, alqoritmlər hələ də qərəzlidir , bu (ümid edirəm ki, müxtəlifdir) insan moderatorları qrupunun şərhləri təsnif etmək üçün istifadə olunan metodologiyalar üzərində təkrarlanmağa davam etməsini tələb edəcəkdir. Çətin bir işə bənzəyir, ancaq ən azından Yahoo indi həm yaxşı öyrədilmiş insan moderatorlarının, həm də yeni AI həmkarlarının təliminin və rollarının qiymətləndirilməsinin vacibliyini başa düşür.
xoşbəxt zaman cinayətləri konsept sənəti
(vasitəsilə Növbəti veb , vasitəsilə şəkil Michael Cordedda / Flickr )
