„Партнери Србија“, невладина организација со седиште во Белград, која работи на иницијативи за борба против корупцијата, развојот на демократијата и владеењето на правото, повеќе од девет години била активна на Твитер, кога, во ноември 2020 година, оваа социјална мрежа ѝ го суспендирала профилот.
Твитер не дал никакво известување или образложение за суспензијата, но Ана Тоскиќ Цветиновиќ, извршен директор на „Партнери Србија“, претпоставува дека тоа е резултат на „координиран напад“, веројатно од страна на други корисници на Твитер, кои поднеле поплаки за тоа како оваа организација го користи својот профил.
„Со денови се обидувавме да добиеме барем некои информации од Твитер, за тоа што може да биде причината и како да се реши проблемот, но не добивме никаков одговор“, вели Тоскиќ Цветиновиќ за БИРН. „По едномесечен молк, сфативме дека единствената опција е да отвориме нов профил“.
Твитер, во јануари, повторно без образложение, им ја укинал суспензијата. „Партнери Србија“ е само една од бројните невладини и медиумски организации, но и јавни личности на Балканот, на кои профилот на социјалните мрежи им бил суспендиран, без соодветно или какво било објаснување, покажува мониторингот за кршењето на дигиталните права и слободи во регионот, што го спроведе БИРН.
Експертите велат дека недостигот од транспарентност е значаен проблем за тие што ги користат социјалните мрежи како витален канал за комуникација, особено поради тоа што немаат сознанија што може да се направи за, во иднина, да се спречат ваквите суспензии.
Но, додека организации како што е „Партнери Србија“ можат да се соочат со произволна суспензија на нивниот профил, половина од објавите на Фејсбук и Твитер што се пријавени како говор на омраза, заканување со насилство или вознемирување, на босански, српски, црногорски или на македонски јазик, според истражувањето на БИРН, не се избришани, и покрај потврдата од мрежите дека со тие објави се прекршени нивните правила.
Истражувањето покажува дека алатките што социјалните мрежи ги користат за да ги заштитат воспоставените правила се неуспешни: објави и профили што ги кршат правилата, често остануваат достапни дури и кога непочитувањето на правилата е потврдено, додека други, кои ги почитуваат тие правила, може да бидат суспендирани без јасна причина.
БИРН дојде до заклучок дека:
- Речиси половина од пријавите до Фејсбук и до Твитер, кои се однесуваат на содржина на босански, српски, црногорски или на македонски јазик, се однесуваат на говор на омраза.
- Една од две објави пријавени како говор на омраза, заканување со насилство или вознемирување, на босански, српски, црногорски или на македонски јазик, останува и натаму присутна онлајн. Кога станува збор за пријавување на заканување со насилство, содржината била отстранета во 60 отсто од случаите, а 50 отсто во случаите на насочено вознемирување.
- Фејсбук и Твитер, при прегледот на ваквите пријави, користат хибриден модел, комбинација на вештачка интелигенција и човечка проценка, но одбија да откријат колку од овие пријави се прегледани од лице што го знае босанскиот, српскиот, црногорскиот или македонскиот јазик.
- И двете социјални мрежи усвојуваат „проактивен пристап“, што значи дека тие отстрануваат содржини или суспендираат профили, дури и без пријава за сомнително однесување, но критериумите што притоа се употребуваат не се ниту јасни, ниту доволно транспарентни.
- Анкетата покажа дека луѓето се поподготвени да пријават содржина насочена кон нив или кон малцински групи.
Експертите велат дека, кога станува збор за начинот на кој социјалните мрежи ги проценуваат пријавите, можеби најголем проблем е недостигот од транспарентност.
Самата проценка, првично, се прави врз основа на алгоритам, а подоцна, доколку е потребно, во проценката се вклучува и човек. Но, истражувањето на БИРН покажува дека работите се заплеткуваат, кога станува збор за јазиците на Балканот, токму поради специфичноста на јазикот и контекстот.
Разликувањето остра критика од клевета или радикални политички мислења од изрази на омраза и расизам или поттикнување насилство, бара контекстуална и нијансирана анализа.
Половина од објавите што содржат говор на омраза остануваат онлајн
Автор: Игор Вујичиќ
Фејсбук и Твитер се едни од најпопуларните социјални мрежи на Балканот. Обемот на нивната популарност е демонстриран во извештајот за 2020 година на „ДатаРепортал“, онлајн-платформа, која анализира како светот го користи интернетот.
Во јануари, бројот на корисниците на социјалните мрежи во Србија изнесувал околу 3 милиони и 700 илјади, во Северна Македонија милион и сто илјади, во Црна Гора 390 илјади, а во Босна и Херцеговина милион и 700 илјади корисници.
Во сите четири земји, Фејсбук е најпопуларната мрежа, со околу три милиони корисници во Србија, 970 илјади во Северна Македонија, 300 илјади во Црна Гора и милион и 400 илјади во Босна и Херцеговина.
Ваквите бројки ги прават балканските земји привлечни за нудење реклами, но и за ширење политички пораки, што ја отвора вратата за појава на кршење на правилата.
Дебатата за придобивките и опасностите од користењето на социјалните мрежи за општествата од 21 век е позната.
Во однос на насилната содржина, покрај употребата на вештачка интелигенција (ВИ), социјалните мрежи се обидуваат и на корисниците да им дадат средства да реагираат, главно, со пријавување неправилности до администраторите на мрежите.
Постојат три вида филтри – рачно филтрирање од страна на луѓе; автоматско филтрирање со алгоритамски алатки и хибридно филтрирање, кое се врши со комбинација на луѓе и автоматизирани алатки.
Во случаите кога постои несигурност, пред да се донесат одлуки за суспензија или доколку некој корисник има забелешки поради автоматизирано отстранување, објавите или профилите ги прегледува човек.
„Денес, ние првенствено се потпираме на ВИ за откривање на кршењето на правилата за содржината на Фејсбук и на Инстаграм, за да може во некои случаи автоматизирано да се преземат активности“, вели за БИРН, портпаролот на Фејсбук. „Ние користиме прегледувачи на содржини за проверка и означување специфична содржина, особено кога технологијата е помалку ефикасна, во смисла на контекстот, намерата или мотивацијата“.
Од Твитер, за БИРН, изјавија дека ја зголемуваат употребата на машинско учење и автоматизација, за спроведување на правилата.
„Денес, со употреба на технологијата, повеќе од 50 проценти од навредливите содржини што се појавуваат на нашиот сервис, проактивно се прегледуваат од човечки фактор, наместо да се потпираме на пријави од корисниците на Твитер“, нагласува портпаролот на оваа мрежа.
„Имаме силни и посветени тимови на специјалисти што обезбедуваат 24/7 глобално покривање на повеќе различни јазици и градиме повеќе капацитет за решавање на сè покомплексните прашања“.
Со цел да се провери колку се ефикасни тие механизми, кога станува збор за содржината на јазиците што се говорат во балканските земји, БИРН спроведе истражување што се фокусира на пријавите на Фејсбук и на Твитер, кои се поделени во три категории: заканување со насилство (директно или индиректно), вознемирување и ширење омраза.
Во истражувањето, прашањата беа за јазикот на спорната содржина, кој бил целта, а кој авторот на таквата содржина, и дали пријавата била успешна или не.
Над 48 проценти од испитаниците пријавиле говор на омраза, околу 20 проценти пријавиле насочено вознемирување, а околу 17 проценти пријавиле закана со насилство.
Истражувањето покажа дека луѓето се поподготвени да пријават содржина насочена кон нив или кон малцинските групи.
Според анкетата, 43 отсто од содржината пријавена како говор на омраза и натаму останала објавена, додека во 57 отсто од случаите била отстранета. Кога станува збор за пријавите на заканување со насилство, содржината била отстранета во 60 отсто од случаите.
Приближно половина од пријавите за насочено вознемирување резултирале со отстранување на содржината.
Клои Бертелеми, советничка во организацијата Европски дигитални права (ЕДП), која работи на унапредување на дигиталните права, вели дека реалните последици од занемарувањето можат да бидат погубни.
„На пример, во случаите на сексуална злоупотреба базирана на слика (често погрешно наречена „порно одмазда“), мнозинството жртви се жени и тие, како резултат на тие напади, трпат општествено исклучување“, вели Бертелеми во писмениот одговор до БИРН. „На пример, тие можат да бидат дискриминирани на пазарот на трудот, бидејќи работодавачот ја пребарува нивната репутација на интернет“.
Отстранување содржина – цензура или корективно дејствување?
Графикон: БИРН/Игор Вујичиќ
Според одговорите на прашалникот на БИРН, околу 57 проценти од тие што пријавиле говор на омраза, биле известени дека пријавената објава/профил, ги прекршиле правилата.
Од друга страна, околу 28 проценти изјавија дека добиле известување оти содржината што ја пријавиле не ги крши правилата, додека 14 проценти добиле само потврда дека нивната пријава е примена.
Во однос на пријавите за насочено вознемирување, половина од испитаниците изјавија дека добиле потврда оти содржината ги крши правилата, на 16 проценти им било кажано дека содржината не ги крши правилата, а третина од тие што пријавиле насочено вознемирување, само добиле потврда дека нивната пријава е примена.
Што се однесува до заканите со насилство, 40 проценти од испитаниците добиле потврда дека пријавената објава/профил ги прекршила правилата, додека 60 проценти само добиле потврда дека нивната пријава е примена.
Методологијата на БИРН
БИРН го спроведе својот прашалник преку мрежната алатка за вклучување на граѓаните во известувањето, изработена во соработка со Британскиот совет.
Анонимниот прашалник имаше за цел да собере информации за тоа каков вид кршења луѓето пријавуваат, кој бил целта и колку пријавувањето било успешно. Прашањата беа достапни на англиски, македонски, албански и на босански/српски/црногорски јазик. БИРН се фокусираше на Фејсбук и на Твитер, со оглед на нивната популарност на Балканот и чувствителноста на споделената содржина, главно текстуална и потешка за проценка, во споредба со видеата и фотографиите.
Еден од испитаниците, за БИРН, изјави дека пријавил најмалку седум профили за ширење на омраза и за насилна содржина.
„Јас не се занимавам активно со таквите пријави, ниту, пак, ги барам и пребарувам. Меѓутоа, кога наидов на еден од оние полни со омраза негирачи и поддржувачи на геноцидот, се чинеше дека вистинската работа е да се запре таквата содржина да не оди понатаму“, вели овој испитаник, барајќи да остане анонимен. „Можеби едно од сите пријавени лица ќе застане и ќе се праша што довело до тоа и едноставно ќе отвори дискусија, со себе или во своите кругови“.
Иако за тие седум објави Твитер потврдил дека прекршиле дел од правилата, шест од нив сѐ уште се достапни онлајн.
Друго прашање што се наметнува се нејасните критериуми за пријавување на кршење на правилата. Потребно е и основно познавање на англискиот јазик.
Сањана Хатотува, основач на „Groundviews“, прва веб-страница за граѓанско новинарство во Шри Ланка и истражувач на новата медиумска писменост, веб-активизмот, дигиталната безбедност и застапувањето преку интернет, се согласува дека процесот на пријавување на кршење на правилата, преку апликација или на веб-страница, е збунувачки.
„Покрај тоа, тоа е често на англиски јазик, иако останатиот дел на UI/UX (корисничкиот интерфејс/корисничкото искуство) може да биде на локален јазик. Понатаму, макотрпниот избор на категории, за жртвата, не е лесен – особено под притисок“.
Од Фејсбук, за БИРН, велат оти поголемиот дел од пријавите ги разгледуваат во рок од 24 часа и дека компанијата ги користи пристапите – пријавување од корисниците, преглед од страна на луѓе и автоматизација.
Сепак, од таму не дадоа специфики за тие што се вработени да ги прегледуваат содржините или пријавите на објавите на балканските јазици, велејќи дека „нема да биде прецизно, да се даде само бројот на тие што ги прегледуваат содржините“.
„Самото тоа не го одразува бројот на луѓето што работат на прегледување на содржината од одредена земја, во одредено време“, одговори портпаролот на оваа мрежа.
Социјалните мрежи честопати самите ја отстрануваат содржината, во рамките на, како што велат, нивниот „проактивен пристап“.
Според податоците обезбедени од Фејсбук, во последниот квартал на 2017 година, нивната стапка на детектирање низ проактивен пристап била 23,6 проценти.
„Тоа значи дека од говорот на омраза што го отстранивме, 23,6 проценти објави беа пронајдени пред корисниците да ни го пријават тоа“, вели портпаролот на Фејсбук. „Останатиот дел беше отстранет по пријава на корисниците. Денес, околу 95 проценти од содржините што ги отстрануваме, а кои содржат говор на омраза, ги детектираме низ проактивен пристап“.
„Без разлика дали содржината е детектирана низ проактивен пристап или е пријавена од корисници, ние честопати користиме и АИ во преземањето активности во однос на едноставните случаи, а во посложените случаи, каде што треба да се разгледа контекстот, приоритет им даваме на вработените што вршат преглед на содржината“.
Сепак, нема достапни податоци, кога станува збор за содржината на одреден јазик или одредена земја.
Фејсбук, на квартална основа, објавува Извештај за спроведување на стандардите на заедницата, но, според портпаролот, оваа мрежа „не открива податоци во врска со модерацијата на содржината во одредени земји“.
Без оглед на алатките, резултатите понекогаш се многу дискутабилни.
Во мај 2018 година, Фејсбук, 24 часа, го блокираше профилот на босанскиот новинар Драган Бурсач, откако тој објави фотографија од логор во Србија, во кој биле затворени Бошњаци, за време на распадот на Југославија во 1990-тите.
Фејсбук утврди дека објавата на Бурсач ги нарушила „стандардите на заедницата“, објавија локалните медиуми.
Бојан Кордалов, специјалист за односи со јавност и нови медиуми од Скопје, вели дека, „при проценка на ефикасноста во оваа област, важно е да се нагласи дека сообраќајот во онлајн-просторот е многу густ и оти се зголемува секоја секунда, што недвосмислено го прави поле, каде што секој треба да придонесе“.
„Тоа значи дека менаџментот на социјалните мрежи е неспорно одговорен за исполнување на стандардите и усогласеност со регулативите на нивните платформи, но тоа не ги ослободува законодавците, владите и институциите од одговорност за прилагодување кон потребите на новата дигитална ера, ниту, пак, дава некому право на редефинирање и стеснување на концептот и придобивките што ги носи демократијата“.
Недостиг од сензибилитет за јазикот
Илустрација: Unsplash/The Average Tech Guy
Од Фондацијата SHARE, невладина организација со седиште во Белград, која работи на дигиталните права, велат дека ова прашање е клучно, со оглед на огромниот обем на содржина, која на сите јазици се провлекува низ мрежите како што се Фејсбук и Твитер.
„Кога станува збор за релативно мали јазични групи со апсолутен број корисници, како што се јазиците во земјите од поранешна Југославија, па дури и на Балканот, едноставно нема поттик или доволен притисок од јавноста и од политичките лидери, да се инвестира во човечка модерација“, велат од Фондацијата SHARE за БИРН.
Бертелеми нагласува дека Балканот не е единствен пример и дека практиките и политиките за модерација на содржината на Фејсбук и на Твитер се „осудени на неуспех“.
„Многу од овие корпорации работат на масовно ниво, некои од нив, со една услуга, опслужуваат до една четвртина од светската популација“, изјави Бертелеми за БИРН. „Невозможно е таквата монолитна архитектура и процесот на регулирање на говорот и политиката, да ги сместат и задоволат специфичните културни и општествени потреби на поединците и групите“.
Европскиот парламент, исто така, ја истакна важноста на комбинираната проценка.
„Изразувањето омраза може да се пренесе на многу начини, а истите зборови што обично се користат за да се пренесат таквите изрази, исто така, може да се користат за различни цели“, се вели во студијата од 2020 година, „Влијанието на алгоритмите за филтрирање или модерирање на онлајн-содржини“, што ја нарача парламентарниот оддел за политика за правата на граѓаните и уставните работи.
„На пример, такви зборови можат да се користат за осуда на насилство, неправда или дискриминација против целни групи, или само за опишување на нивните општествени околности. Така, за да се идентификува содржината што шири омраза во текстуалните пораки, мора да се направи обид да се сфати значењето на таквите пораки, користејќи ги ресурсите обезбедени од обработката на природниот јазик“.
Хатотува вели дека, генерално, „за пазарите од неанглиско говорно подрачје и со писмо што не е латинично, е многу потешко да се дизајнираат решенија за ВИ/МЛ (машинско учење)“.
„И во многу случаи, овие пазари се далеку од очите и далеку од вниманието, освен ако насилството, злоупотребата или штетата, се толку значајни, за да се најдат на насловната страница на Њујорк тајмс“, истакнува Хатотува за БИРН.
„За проценка се неопходни луѓе, но, како што знаете, постојат сериозни емоционални прашања, поврзани со надзорот на насилната содржина, за кои компании како Фејсбук беа тужени (и изгубија, па мораа да плаќаат отштета)“.
Без успех, кога не се работи за англискиот јазик
Илустрација: Unsplash/Ann Ann
Драган Вујановиќ од невладината организација „Ваши права“, со седиште во Сараево, го критикуваше, како што рече, „одреденото ниво на толеранција, во однос на кршењата што поддржуваат одредени општествени наративи“.
Машинско учење
Како што стои во студијата од 2020 година, нарачана од Европскиот парламент, Фејсбук разви пристап за машинско учење наречен Whole Post Integrity Embeddings (WPIE), за да се справи со содржините што ги кршат упатствата на Фејсбук.
Системот се осврнува на мултимедијалната содржина, преку обезбедување холистичка анализа на визуелната и текстуалната содржина на постот и сродните коментари, низ сите димензии на несоодветност (насилство, омраза, голотија, дрога итн.). Мрежата тврди дека автоматизираните алатки ја подобриле имплементацијата на упатствата за содржината на Фејсбук. На пример, околу 4.400.000 милиони објави, со содржина за продажба на дрога, беа отстранети само во третиот квартал од 2019 година, од кои 97,6 проценти беа откриени низ проактивниот пристап.
Кога станува збор за начините на кои социјалните мрежи се справуваат со сомнителната содржина, Хатотува вели дека „контекстот е клучен“.
Признавајќи го напредокот направен во изминатите две до три години, Хатотува додава дека, „нема ВИ и МУ за кои знам, дури и во контекст на англискиот јазик, кои можат прецизно да го идентификуваат значењето на сликата“.
„Што се однесува до содржината што предизвикува омраза, повреда и штета“, истакнува таа, „тоа е уште поголем предизвик“.
„Ова е особено евидентно oд неконзистентното однесување на модераторите на социјалните мрежи, каде што профилите со прилично безопасни коментари се забрануваат или се суспендираат, додека други профили, со отворена злоупотреба и јасно негативно општествено влијание, се толерираат“.
За Клои Бертелеми, обидот да се примени униформен пакет правила за доста разновидниот опсег на норми, вредности и мислења, за сите достапни теми што постојат во светот, е „однапред осуден на неуспех“.
„На пример, ако голотијата се смета за чувствителна тема во САД, некои други култури заземаат полиберален пристап“, истакнува таа.
Примерот на Мјанмар, кога Фејсбук ефективно блокираше цел јазик, со одбивање на сите пораки напишани на јазикот Џингпо, кој го зборуваат припадниците на малцинството Качин во Мјанмар и во кој се користи латиничното писмо, ја покажува големината на проблемот.
„Платформата работи многу слабо при откривањето говор на омраза на неанглиски јазик“, вели Бертелеми за БИРН.
Според студијата направена за Европскиот парламент во 2020 година, техниките што се користат за филтрирање на содржината, се разликуваат, во зависност од анализираните медиуми.
„Филтерот може да работи на различни нивоа на комплексност, почнувајќи од едноставна споредба на содржината со црната листа, до пософистицирани техники што користат покомплексни техники на ВИ“, се вели во него.
„Во приодите за машинско учење, системот, наместо да биде обезбеден со логичка дефиниција за критериумите што треба да се користат за наоѓање и класифицирање на содржината (на пр. за да се утврди што се смета за говор на омраза, клевета и сл.) е обезбеден со огромна група податоци, од кои мора самостојно да ги научи критериумите за правење таква класификација“.
Корисниците на Твитер и на Фејсбук можат да поднесат жалба во случај нивните сметки да бидат суспендирани или блокирани.
„За жал, на процесот му недостасува транспарентност, бидејќи бројот на поднесени поплаки не е спомнат во извештајот за транспарентноста, ниту е спомнат бројот на обработени или вратени профили или твитови“, се истакнува во студијата.
Помеѓу јануари и октомври 2020 година, Фејсбук врати околу 50.000 содржини без поднесена поплака и 613.000 по поднесена поплака.
Според извештајот на Твитер транспаренси, во првите шест месеци од 2020 година, 12.400.000 профили биле пријавени во компанијата, од кои нешто повеќе од 6.000.000 биле пријавени поради ширење омраза и околу 5.100.000 за „злоставување/вознемирување“.
Во истиот период, Твитер суспендирал 925.744 профили, од кои 127.954 поради ширење на омраза и 72.139 поради злоставување/вознемирување. Мрежата отстранила таква содржина во нешто повеќе од 1.900.000 случаи, 955.212 поради ширење омраза и 609.253 поради злоставување/вознемирување.
Тоскиќ Цветиновиќ вели дека правилата треба да бидат појасни, а комуникацијата со корисниците повеќе да биде практикувана од „живи луѓе“.
„Честопати, отстранувањето на содржината нема корективна функција, туку има значење на цензура“, нагласува таа.
Бертелеми наведува дека „бидејќи доминантните платформи на социјалните мрежи ги репродуцираат општествените системи на опресија, тие честопати не се безбедни за многу маргинални групи“.
„Тие не се во состојба да го разберат дискриминирачкото и насилно однесување на интернет, вклучително и одредени форми на вознемирување и заканување со насилство и затоа не можат да ги решат потребите на жртвите“, додава Бертелеми за БИРН.
„Дополнително“, вели таа, „тие социјални медиумски мрежи се воедно и рекламни компании. Тие се потпираат на потпалувачка содржина, за да генерираат податоци за профилирање, а со тоа и профит од реклами. Нема да има ефективен, систематски одговор, без решавање на деловните модели на акумулирање и размена на лични податоци“.
