Во 2020 година, Адријана Петковиќ направила обично селфи во нејзината бања, во малиот град Књажевац, во источна Србија. Четири години подоцна, оваа фотографија стигнала до нејзиниот сопруг од колега на работа, кој, пак, ја добил од друг колега. На фотографијата, Петковиќ била „соблечена“ од АI (artificial intelligence/вештачка интелигенција), со што почнал нејзиниот кошмар.
„Јас сум мајка на две мали деца. Имам семејство, родители, стабилен и мирен живот. Ова беше огромен шок за нас“, изјави за БИРН, 25-годишната Петковиќ.
„Им се јавивме на сите што можеле да дојдат во контакт со сликата, а последната информација што ја добивме беше дека некој ја објавил во група на Телеграм, насловена „Књажевац – Бор“. Луѓето ја преземале оттаму и си ја испраќале меѓусебе.“
Петковиќ поднела пријава во полиција, но не добила одговор две недели. На крајот, полицијата ѝ кажала дека ќе пратат предупредување до администраторот на групата Телеграм, „но дека не можат ништо повеќе да направат, затоа што не ме уценуваат со сликата, туку само се споделува во групи и по пораки“, се присетува Петковиќ.
Полицискиот службеник тогаш ѝ рекол: „Ти не си прва и нема да бидеш последна“.
Петковиќ се надевала дека ќе го идентификуваат авторот на таканаречената „deepfake“ фотографија и дека таа ќе може да поднесе тужба. Одговорот на полицијата емотивно ја уништил.
„Бев шокирана што на тоа се гледа како на најнормална работа што ја прават луѓето и што не можете да направите апсолутно ништо против тоа. Немате поддршка од полицијата“.
„Deepfake“ порнографија е дигитална форма на сексуална злоупотреба, во која фотографии или видеа на една личност се манипулираат со алатки што користат вештачка интелигенција, со цел да се направат сексуално експлицитни содржини. Главни жртви се жените.
Според наодите од истрагата на БИРН, Телеграм моментално хостира десетици страници и ботови преку кои секој може да користи вештачка интелигенција за да ги „соблече“ фотографиите со само неколку клика.
Во период од еден месец, БИРН тестираше дел од јавнодостапните ботови споделени во популарните групи на Телеграм на Балканот. За некои мора да се плати, додека други нудат бесплатни проби. Сите се лесни за употреба.
„Последиците се исти како кога се објавува вистинска, необработена, сексуално експлицитна фотографија на жена или девојка“, рече Вања Мацановиќ, адвокатка во Автономниот женски центар во Белград, кој обезбедува правна и ментално-здравствена поддршка на жртвите од родово засновано насилство.
„Може да биде уште полошо бидејќи самата жртва знае дека не била така фотографирана, но не може да докаже дека личноста на сликата не е таа. Секој што ја гледа фотографијата, автоматски ќе мисли дека е, всушност, таа“.
И во Србија, каде што оваа практика сама по себе не е експлицитно забранета, сè што луѓето како Петковиќ можат да направат, е да поднесат приватна тужба доколку успеат да откријат кој ја создал сликата.
Србија треба да преземе мерки, предупреди Мацановиќ, или ситуацијата ќе се влошува.
„Вака сторителите, како и платформите преку кои се вршат злосторствата во Србија, остануваат неказнети“, изјави адвокатката за БИРН. Доколку Србија не го измени Кривичниот законик, рече таа, „ќе има сè повеќе вакви случаи, и тоа ќе стане доминантна форма на врсничко насилство врз девојчињата, како и насилство врз жените од страна на поранешните партнери“.
Насилниците остануваат неказнети
Проблемот со „deepfake порнографија“ не е ограничен само на Србија. Во мај, полицијата во Косово уапси седум лица под сомнение дека администрирале и споделувале содржини во телеграм-група наречена „Албкингс“, каде што повеќе од 100.000 членови споделувале деградирачки видеа, „deepfake“ слики и лични информации.
Во Хрватска, „злоупотребата на сексуално експлицитна содржина“ беше воведена во Кривичниот законик во 2021 година. Лани, Црна Гора воведе посебно кривично дело со кое злоупотреба на туѓа снимка, фотографија, портрет, аудиоснимка или фајл со сексуално експлицитна содржина се казнува со затвор од шест месеци до две години. Во Србија не постои ваков сличен закон.
Леснотијата со која обична фотографија може да се претвори во сексуално експлицитна содржина е длабоко вознемирувачка.
Злоупотребената фотографија на Тржан | Фото: Скриншот/Телеграм
На 8 март, Меѓународниот ден на жената, „Џони“, администратор или сопственик на неколку чет-групи на Телеграм, познати по тоа што споделуваат содржини, чија цел е сексуална злоупотреба, сподели две фотографии од популарната српска пејачка Гоца Тржан, во групата наречена „Балканско порно“, која има повеќе од 70.000 членови.
На првата фотографија, која Тржан ја објави на својот инстаграм-профил во 2020 година, пејачката е дома и носи сива маица. Тржан, во објавата со фотографијата им раскажува на половина милион инстаграм-следбеници за предизвиците што таа ги искусила со зачнување ин витро. Џони потоа сподели нова верзија на фотографијата, на која Тржан изгледа целосно гола.
Истиот ден, Џони сподели навидум безопасна фотографија во истата група на Телеграм, на која е неидентификувана жена со темна коса во розова летна кошула, која седи во кафуле во црногорскиот туристички град Будва. Неколку моменти подоцна, тој сподели втора слика на која истата жена, на истото место, е целосно гола.
Тржан за БИРН изјави дека мажите одговорни за објавувањето лажни експлицитни фотографии на интернет не можат да ја повредат „бидејќи јас сум јавна личност и имам поминато низ сè“.
Но, додаде таа, „тие навистина можат да повредат некои анонимни жени и да им го загорчат животот без причина. Очигледно, тоа е нивната цел, бидејќи ако на фотографиите се појави анонимна жена, очигледно е направено злонамерно“.
„Ги прашувам дали имаат мајки, дали имаат сестри, братучетки? Дали воопшто имаат мозок?“, праша таа.
Пред повеќе од една година, БИРН известуваше за вмешаноста на Џони во дигитална сексуална злоупотреба, но, сепак, тој продолжува слободно да дејствува на Телеграм. Модераторите на апликацијата избришаа 16 групи идентификувани од БИРН заради споделување приватни фотографии и видеа на жени во Србија, но Џони и другите како него едноставно отвораат други групи.
На 8 март, во период од неколку часа, Џони сподели неколку фотографии од различни жени „соблечени“ со вештачка интелигенција.
До моментот на пишувањето на овој текст, има најмалку 20 телеграм-групи на Балканот, во кои редовно споделуваат такви слики придружени со вулгарни коментари, каде што членовите секојдневно промовираат или бараат линкови до таканаречените „ботови за соблекување жени“.
Телеграм има над 700 милиони корисници дневно. Иако главно се користи како апликација за размена на пораки, Телеграм, исто така, им овозможува на корисниците да креираат автономни програми или „ботови“, кои можат да генерираат „deepfake“ разголени фотографии. Условите и правилата на Телеграм јасно наведуваат дека платформата не треба да се користи за споделување порнографски материјал.
Телеграм не одговори на барањето за коментар на БИРН.
Но, пејачката Гоца Тржан упати силен апел до жртвите на „deepfake“ содржините, повикувајќи ги да останат силни.
„Сакам да испратам порака до жените на кои им се случува ова – апсолутно не треба да се криете, бидејќи тоа е она што [насилниците] сакаат да го постигнат, да ве натераат да се скриете, да се срамите, да се чувствувате лошо“, рече Тржан.
„Одете со крената глава, а секој што ќе ве праша за таа фотографија, избришете го од списокот со пријатели и роднини. Немате од што да се срамите“, изјави таа.
Апликации за отстранување на „непотребната облека“
Фото: БИРН
За потребите на ова истражување, БИРН тестираше некои од јавнодостапните ботови што беа споделени во популарните групи на Телеграм во Србија за да потврди колку е лесно да се создадат голи фотографии на личност без нивна согласност.
За да избегнеме генерирање фотографии од вистинска личност, БИРН создаде неколку реалистични фотографии на жени со помош на АИ во различни облеки. Овие фотографии потоа беа искористени за тестирање на бот наречен „Cloth off – Undress a girl“, кој нуди „да ви помогне да ја отстраните непотребната облека од фотографиите“.
„Чекам слика, испратете ми ја“, му бара апликацијата на корисникот.
По испраќањето на фотографијата на жена во деловен костум, генерирана со вештачка интелигенција, во рок од неколку секунди, апликацијата ви враќа фотографија на која жената е гола. Потоа, ботот испрати инструкции како да се претплатите, вклучително и потврда дека корисникот е над 18 години. Меѓутоа, ботот не бара доказ за возраста, ниту потврда за дозвола за користење оригинални фотографии.
„Корисникот, за време на регистрацијата на ClothOff, го прифаќа корисничкиот договор, кој вели дека е строго забрането да се обработуваат фотографии од луѓе без нивна дозвола, како и да се прикачуваат фотографии што може да навредат друго лице“, велат од „Cloth off“ за БИРН.
Вештачката интелигенција „ја прецртува целата фотографија со дадените параметри“, дополнуваат во изјавата, и „добиениот резултат не е оригиналната фотографија, туку само цртеж на мрежата“.
„Стотици илјади луѓе го ценат хуморот и имаат само позитивни емоции, што може да се докаже со бројни позитивни критики и десетици илјади лајкови на социјалните мрежи.“
На крајот на април, каналот „Cloth off“ имаше околу 155.000 претплатници, што значи дека барем толку луѓе се обиделе да го користат ботот. Еден месец подоцна, таа бројка се искачи на над 535.000 корисници.
На корисниците им е дозволено бесплатно да генерираат три голи слики по што мора да платат за да продолжат да го користат ботот.
Создаден во мај 2023 година, каналот „Cloth off“ редовно дава специјални понуди – 60 отсто попуст и пет бесплатни токени за Нова година, „опција со розова долна облека“ за Денот на вљубените и бесплатни токени за генерирање слики за Меѓународниот ден на жената. Најновата функција им дава на корисниците можност да изберат облека – „ученичка, учителка, полицајка, бремена“.
БИРН идентификуваше мрежа на „Cloth off“ канали и ботови на Телеграм, вклучувајќи го и „Cloth оff Channel – Deepnude App“ со над 190.000 претплатници.
Во март оваа година, „Гардијан“ го поврза „Cloth оff“ со Даша и Алаиксандр Бабичау, брат и сестра од Белорусија.
Злоупотребата на слики на славните личности е само почетокот
Фото: Freepik
Во текот на неколку месеци следење пораки во повеќе телеграм-групи во Србија и во регионот, БИРН идентификуваше десетици објави, во кои членовите бараа или споделуваа линкови до ботови за „соблекување“ фотографии.
Еден од често споделуваните ботови на Телеграм се нарекува „Ins off“ – облека од девојки, која исчезнува од фотографијата“, создадена во јануари 2023 година. Поврзаниот канал на Телеграм што се користи за промовирање на ботот има над 81.000 претплатници. Ова е ботот со кој ’Џони’ соблече неколку жени за само еден ден. Инструкциите се едноставни:
„Само испратете ги вашите фотографии на @InsOff2Bot, толку е едноставно! ????“, се тврди на страницата.
На корисниците им се даваат упатства за тоа кои фотографии даваат најдобри резултати, се вели дека се почитува приватноста и сликите не се зачувуваат на страницата. Но, нема ништо во политиките за употреба околу дозволите.
Една слика чини 1 долар, додека со 3,90 долари купувате 10 слики. Плаќањето може да се изврши со криптовалути, Пејпал и на други начини на плаќање преку интернет.
Ни Телеграм, ниту „Ins off“ не одговорија на барањата за коментар за оваа сторија.
Според истражувањето објавено во Saga Journal во декември 2022 година, над 95 отсто од „deepfake“ фотографиите и видеата се со експлицитна содржина.
Во јануари, Би-би-си објави дека експлицитна „deepfake“ фотографија на американската пејачка Тејлор Свифт била „наводно прегледана 47 милиони пати“ пред Икс, порано познат како Твитер, да ја отстрани и вети дека ќе преземе „соодветни дејствија“ против корисниците што ја споделувале фотографијата.
Но, додека социјалните медиуми дејствуваат брзо, кога станува збор за злоупотреба на познати личности, „deepfake“ содржините од луѓе како Свифт се само почетокот.
Во март, „Ins off“ објави 11 нови ботови за низа земји, вклучувајќи ги Германија, Италија, Шпанија, Франција, Израел и Јапонија, достапни на локалните јазици.
Обемот на таквите слики што се генерираат и споделуваат секој ден само на Телеграм покажува дека таквите платформи „апсолутно не прават доволно за да се справат со проблемот на ‘deepfake’ порнографија и да ги заштитат жртвите“, рече Невена Кривокапиќ-Мартиновиќ, адвокатка во Фондацијата SHARE, невладина организација за дигитални права во Србија.
„Умереноста е тежок чин за балансирање на човековите права“, рече Кривокапиќ-Мартиновиќ за БИРН, „но ако платформите не можат да го направат тоа, тие мора да им обезбедат на корисниците ефективни механизми за пријавување, за жртвите сами да можат да се изборат за своите права“.
Во меѓувреме, Петковиќ чувствува голема загуба.
„Искрено, не знам ни по кој пат можам да тргнам од тука за да го решам мојот случај и да дознаам кој ја објавил сликата во таа телеграм-група“, рече таа. Истовремено, никој од оние што ја споделиле фотографијата не ѝ се извинил.
„Тоа се луѓе што ни беа пријатели, кои биле кај нас дома, кои ги познаваат моите деца. Луѓето го гледаат тоа како шега, ми велат: ‘Што е важно? Луѓето ќе заборават.’ Но, јас не можам да заборавам“.
