Пред некој ден стигнав од информацијата дека извесен лик, односно трол-профил има моја фотографија на профилна слика на Фејсбук. Всушност, кога го најдов профилот сфатив дека не станува збор за фотографија, туку скриншот од видеoто „Изолација и мастурбација“ од Meduza talks. Ликот и неговите два, тројца фанови кои се јавија на фотографијата очигледно знаат која сум и веројатно го изгледале (или погледнале видеото на Медуза), со оглед на тоа што во коментари на сликата се исмејуваа со темите на емисијата.

Во моментов, за жал, нема што многу да се направи со ваквите профили. Јас и сите мои пријатели го пријавивме профилот на Фејсбук, но сликата од мене е сè уште таму. Профилот го пријавив и Секторот за компјутерски криминал, од каде добив одговор дека не се во можност да отстрануваат и бришат профили на социјални мрежи каде што се забележани злоупотреби на лични податоци. Да бидам искрена, го пријавив ради реда, односно, за да направам некаква институционална меморија на вакво навидум безопасно вознемирување.

Оваа случка временски ми се совпадна со гледањето на овој документарец на Vox на темата Deepfakes. Ако не сте слушнале за феноменонот, тогаш би ве потсетила на ова видео каде Обама вели: President Trump is a total and complete deepshit.

За што поточно зборуваме кога зборуваме за дипфејкс?

Корените на дипфејкс се во „компјутерски генерирани слики“, односно комбинација на вештачка интелигенција и компјутерско учење со цел замена на лицето на субјектот со друг. Дипфејк технологијата скренира по интернет за достапни слики од лицето на внесениот субјект, најчесто преку социјални медиуми или други мрежи за пребарување, и е во состојба автоматски да се развива кога ќе се појават нови слики. Ова ѝ овозможува на технологијата да создава сè пореални видеа и слики.

Едноставно, „дипфејк“ претставува аудио и видео, манипулирано да изгледа и звучи како вистинска личност, користејќи различни техники, како менување на лицето, поставување израз на лицето врз лице на друга личност, или синхронизирање на движењето на усните.

Според организацијата Deeptrace, од октомври 2019 па навака има над 15, 000 дипфејк видеа онлајн и пораст од над 80% во споредба со 2018. Овој тип на видеа се сметаат за новиот бран и закана во епидемијата на лажни вести и нормално, најголемата грижа е дека ќе се користат за политчки цели, па повеќето напори кон детектирање на оваа технологија се насочени во таа насока. Сепак, мажот на интернетот реши оваа технологија доминантно да ја користи за други „повисоки“ цели: вознемирување и уценување на жени преку дипфејк порно.

Според истражувањето на Deeptrace, дури 96% од дипфејкс се со порнографска содржина, а во 100% од детектираните случаи субејктот е жена – најчесто се работи за јавни личности, но сè повеќе и за жртви на одмаздничко порно.

Дипфејкс и сексуалното насилство

Гледам барем неколку точки кои исклучително многу ме вознемируваат во врска со овој тренд, па би почнала со злоупотребата на лични податоци. Слично како што ни покажа и нашиот локален скандал „Јавна соба“, за девојките и жените станува особено ризично да споделуваат фотографии онлајн. Како да не беше доволно по сто пати да се мислиш дали е безбедно да му пратиш nude на својот љубовен партнер/ка или сексуален интерес, па вечно да се прашуваш дали таа слика можеби ќе заврши во грешни раце (телефони); сега треба и да се прашуваш дали вреди воопшто да ставиш слика од себе онлајн, кога знаеш дека си на само неколку клика од одмазничко порно.

Кога зборуваме за начинот на кој се користи оваа технологија, вреди да се задржиме на опсесијата на одземање на сексуалниот идентитет, контрола врз сопственото тело, и согласноста, од рацете на жените. Станува збор за класичен систем на дискрепанца во моќта, кога „гледачот“ и „креаторот“ се супериорни во однос на „гледаната“. Па така, жените т.е. субјектите во овие видеа се сведени на пасивни, безгласни, голи марионетки кои не располагаат со никаква можност да се одбранат од сексуално насилство, дури ни во рамките на правниот систем кој не држи темпо со новите технологии.

Креаторите, заштитниците и фановите на дипфејкс често коментираат дека не наштетуваат никому, со оглед на тоа што видеата се, како што налага и самиот назив, фејк. Меѓутоа, таквото гледање на нештата е премногу тесно и игнорантно, за еден комплексен и повеќеслоен проблем како овој, кој отвара низа етички и морални прашања и им наштетува на менталното здравје, угледот и безбедноста на жените, а неретко се користи за замолчување, заплашување и уцени. Во суштина, не е важно дали телото во видеото е твое или не, важно е дека си насилно соблечна од целата своја телесна автономија. Индиската новинарка Rana Ayyub била жртва на дипфекјс во 2018 година кога јавно барала правда за малолетна жртва на групно силување. Новинарката била вознемирувана на социјалните мрежи подолг период, кое кулминирало со дипфејк порно. Видеото станало вирално за кратко време на сите социјални мрежи, проследено со постојано сексуално вознемирување.

„Беше одвратно. Едноставно не можев да го покажам лицето во јавност. Може да се наречеш себеси новинарка, може да се наречеш феминистка, но во тој момент, едноставно не можев да го надминам тоа понижување.“ – сподели таа во едно интервју. Кратко потоа била примена во болница со срцеви проблеми и зголемена анкциозност. Ваков тип на искуство во потрадиционални средини како Индија е дополнително трауматично, но верувам дека и искуствата на Холивудските жени кои се примарни жртви на дипфејкс, се далеку од позитивни.

Од друга страна, овој тип на видеа се негативни и за порно актерките, чии тела се буквално манипулирани во овој процес. Порно актерката Ela Darling вели дека самата идеја нејзиното тело да биде „користено“ за дипфејк е пообјективирачко од било кој друг аспект од порно индустријата кој луѓето го гледаат како проблематичен, со оглед на тоа што би ја претвориле во алатказа да наштетат на друга жена.

Користењето на туѓи фотографии дури и за вакви цели многу често не е регулирано правно, а доколку е регулирано правно, не се гледа низ призмата на тоа што е: сексуално насилство, туку злоупотреба на лични податоци. Тоа прави еден вакум во легислативата, каде е прифатливо женските тела (и на порно актерките и на „посакуваните субјекти“) се користат, без никаква согласност, за нечие сексуално задоволство или пак за одмазда, понижување и наштетување.

Текстот на Калиа Димитрова во целост прочитајте го на Медуза