Temné dôsledky technológie filtrov na výmenu tváre

2021 | Lgbtq

Minulý mesiac bola Serena Lee iba ďalšou vysokoškoláčkou z New Jersey závislou na čajovom čaji, ktorá sa rada pozerala Kancelária pri hľadaní svojho budúceho nápadníka na Tinderi.

cole a dylan manželia, keď boli malí

Ibaže v skutočnosti nebola. Lee bol v skutočnosti mužom z Princetonu, menom Sean, ktorý sa „nudil, keď sa tiesnil vo finále, a rozhodol sa, že bude sumcovať ľudí pomocou nového filtra Snapchat.“



Áno, že jeden. Ten, vďaka ktorému vyzerajú muži ako krásne ženy a ženy vyzerajú ako muži, ktorým by ste sa vyhli cez ulicu . Ten, ktorý je taký populárny veľa ľudí, ktorí opustili Snapchat, si ho znova sťahujú len aby som videl, o čom je humbuk. Filter „výmeny rodov“ spoločnosti Snapchat, ktorý vyšiel začiatkom mája tohto roku, sa rýchlo stal hitom sociálnych médií. A Lee nebol jediný, kto to okamžite použil na pózovanie na Tinderi - existuje celý trend lovu vtipov, ktorý pozostáva takmer výlučne z mužov vydávajúcich sa za ženy.



Zatiaľ čo sa na úrovni povrchu môže filter javiť ako neškodná zábava, jeho dôsledky, koncepčné aj praktické, sú hlboko znepokojujúce. Popri vytváraní tohto fenoménu lovu v reálnom živote, ktorý nám o mužoch online nič nové nehovorí, Snapchatove uplatnenie technológie zmeny tváre pozdĺž osi rodu presadzuje stereotypné predstavy o mužskom a ženskom vzhľade a vyvoláva otázky, ako by sme mali používať takúto zmenu identity (alebo skrývanie) technológie na prvom mieste.

Technológia zmeny tváre, ako napríklad filter na výmenu pohlavia Snapchatu, je založená na relatívne nedávnej GAN (generatívna kontradiktórna sieť) technológia strojového učenia, ktorá dokáže vykonávať preklad z jedného obrázka na druhý. Naproti tomu rozpoznávanie tváre, ktoré si nevyžaduje preklad medzi rôznymi obrázkami, bolo možné ešte pred vývojom sietí GAN. Jonathan Zong, doktorand v odbore interakcie človeka s počítačom na MIT, ktorého práca sa často týka etiky v inštitucionálnom a technologickom výskume, tvrdí, že technológia za Snapchatovým filtrom je niečo, čo väčšina bežných používateľov pravdepodobne detailne nepozná. Jedným z rozhodujúcich prvkov je zhromaždenie vstupu, ktorý sa vyžaduje na výstup z filtra - na prvom mieste sú tváre, ktoré boli zhromaždené na jeho vytvorenie.



zobuď ma vo vnútri zvieracieho krytu

„Údaje pochádzajú z tiel ľudí. A identita ľudí je zložitá, mnohostranná a časom sa mení. Nezodpovedajú stupniciam - na rozdiel od údajov, ktoré sú vo svojej podstate číselné. ““

„Ľudia si často myslia, že údaje sú práve tam,“ hovorí Zong. „Ale to nie je pravda. Niekto to musel pozbierať. “

Presná množina údajov, ktorá bola použitá na vytvorenie filtra, nie je momentálne verejná; výskumníci a technici boli snažia sa na to prísť sami , ale inžinieri v Snapchate boli o tom dosť prchaví.

„Údaje pochádzajú z tiel ľudí,“ pokračuje Zong. „A identity ľudí sú zložité, mnohostranné a časom sa menia. Nezodpovedajú stupniciam - na rozdiel od údajov, ktoré sú vo svojej podstate číselné. ““



Súvisiace | Ako by sme sa mali báť AI?

Lee hovorí, že jeho motivácia k vytvoreniu nového aliasu Tinder a udržiavaniu prísnej metódy swipe-every-three-guys počas štyroch dní bola väčšinou pre zábavu a odkladanie, ale aj preto, že od svojich kamarátok počul hororové príbehy o tom, čo to je byť dnes ženou v zoznamovacích aplikáciách. „Vedel som, aký hrubí môžu byť chlapi, a chcel som to zažiť na vlastnej koži ... Chcel som zavolať takých mužov. V skutočnosti som to však počul na vlastnej koži - bolo to ohavné, “povedal.

o čom je pieseň pľuzgier na slnku

Muži chápu, ako sa ostatní muži správajú na online zoznamovacích platformách, a napriek tomu si to mnohí z nich chcú ešte vyskúšať na vlastnej koži? Za všetkých mužov, ktorí tam hovorili: Cítim k vám ženám všade, či takto skutočne vyzerajú vaše schránky „alebo“ Použil som na Tinderi filter Snapchat 30 minút a na záver neznášam mužov „- toto je voyeurizmus v tom najlepšom a najpodivnejšom. Dúfame, že keď teraz niektorí muži vedia, aké to je byť na konci tohto správania, zabránia iným mužom v tom, aby konali naďalej takýmto spôsobom, je to, povedzme si úprimne, veľmi nepravdepodobné.

Zong poukazuje na to, že fenomén lovu rýb sa tiež vyrovná čo hovoria členovia trans komunít o filtri - že umožňuje tým, ktorí majú najväčšiu výsadu v reálnom živote aj online, vykonávať inú identitu a potom ustúpiť späť do bezpečia, zatiaľ čo ženy a iní marginalizovaní ľudia čelia online obťažovaniu a vypínaniu.

Je tu ešte niečo temnejšie, čo Snapchatov filter výmeny pohlaví pripomína: hlboké falzifikáty alebo zmanipulované postavy a tváre vytvorené strojovým učením vo videách - ktoré pri ich vzniku boli trochu prekvapením, okamžite prijaté pre pornografiu .

„Všetko, čo je AI, sa nedá deliť od ľudskej práce. Nič nie je úplne syntetické. ““

Začiatkom tohto roka Zong prezentoval na tému „falzifikáty - konkrétne to, čo by umelé telá v pornografii mohli pre budúcnosť znamenať - na Teoretizovanie webovej konferencie . Na prvý pohľad by sa mohlo zdať, že možnosť umelých tiel v pornografii je dobrá vec: že nahradením skutočných ľudí syntetickými obrázkami to zmierňuje možnosť skutočného poškodenia povedzme obchodovania s ľuďmi alebo vykorisťovania. Ale Zong s týmto názorom nesúhlasí, a to oprávnene. „V skutočnosti to problém nevyrieši - je to len jemnejšia verzia problému, ktorý sa dostane do chlpatých problémov,“ hovorí. „Tieto syntetické obrázky boli vyrobené z mnohých tiel a tvárí ľudí. V skutočnosti nie je všetko, čo je AI, oddeliteľné od ľudskej práce. Nič nie je úplne syntetické. ““

sú stretnutia a pozdravy, ktoré stoja za to

Súvisiace | Deepfake AI Porn je technicky legálne (a urážlivé)

Porno s podporou AI a filter výmeny pohlavia Snapchata nie sú to isté (aj keď zakladatelia Snapchatu pôvodne vytvoril aplikáciu pre sextingové účely .) Ale technológia a sociálne problémy, ktoré sú ich základom, sú podobné. Nič nie je úplne syntetické. Medzi tieto problémy patrí predovšetkým skreslenie súhlasu - či už ide o tváre a telá, ktoré sú aktívne a viditeľne kooptované na pornografické účely, alebo tváre a telá, ktoré sú rovnako aktívne, ale menej viditeľne ukladané, snímané a používané na vytvorenie filtra. pre tvár niekoho iného. V prípade Snapchatu máme do činenia aj s nežiaducim výkonom pohlavia, vychvaľovaním rodových privilégií a ďalším upevňovaním stereotypných rodových prejavov.

Ale najdôležitejšie je, čo sa deje v nás. Ak technológia rozpoznávania tváre na letisku nás znervózňuje , alebo ak nás pornografia podporovaná umelou inteligenciou prinúti spochybniť naše štandardy súhlasu, prečo tak neurobiť naše mobilné aplikácie sociálnych médií, ktoré tak ľahko otvárame a zatvárame? Zvykneme si dávať mapovať naše tváre - zhromažďovať - ​​meniť - a vo vlastníctve . A dostávame sa s tým niekam do poriadku, ak tam ešte nie sme.

Naša odpoveď na tha t by malo byť to, čo jeden používateľ filtra na výmenu pohlavia výstižne uviedol na Twitteri , potom, čo som sa dozvedela, aké správy môžu ženy na Tinderi dostávať: „Sakra, urobila som chybu.“

Foto cez Twitter