Jak Facebook a Grindr ohrozili soukromí Queer People

Nedávný Únik dat Cambridge Analytica , který odhalil, že britská konzultační firma použila data milionů uživatelů Facebooku k cílení reklam jménem Trumpa, předznamenala, jak lze neoprávněná data použít k cílení nejen na americkou populaci obecně, ale na zvláštní lidi a konkrétně na naše informace. Tato možnost se nyní přiblížila realitě, jako je BuzzFeed hlášeno včera že Grindr umožnil dvěma firmám třetích stran přístup k HIV statusu, umístění a dalším osobně identifikovatelným a citlivým informacím uživatelů.



Taková odhalení vyvolala u mnoha podivných lidí, včetně mě, obavy z toho, jak rozsáhlejší způsoby využívají naše osobní údaje společnosti jako Facebook a Grindr, a to jak s naším souhlasem, tak bez něj, a jaké jedinečné rizikové faktory jejich praktiky představují pro queer komunitu. Máme-li žít v tomto světě jako bezpeční a svobodní uživatelé internetu, je nezbytné pochopit, jak jsou naše data využívána a jak tyto algoritmy fungují, zvláště nyní, když víme, že se nepoužívají pouze k prodeji našich produktů, ale také k ovlivnit naše myšlenky, názory a politické názory.

I když se objevila některá hnutí, která se brání hromadnému sdílení dat, jako je #DeleteFacebook, realita našeho internetového světa je taková, že naše data jsou shromažďována v masovém měřítku a nejsou exkluzivní pro žádnou jednotlivou platformu. Kdykoli prohlížíme nebo prohledáváme web, posíláme e-maily a zveřejňujeme informace o aplikacích, jako je Grindr, je pravděpodobné, že tyto akce jsou používány pro účely sběru dat. Ať už se tato data dostanou do rukou marketingové skupiny, politické organizace nebo poradenské firmy, naše informace neleží ladem. Můžeme se pokusit získat určitou kontrolu nad procesem – například pomocí anonymního okna, když jsme online – ale to může ochránit pouze část naší internetové aktivity. Už nejsme jen spotřebitelé na internetu – sami jsme komoditami, protože naše data prodávají i třetí strany. To může být děsivá myšlenka, ale je to také to, co umožňuje, aby byla velká část internetu bezplatná a přístupná, protože prodej našich dat a jejich používání k cílení reklam brání společnostem v tom, aby musely účtovat poplatky přímo uživatelům.



Než se začneme chránit, je důležité vědět, jak takový sběr dat ve skutečnosti funguje. O strojovém učení je důležité poznamenat, že množství dat shromažďovaných společnostmi tímto způsobem je příliš velké na to, aby je někdo skutečně probral. Místo toho společnosti vkládají data do modelů a strojů, které o nás budou předpovídat. Dělají to tak, že se snaží zjistit, jak vytvořit spojení mezi všemi různými informacemi, které dostávají, jako je počet přátel, které máte nebo jaké filmy se vám líbí. Pomocí těchto informací se mohou modelky pokusit odhadnout vaše pohlaví, politické přesvědčení nebo pravděpodobnost, že si koupíte nějaký produkt. Odtud o nás dělají profily, které se pak prodávají inzerentům.



Tyto modely jsou tak složité, že je lidé přímo nevyrábějí. Místo toho jsou tyto modely, známé také jako algoritmy, trénovány tak, že se stroje učí hádat správné odpovědi na data, která si lidé prohlédli, a doufají, že to platí pro obecnou populaci.

S tímto učením se však potýkají i běžně používané algoritmy, jako je například technologie rozpoznávání obličeje efektivní pouze pokud jste běloch . Pro queer lidi mohou velká data také vést ke zvýšenému cílení a mylným představám o queerness a jejím vztahu k tomu, jak jednáme. Tolik preferencí a akcí, které nás definují jako queer, nejsou přesně pochopeny ani skutečnými lidmi, natož algoritmy, a mezi členy queer komunity se velmi liší, přesto systémy strojového učení takové akce používají, aby se nás pokusily identifikovat.

Větší problémy mohou nastat, když software funguje tak, jak bylo zamýšleno, nebo, jako je situace Grindr, pokud dobrovolně poskytneme informace o sobě, očekáváme, že budou soukromé, a až později zjistíme, že jsou hlášeny třetím stranám. Tím dáváme pravomoc předvídat, kdo jsme a jak nás zacílit na strany, které jsme výslovně nepovolili. To nemusí být tak frustrující, když nám to představuje pouze reklamu, a může být dokonce užitečné, pokud je používáno zodpovědně. Může pomoci členům queer komunity najít se navzájem nebo dostat potřebné informace k těm, kteří je potřebují. Ale toto shromažďování dat je děsivější, když se používá pro politické cílení a policejní činnost, a ještě děsivější, pokud se používá v každé části našeho života, abychom se zbavili jakéhokoli zdání soukromí.



Soukromí bylo pro queer komunitu vždy nesmírně důležité, protože potřebujeme navigovat, ke komu můžeme být, kde je bezpečné být sami sebou a s kým odhalit věci, jako je náš HIV status. Udržování naší bezpečnosti online není nový zvláštní problém – je to starý problém, který se řeší v novém a masivním měřítku. Problémy se soukromím v queer komunitě sahají do bojů, za které bojovalo mnoho dřívějších queer aktivistů v našich barech, domovech a dalších společenských prostorách. Pokud algoritmus dokáže zjistit nebo vyvodit předpoklad, že jsme divní, a také předat informace o našem stavu HIV třetí straně, ztrácíme pravomoc sami rozhodovat o tom, kdy takové citlivé informace odhalíme. Tato data mohou být poskytnuta inzerentům, jistě, ale také orgánům činným v trestním řízení, našim rodinám, správcům škol, pojišťovnám nebo zaměstnavatelům, a v případě jejich zneužití nás staví do neuvěřitelně nebezpečných situací.

V roce 2014 Facebook změnili své zásady aby si uživatelé mohli vybrat, kdy poskytnou naše data aplikacím třetích stran, ale stále musíme být opatrní, kterým udělujeme oprávnění. Odhalení Grindr přineslo tento problém do popředí, protože seznamovací aplikace přiznala, že sdílí status HIV uživatelů třetím stranám, ale bránila se tím, že takové použití povoluje její Zásady ochrany osobních údajů, které mnoho uživatelů nevěnuje čas zkoumání. (Včera pozdě, společnost řekl přestalo by to sdílet informace o HIV uživatelů s třetími stranami.) I když tyto třetí strany nejsou inzerenty, ale jsou to společnosti, které se snaží optimalizovat aplikace, jde o to, že by to neměly být informace, které by Grindr poskytoval. Pro zvláštní spotřebitele, kteří chtějí chránit své soukromí, je proto životně důležité sledovat tyto zásady, aby se zajistilo, že se informace o nich nedostanou do nesprávných rukou. Ale kromě toho, že jsme sami opatrní, musíme také zvýšit svůj hlas a zajistit, aby Facebook, Grindr a další společnosti, které získávají naše data, nedovolily nesprávným inzerentům používat jejich platformy, aby na nás cílili se zlými úmysly.

Nejde jen o soukromí – jde o naše právo existovat na veřejnosti jako queer lidé podle našich vlastních podmínek a právo tak činit bezpečně. Jako skupina anonymních queerů napsal v roce 1990: Být queer neznamená právo na soukromí; jde o svobodu být veřejným, být tím, kým jsme.

Jason Gurevitch je juniorkou na Colby College studující informatiku a ženská, genderová a sexuální studia. Je ambasadorem GLAAD Campus a minulé léto strávil na stáži ve společnosti Google výzkumem pomocí strojového učení.