Řidiči Trans jsou uzamčeni ze svých účtů Uber

Uber by mohl být dychtivý přijmout špičkovou technologii ve své snaze o dominanci na silnici, ale nedávný incident zahrnující transgender řidiče a bezpečnostní funkci rozpoznávání obličeje aplikace pro spolujízdu odhaluje jedno z mnoha úskalí spoléhání se na počítačové algoritmy. Janey Webb, řidička trans Uberu v Iowě, se minulý měsíc ocitla mimo aplikaci, když ji tato funkce nerozpoznala, což způsobilo, že přišla o dny práce a příjmu, Informuje o tom CNBC .



systém rozpoznávání obličejů Uberu, Kontrola ID v reálném čase , který byl uveden na trh v září 2016 a vyžaduje, aby řidiči předkládali přerušované selfie k ověření jejich identity. Bezpečnostní funkce pomocí Microsoft Cognitive Services porovná selfie s fotografií řidiče, kterou Uber uchovává v evidenci (poskytnuté v době registrace řidiče a procesu prvotního ověření v aplikaci), a dočasně pozastaví účet řidiče, pokud se fotografie neshodují. .

To zní jako dobrá bezpečnostní funkce, pokud, jako v případě Webba, nejste trans a v procesu přechodu. CNBC uvádí, že Webb začala pracovat pro Uber v říjnu 2017, přibližně ve stejnou dobu, kdy začala přecházet. Změny v jejím vzhledu nakonec vyvolaly červenou vlajku v algoritmu kontroly ID v reálném čase.



Webb řekla CNBC, že podnikla kroky k pečlivému zdokumentování svého přechodu v rámci aplikace, aby se vyhnula problémům s bezpečnostní funkcí a aby potenciální pasažéři měli aktuální informace. Ale tohle nestačilo. Těsně před notoricky silným provozem čtvrtým červencovým víkendem byl Webbův účet zmrazen a byla vyzvána, aby jela dvě hodiny do jediného centra osobní podpory Uberu v Iowě, aby problém vyřešila. Údajně jí bylo řečeno, že problém může nastat znovu.



'Nelze očekávat, že trans osoba bude aktualizovat svou licenci přibližně každé tři měsíce, jen aby nebyla deaktivována,' řekl Webb pro CNBC. Uber na ně zatím neodpověděl.

Kromě Uberu se však Webbův problém s kontrolou ID v reálném čase dotýká rostoucích obav o budoucnost technologie rozpoznávání obličeje a počítačových algoritmů obecně, které vesměs nepočítají s marginalizovanými komunitami. Google uzavřel partnerství s GLAAD pomáhá budovat umělou inteligenci zahrnující LGBTQ poté, co zjistili, že neškodné výrazy jako Jsem gay se automaticky registrovaly jako negativní, když uživatelé přispívali na platformy sociálních médií, jako je Twitter a Facebook.

Loni propukla kontroverze, když transgender youtubeři zjistili, že výzkumníci pracují na technologii rozpoznávání obličeje použili jejich videa poskytovat data pro AI, aby se naučila rozpoznávat tváře lidí, kteří procházejí lékařskými přechody. Stalo se tak bez vědomí nebo souhlasu youtuberů.



Mnoho lidí v marginalizovaných komunitách zůstává podezřívavých vůči umělé inteligenci a technologii rozpoznávání obličeje obecně. V září loňského roku vyvolala kontroverze zpráva Stanfordské univerzity, která tvrdila, že technologie rozpoznávání obličeje může někoho identifikovat jako LGBTQ+, a to jak pro údajné chybné nálezy ve zprávě a pro představu, že by tato technologie mohla být použita k vyloučení LGBTQ+ lidí.

Akademici jako Sherry Turkle, profesorka na Massachusetts Institute of Technology, uvedli v an rozhovor s NBC OUT že divní lidé by měli pravdu, kdyby se s takovou technologií rozpoznávání obličejů setkávali skepticky. Tyto informace by mohly být použity k pomoci vládám při vytváření registrací LGBTQ+ lidí, což je krok, který některé země již provádějí.

'Za prvé, kdo vlastní tuto technologii a kdo má výsledky?' řekl Turkle. „Nyní je problém, že „technologie“ je fráze, která ve skutečnosti znamená „komodita“. Znamená to, že vaše technologie dokáže rozpoznat mou sexualitu z pohledu na mou tvář a můžete tyto informace kupovat a prodávat za účelem sociální kontroly.“

Etická debata o této technologii se pravděpodobně bude nadále přiostřovat, protože funkce jako Real-Time ID Check se stanou běžnými. Pozastavení Webbova účtu mělo podstatný dopad na její příjem a nebude poslední trans ženou, která měla takovou zkušenost. Umělá inteligence roste rychlým tempem a vytváří při tom kumulativní data, která bude jen obtížnější se vracet a měnit s časem. Ale na obou stranách debaklu se zdá, že panuje shoda v jedné věci: Důsledky pro lidi na okraji společnosti by měly být v popředí.