Zajímavý

Kontroverze FaceApp nám připomíná, jak špatně jsme vybaveni pro budoucnost

Kontroverze FaceApp nám připomíná, jak špatně jsme vybaveni pro budoucnost

Pokud jste tento týden nebyli uvězněni v žaláři, viděli jste výbuch fotografií vašich přátel, celebrit nebo jiných online osobností, které sledujete, vypadající vrásčitě a šedě, vše generované mobilní aplikací FaceApp. Nejedná se o první virální moment FaceApp, v roce 2017 se jednou stal virálním, ale 2017 nebyl 2019.

Rachot nad společností Cambridge Analytica se během uplynulých dvou let ještě nestal zemětřesením v oblasti soukromí, které by zahájilo vyhlazení důvěry ve Facebook a další, takže FaceApp mohl být vydáván za neškodnou zábavu, aniž by bylo nutné číst Podmínky služby. Nyní naše chápání hrozeb pro naše soukromí vzrostlo a zatímco FaceApp může být stále zcela neškodný, ať už je či není problémem již nějakou dobu. Problémem v zásadě jsme my.

Spor o FaceApp byl vysvětlen

Je to už asi týden, co FaceApp podruhé zapálil - byli také poprvé vyzváni k tomu, aby byli velmi problematičtí - a my jsme již přešli z původního FOMO na kocovinu na sociálních médiích - a v mnoha případech existují pocity hanby za to, že jsme byli chyceni ve skutečném porušení soukromí.

SOUVISEJÍCÍ: FACEAPP JE VIRÁLNÍ S OSLAVAMI Zveřejňování obrázků BUDOUCÍCH STARŠÍCH SAMI

Od této chvíle už víte přesně to, o čem tu mluvíme: první polovinu týdne všichni, koho jste znali na sociálních médiích, pořizovali selfie a nahrávali, co nejlépe odhaduje AI FaceApp, jak vypadají jako staří lidé.

Když se vydáte na výlet do roku 3000. pic.twitter.com/O9Dxpwj6ex

- Jonas Brothers (@jonasbrothers) 16. července 2019

Já hostuji #MasterChef Sezóna 50 ...... # faceapppic.twitter.com/uKnfxUpC1D

- Gordon Ramsay (@GordonRamsay) 16. července 2019

Kolem středy lidé začali poukazovat na to, že uživatelé FaceApp právě dali nějaké společnosti, které neznali věčné právo používat svůj image k jakémukoli účelu, který chtějí. Byla to všechno lstivá operace sběru dat, které jsme všichni propadali.

Myslel jsem, že jsme se před časem dohodli, že FaceApp byl stinné a pravděpodobně pomocí fotografií lidí vyvinul technologii rozpoznávání obličeje, která nakonec poslouží stavu dozoru? Na těchto ulicích sociálních médií není nic zábavného zdarma.

- Saeed Jones (@theferocity) 16. července 2019

Jsem rád, že se všichni bavíte touto aplikací pro stárnutí tváře, ale nikdy nebudu schopen otřást pocitem, že všechny ty fotky jsou vkládány přímo do nějaké databáze, jejíž zlověstný účel nebude odhalen dokud není příliš pozdě.

- Scott Wampler ™ (@ScottWamplerBMD) 16. července 2019

Nemůžu si pomoct myslet, že tato FaceApp shromažďuje naše data kvůli něčemu pochybnému. Ale chci to zkusit

- Cornelius (@koolexposure) 16. července 2019

Obhájci ochrany soukromí a politici začali vzbuzovat obavy ohledně toho, kde přesně jsou tyto obrázky uloženy, a zveřejnili skutečnost, že skutečné zpracování vašeho obrázku se nedělo na vašem telefonu, ale na cloudových serverech někde jinde. Pak přišlo „odhalení“, že FaceApp sídlil v zlověstné hudbě - St. Petersburg, Rusko.

Nicméně: zdá se, že nahrávají jednotlivé obrázky za účelem použití filtrů na straně serveru. i když to není tak neslýchané, není to zřejmé a jsem si jist, že mnoho lidí s tím není v pohodě.

- Will Strafach (@chronic) 17. července 2019

Jejich zásady ochrany osobních údajů nejsou na dálku v souladu s GDPR. Říká se, že vaše data lze přenést na jakékoli místo, kde mají zařízení ... což znamená Rusko.

- Elizabeth Potts Weinstein (@ElizabethPW) 17. července 2019

VELKÉ: Sdílet, pokud jste použili #FaceApp:

Organizace @FBI & @FTC se nyní musí zabývat vnitrostátními bezpečnostními a soukromými riziky

Protože to miliony Američanů využily

Patří jí ruská společnost

A uživatelé jsou povinni poskytnout plný a neodvolatelný přístup ke svým osobním fotografiím a datům pic.twitter.com/cejLLwBQcr

- Chuck Schumer (@SenSchumer) 18. července 2019

Takže jsme v pátek a tón konverzace se posunul o 180 stupňů z „Hej! To je hustý!' na „Ach ne, co jsme všichni udělali?“ asi za 100 hodin. Chceme, aby si lidé mysleli, že jsme všichni chytřejší než toto, ale spousta lidí se v tom může cítit rozpačitě, zvláště když polovina internetu volá všechny uživatele FaceApp pro ruského agenta inteligence.

Ale je to opravdu tak vážné?

Měli byste se obávat FaceApp?

Tento scénář se v posledních několika letech hraje s desítkami virálních trendů, které zahrnovaly nahrání vašeho obrazu do něčeho. V loňském roce jsme prošli touto přesnou kontroverzí ohledně celé aplikace „najít historické umělecké dílo, které vypadá jako vy“, bez prvku Red Scare. Podobně „10letá výzva“ Facebooku.

Samozřejmě zde existují opravdové obavy. Vždy platilo, že kdykoli vám někdo nabízí něco zdarma, jde mu pouze o informace, které potřebujete poskytnout, abyste věc získali zdarma. Takto se vytvářejí e-mailové konference již více než století.

Podobně je celá koncepce televizního hodnocení postavena na shromažďování údajů od takzvaných rodin Nielsen; ty domácnosti, které společnosti Nielsen umožňují sledovat, jaké pořady lidé sledují, nebo rozhlasové stanice, které poslouchají, takže sítě mohou stanovit cenu za reklamní prostor a podniky se mohou rozhodnout, kde budou inzerovat na základě velikosti publika.

Je FaceApp - nebo Facebook nebo jiné sociální sítě a internetové společnosti, které vydělávají peníze na uživatelských datech - opravdu tak odlišné? Principy jsou téměř stejné, ale rozsah uživatelských dat shromážděných od diváků Nielsen a uživatelů Facebooku je jako rozdíl mezi vynásobením čísla 10 a zvýšením čísla 10.

Můžete zjistit, co domácnost Nielsen sleduje, ale opravdu nevíte, kdo to sleduje, ani zda fandí jednomu nebo druhému během Superbowlu. Přinejmenším tradičně se Neilsen postavil dopředu ohledně účelu, kterému jejich sběr dat slouží, a rodiny Neilsen přesně pochopily, jaké informace se v tomto procesu vzdávají. Mohli by také vypadnout z programu a data by se přestala shromažďovat.

Facebook vytvořil celý profil uživatele na základě údajů shromážděných i mimo samotný Facebook. To se pak používá k mikrocílení reklamy a doručování obsahu s takovou specifičností, a to bez dozoru, takže tyto profily se stávají problematickými. Pokud je někdo těhotná, řekněme, a chce tyto informace uchovat v tajnosti, ale hledá OBGYN nebo klikne na facebookovou stránku centra těhotenských zdrojů, může Facebook určit, že je uživatelka těhotná, a začít této osobě nabízet reklamy s dětskými výrobky.

I když Facebook může mít konkrétní ochranná opatření týkající se tohoto druhu vytváření profilů, víme, že nebyli vždy tak opatrní, pokud jde o způsob, jakým byly jejich údaje použity k cílení na uživatele. Facebook se skvěle dostal do potíží, protože před několika lety poskytl inzerentům možnost cílit jejich reklamu na etnické a rasové hranice tím, že vyloučil určité skupiny nebo kategorie se silnými rasovými, etnickými nebo náboženskými sdruženími. Tato vyloučení by mohla inzerentům umožnit diskriminovat tyto skupiny u produktů a služeb, jako je bydlení nebo zaměstnání.

Na základě těchto obav Facebook odstranil více než 5 000 cílových kategorií pro jejich reklamy. Přestože to bylo tak špatné, dokázali tyto kategorie vybudovat pouze obráceným inženýrstvím pravděpodobného etnického původu, rasy nebo náboženské víry uživatele na základě jeho aktivity, což není jednoduše urážlivé, ale přímo nebezpečné v svět, kde byly tyto kategorie často používány jako základ pro útlak a mnohem horší.

I když je pochybné, že Facebook shromažďuje údaje za účelem vytváření těchto profilů za účelem utlačování etnických, náboženských nebo rasových menšin, to samé nelze říci o Číně, která v současné době v této zemi provozuje koncentrační tábory pro více než milion obyvatel muslimské většiny. země za účelem „deradikalizace“.

Sběr dat byl hlavní součástí tohoto úsilí. Údaje shromážděné z jejich mobilních telefonů, interakce s veřejností a někdy jednoduše zabavené policií, ačkoli vynucené biometrické nahrávání na policejních stanicích byly použity k vytvoření de facto domácího vězení, protože systémy AI a senzory rozpoznávání obličeje varují policii, kdykoli někdo identifikovaný jako Uigher vstoupí na určitou veřejnost prostory, jako jsou nemocnice.

Pokud si myslíte, že vaše data nejsou tak velká, aktuální situace Uighers by měla rozptýlit jakoukoli představu, že vaše data nemohou být použita proti vám.

Problém není FaceApp

Problém není v tom, že FaceApp použije obraz našich tváří k něčemu jinému, než aby nás pobavil tím, že z nás všech a našich přátel udělá hromadu Oldů. A navzdory tvrzení mnoha lidí online a některých politiků zde v USA neexistují žádné důkazy o tom, že by někdo ukázal, že FaceApp nahrává vaše kamerové role na jejich cloudové servery.

K čemu téměř jistě používají váš obrázek, je nějaký druh tréninkových dat pro druh generativní AI, který produkuje hluboké falešné zprávy a podobně. Pokud tomu tak je, pak se nemusíte absolutně čeho bát. Jakmile budou tato data zpracována systémem AI, který chtějí trénovat, budou pravděpodobně vyhozena, protože je to docela zbytečné.

Generální ředitel společnosti údajně uvedl, že obrázky lidí jsou obvykle po krátké době smazány - i když je jasné, neřekl nic o tom, k čemu tyto obrázky společnost používá, kromě trénování jejich neuronové sítě.

V zásadách ochrany osobních údajů společnosti bylo učiněno hodně, což si vyhrazuje právo použít váš obrázek k jakémukoli legitimnímu obchodnímu účelu, který může zahrnovat jejich použití v reklamě na produkt. Rovněž slibují, že nebudou vaše data prodávat třetím stranám, ale vyhrazují si právo sdílet vaše data s přidruženými společnostmi. Takže každý, kdo si koupí FaceApp, mohl získat přístup k jakýmkoli datům, která o vás mají.

Oba jsou velmi problematické, ale upřímně je to proto, že pro podniky, které se nějakým způsobem spoléhají na dolování dat, je to do značné míry legální zákon. Hodně se říká o tom, jak je Facebook horší než FaceApp, a rozhodně jsou, ale tento problém je ještě větší než Facebook.

Problém, který obhájci ochrany soukromí mají, je s regulačním Thunderdome, ve kterém žijeme, a který staví nešťastné uživatele bez právního školení do bitvy jazyků se zkušenými právníky, jejichž úkolem je vyčerpat uživatele pouhým vyslovením „Eff it“ a kliknutím na tlačítko přijmout.

Skutečnost, že - poté, co prostřednictvím médií nebo ústního podání zjistíme, jako běžní lidé jinými slovy, co to vlastně bylo v těchto podmínkách služby, je pro společnost zcela přijatelnou obranou říci: „No, souhlasili jste kliknutím na tlačítko Přijmout je zásadní problém a neexistuje jednoduchá oprava. Je to politický problém, nikoli právní. Tuto taktiku využily společnosti k tomu, abychom se vzdali svých práv na všechno, od našich obrázků a videí až po naše právo žalovat společnost za diskriminaci.

A ujasníme si také, že problém není v tom, že společnost je ruská. Virový okamžik FaceApp se sídlem v Petrohradě přinesl všechny druhy paranoie téměř na úrovni McCarthyite. Demokratická strana tento týden vyděsila a nařídila všem pracujícím na kampaních, aby okamžitě odstranili FaceApp ze svých telefonů.

Je pravda, že chápu, proč jsou v tomto ohledu trochu choulostiví, ale po roce 2016, proč to k čertu někdo z vás dělá žádný aplikace pro sběr dat ve vašich telefonech? Všichni shromažďují údaje a lze je použít k získání neoprávněného přístupu. FaceApp může být nějakým druhem zlověstné ruské zpravodajské operace, která shromažďuje tváře Američanů, aby pomohla znovu zvolit Donalda Trumpa nebo tak něco, ale pokud by někdo mohl udělat tu čáru od jedné věci k druhé, rád bych to viděl.

Odpor proti FaceApp není ani o FaceApp

Naše hledání viny lidí nebo zločinných vlád hovoří o větší úzkosti, která je ve skutečnosti příznakem toho, co je na FaceApp skutečně problematické. Nepotřebujete důkazy, když jste se v minulosti stali obětí schématu, kterému je dodnes těžké porozumět. Ne že by ne přihodit se ale to je pro většinu lidí opravdu těžké pochopit.

Cambridge Analytica dělal seškrábnout desítky milionů údajů uživatelů Facebooku, aby pomohly zacílit volební úsilí, ale víte, jak to udělali, nebo co to vůbec znamená? Ruské zpravodajské služby dělal zapojit se do koordinované dezinformační kampaně, která by narušila prezidentské volby v USA v roce 2016, a možná v posledních několika letech vedla podobné kampaně v Evropě, ale s tolika pohyblivými částmi as mnoha detaily, které jsou stále zamčené za probíhajícími vyšetřováními, spiknutí při absenci skutečnosti.

A když už jsme u toho, CIA se rozhodně zapojila do těchto druhů kampaní po celém světě během studené války a pravděpodobně to dělá dodnes. Čína se ani netají tím, že vyzbrojuje údaje, které shromažďuje od svých občanů, aby zavedla systém sociální a behaviorální kontroly, který izoluje stát proti disidentům.

Ale na rozdíl od minulých propagandistických snah si většina lidí uvědomuje, že pokud jde o použitou technologii, jsou daleko od svého živlu. Pokud nejste zběhlí v hlubokých padělcích, AI a způsobu, jakým se informace šíří prostřednictvím sociální sítě, je těžké spojit pocit pocitu podvedení s lidmi, kteří vás podvedli. Když nemáte nikoho, kdo by vás obvinil z přestupku, všichni a všechno se stanou podezřelými.

A to není upřímnost, paranoia. Vlády a velké instituce všeho druhu používají shromažďování a kontrolu informací jako způsob, jak dosáhnout a udržet moc, dokud existují vlády a instituce jakékoli velikosti. To, co dělá naši současnou situaci tak zneklidňující pro lidi, je to, že se všichni probouzíme k tomu, že tak důvtipní, jak jsme si všichni mysleli, že jsme, jsme snadno manipulovatelní jako naši venkovští předkové, kteří pevně věřili, že jejich vládce nad nimi vládl božským právem a že to bylo spravedlivé.

Problémem není FaceApp nebo to, že jsme všichni propadli nějakému strašidelnému ruskému spiknutí; problém je v tom, že se nejevíme jako schopni odlišit jeden od druhého, ať už před nebo po této skutečnosti. Vhoďte trochu FOMO a pár placených potvrzení celebrit a my dáme aplikaci nebo kvízu nebo produktu, co od nás chtějí - dokonce i naše tváře, nejosobnější identifikační údaje, které existují - a toto rozhodnutí se znovu vrátíme, až ostatní začněte poukazovat na to, že by to mohlo být nebezpečné.

Skutečným problémem aplikace FaceApp je, že ukazuje, jak nepřipravení jsme všichni na úroveň dohledu a sběru dat, která přichází. Pokud nemůžeme pro FaceApp shromáždit jen kousek skepticismu, co přesně nás přiměje zastavit se a přehodnotit to, co sdílíme? Technologie se v příštích letech nebude zhoršovat při shromažďování našich dat, bude se exponenciálně zlepšovat v kopání do našich životů a vytahování všeho, co bychom si chtěli nechat pro sebe. Musíme najít způsoby, jak je přinutit alespoň pracovat pro to.

Pokud dokážeme dát selfie podivné aplikaci, jejíž zásady ochrany osobních údajů a podmínky služby si velmi, velmi málo z nás předem přečetlo, máme jen velmi malou naději, že dokážeme odolat dalšímu virálnímu trendu, jehož cílem je přimět nás k tomu, aby naše stráž pro nějaký základní účel dolování dat. Určitě se musíme lépe bránit v tlaku na odevzdání našich údajů, ale musíme také regulovat tyto společnosti a způsob, jakým jsme manipulováni, abychom souhlasili s věcmi, které bychom neměli, jsme byli plně informováni.

Společnosti jsou závislé na tom, že se budeme řídit svými podmínkami služby tím, že je učiníme neproniknutelnými. Nemělo by jim to být dovoleno, protože příště to nemusí být tak benigní jako trénink AI FaceApp; mohlo by to být mnohem, mnohem zlověstnější a nebudeme to schopni rozpoznat, než se vzdáme svých nejintimnějších detailů tomu, kdo je na druhé straně mraku.


Podívejte se na video: Ep. 43 - Miloš Škorpil - Nejlepší investice je ta do zdraví Offline Štěpána Křečka (Leden 2022).