Šokantno otkriće

Kako Google ‘vježba’ prepoznavanje lica: Dali im pet dolara i lagali što im zapravo rade

P. N.

Photo by Cristina Zaragoza on Unsplash

Photo by Cristina Zaragoza on Unsplash

"Rečeno nam je da ne smijemo reći da je riječ o videu, čak ni kada bi se na ekranu pojavila obavijest da se snima video", kaže jedan od izvora.



Tehnološki gigant Google je potpomogao izradu projekta programa prepoznavanja lica koji posebno “cilja” ljude tamnije kože. Navode su otkrili različiti izvori sa znanjem o projektu za američki New York Daily News, a prenosi MSN.


Cilj kompanije je izrada ogromne baze podataka tako da proizvodi poput biometrijskih značajki na nadolazećim smartphonima Pixel 4 ne “pate od rasne pripadnosti”. U prošlosti, tehnologija prepoznavanja lica je imala problema s identifikacijom ljudi tamnije kože.


Stažistima davali darovne kartice


Google sada to želi izbjeći, pa stažisti darovnim karticama od pet dolara skupljaju skenove različitih ljudi na cesti. Glasnogovornik kompanije potvrđuje cilj kolekcije podataka.




“Redovito izrađujemo volonterske studije. Za nedavne studije koje uključuju kolekciju uzoraka lica za program uređaja bila su dva cilja. Prvi, htjeli smo u Pixelovu mogućnost otključavanja putem biometrije lica ugraditi jednakost.


Kritično je da imamo različite uzorke, što je važan dio izrade proizvoda”, kaže glasnogovornik. “I drugo, Pixel 4 će se otključavati snažnom i novom sigurnosnom značajkom pa želimo omogućiti da štiti što širu populaciju ljudi”, dodaje.


Nekoliko ljudi koji su radili na projektu za Daily News je reklo da Googleov apetit za podacima, dovodi u pitanje metode istraživanja. Izvori kažu da su bili relocirani i “ciljali” beskućnike u Atlanti, studente po kampusima diljem SAD-a koji nisu ništa sumnjali i polaznike dodjele “BET” nagrada u Los Angelesu.


Googleovi radnici poznatiji pod kraticom “TVC” (akronim za posebne pripravnike), za Daily News kažu da im se plaćalo preko treće strane – firme Randstad. Kažu da su im voditelji projekta u Randstadu posebno rekli da traže ljude s drugom bojom kože te da prikriju činjenicu da snimaju lice. Rečeno im je i da lažu da bi pojačali kolekciju podataka.


Nekima je rečeno da podatke o licima dobiju putem “igre selfija” kakva je slična aplikaciji Snapchat.


“Samo se igrajte s mobitelima nekoliko minuta i dobijete poklon karticu” ili “Imamo novu aplikaciju, isprobajte ju za pet dolara”, morali su govoriti ljudima koje snimaju, prenosi MSN.


“Nismo smjeli reći da snimamo”


Dobili su i jasne upute od Randstada da “subjektima ne govore da ih se snima”. “Rečeno nam je da ne smijemo reći da je riječ o videu, čak ni kada bi se na ekranu pojavila obavijest da se snima video”, kaže jedan od izvora dodajući da je video svakog korisnika spremljen pod profile pripravnika i periodično pregledavan na sastancima osoblja.


“Ako bi osoba pogledala ekran nakon izvršenja zadatka i pitala je li se snimao video, morali smo im reći da nije”, kaže izvor. “TVC-i” su trebali ispitanike požuriti kroz pitanja i brzo dovesti do prihvaćanja uvjeta te se od njih udaljiti ako bi ljudi postali previše sumnjičavi.


“Jedan dan smo imali trening samo o rječniku koji odvraća korisnika od stvarnog zadatka”, kaže jedan od bivši zaposlenika. “Često se spominjala fraza ‘selfie igra'” kaže drugi koji je radio u Los Angelesu. “Praktički ih je trebalo odvratiti od svega i govoriti da samo pritisnu slijedeću tipku i ne brinu”, kaže drugi izvor.


Google je već priznao da su slali ljude za “volontirajuće skenove” u zamjenu za darovne kartice od pet dolara. ZDNet je u srpnju objavio da je jednom muškarcu u New Yorku netko pristupio i pitao ga hoće li prodati svoje lice Googleu za pet dolara. Muškarcu je rečeno da će sken njegovo lica biti korišten za poboljšavanje slijedeće generacije mobitela s mogućnošću otključavanja putem prepoznavanja lica. 


“Manja šansa da beskućnici progovore za medije”


Googleov glasnogovornik je za The Verge izjavio da kompanija skuplja podatke pomoću “terenskog istraživanja” da bi izradili prepoznavanja s boljom sigurnosti i performansama. 


Izvori za Daily News kažu da im je rečeno da se smatraju potencijalnim stalnim zaposlenicima Googlea ako naprave dnevnu kvotu 3-D skenova lica. S druge strane, menadžeri iz Googlea su bili na redovnim konferencijskim pozivima i uključeni u mnoge aspekte prikupljanja podataka, uključujući i obvezu da se “traže tamniji tonovi kože”, tvrde izvori.


Jedan od bivših zaposlenika Randstada je poslao tim u Atlantu da “posebno ciljaju ljude s tamnom kožom, uključujući i beskućnike”. “Rekli su da ciljamo beskućnike jer je manja šansa da oni s time izađu u medije. Beskućnici nisu imali pojma što se događa”. Izvor kaže i da je Googleov menadžer znao za taj put, iako nije čuo da im je rečeno da idu za beskućnicima, prenosi MSN. 


Jedan je izvor rekao da je članovima tima u Kaliforniji rečeno da ispitanike mogu “uhvatiti na foru” da državni zakon dozvoljava zamjenu poklon kartica ispod deset dolara za novac.


Zlatni rudnik – brucoši i Starbucks kuponi


“Ako ne vole kavu ili slično, možete reći beskućnicima da poklon karticu možete zamijeniti za pet dolara”, kaže bivši zaposlenik koji dodaje da je cijela poanta bila napraviti shemu tako da subjektima bude neodoljiva. 


“Zlatni rudnik” su im bili kampusi jer mlađi studenti imaju i manja financijska sredstva pa im odgovaraju poklon kartice. Izvor kaže da je jednu ovakvu “studiju” napravio u glavnoj knjižnici Državnog fakulteta Kalifornije. 


Noseći ruksake i izgledajući poput studenata, dva su muškarca išla od stola do stola nudeći poklon kartice Starbucksa u zamjenu za 3-D skenove. Studenti su kasnije rekli da nisu znali da prodaju praktički vlastita lica.


 “Okreći lice u krug… Savršeno!”, rekao je jedan od muškaraca studentu koji je proveo manje od dvije minute s mobitelom prije nego li je dobio poklon karticu.


“O moj bože, imaju moje lice”, izjavila je brucošica Jenile Ho (18) nakon što ju je Daily News pitao je li znala da je riječ o skeniranju lica.


“Znam da je spomenuo android, ali nisam čula ništa o Googleu. Rekli su nam da žele testirati novi mobitel i dala sam svoj mail. Muškarac je rekao da to sve treba obaviti brzo i ponavljao je da kliknem ‘sljedeće’. Mislila sam da su studenti. Novi smo ovdje i pokušavamo naći prijatelje. Bi li trebala promijeniti lice?, pitala je studentica nervozno i dodala da je samo čula Starbucks i rekla u redu.


Pored Jenile, javili su se i mnogi drugi studenti sa sličnom pričom.


Google ima pravo koristiti fotografije kako želi


Fotografija ugovora u čiji je posjed došao Daily News, Googleu daje dozvolu za podatke o licu. Piše da Google može zadržati skenove “koliko god je potrebno da se ispuni svrha za koju se očekuje da će biti gotova kroz pet godina”. 


Jezivo je i što u papirima piše da je subjekt Googleu dao pravo da “koristi i dijeli skenove bez ograničenja za bilo koju svrhu”, a podatci se mogu dijeliti i “izvan države”, uključujući mjesta na kojima subjekti imaju “manja prava”. Jedan od izvora kaže da bi podatci mogli biti korišteni za bilo što. 


Jacob Snow, odvjetnik za tehnološka i građanska prava na ACLU-u, kaže da su otkrivene taktike razlog za brigu.


“Privatnost je temeljno pravo, a ne privilegija koju si ljudi mogu priuštiti. Google bi trebao znati da biti zao znači ne koristiti informacije od osjetljivih društvenih skupina. Ideja da su ljudi pristali kroz tako ubrzan proces pun krivog navođenja, je čista fikcija”, kaže Snow.


Na pitanje bi li Google mogao biti odgovoran za ova istraživanje, kaže da je to vrlo komplicirano pravno pitanje. “Prema zakonu nije nemoguće da se radnje izvođača pripišu poduzeću koje ugovara s tim subjektom”, kaže Snow.