Neviditelný čert

Na Live Science se objevil úryvek z knihy „Tvoje tvář patří nám“ (Simon & Schuster, 2023) novinářky Kashmir Hill. Vzpomíná v něm na vznik technologické společnosti Clearview AI, která vstoupila do povědomí veřejnosti se svým softwarem umělé inteligence, který údajně dokáže identifikovat prakticky kohokoli na základě jediného záběru jeho tváře. Vybral jsem z toho několik poupravených pasáží.

Lucifer

V listopadu 2019 se Kashmir Hill stala reportérkou deníku The New York Times a hned dostala tip, který se zdál příliš pobuřující na to, aby byl pravdivý: Záhadná společnost Clearview AI tvrdila, že dokáže identifikovat téměř kohokoli pouze na základě snímku jeho obličeje

Kashmir Hill se během zahraniční cesty ubytovala ve švýcarském hotelu. V té době byla v šestém měsíci těhotenství, takže očekávala, že další pracovní cesta bude až po nějaké pauze. Náhle jí přišel zvláštní e‑mail. Bylo v něm právní memorandum označené jako „Důvěrné a tajné“, v němž právník společnosti Clearview uvedl, že společnost stáhla miliardy fotografií z internetu, včetně sociálních sítí, jako jsou Facebook, Instagram a LinkedIn, aby vytvořila revoluční aplikaci.

Když Clearview předáte fotografii náhodného člověka na ulici, vyplivne vám všechna místa na internetu, kde si všiml jeho obličeje, a potenciálně odhalí nejen jeho jméno, ale i další osobní údaje o jeho životě. Společnost tuto superschopnost prodávala policejním oddělením po celé zemi, ale snažila se její existenci utajit.

Ještě nedávno bylo automatické rozpoznávání obličejů dystopickou technologií, kterou si většina lidí spojovala pouze se sci-fi romány nebo filmy jako „Minority Report“. Inženýři se ji poprvé pokusili uskutečnit v 60. letech 20. století, kdy se snažili naprogramovat první počítač, který by porovnal něčí portrét s větší databází lidských tváří. Na začátku roku 2000 s ním začala experimentovat policie, která v databázích fotografií hledala tváře neznámých podezřelých z trestných činů. Tato technologie se však z velké části ukázala jako neuspokojivá. Její výkonnost se lišila podle rasy, pohlaví a věku, a dokonce i nejmodernější algoritmy měly potíže s tak jednoduchou věcí, jako je přiřazení fotografie obličeje k zrnitému snímku z kamerového systému bankomatu.

Společnost Clearview tvrdila, že je jiná, a uváděla „98,6% míru přesnosti“ a obrovskou sbírku fotografií, která se nepodobala ničemu, co policie používala předtím. To je obrovské, pokud je to pravda, pomyslela si Kashmir Hill, když znovu pročítal memorandum Clearview, které nikdy nemělo být zveřejněno. Soukromí a jeho neustálému oslabování se věnovala více než deset let. Ve svých článcích často zmiňuje „hrozící technologickou dystopii – a jak se jí můžeme pokusit vyhnout“, ale nikdy předtím neviděla tak drzý útok na anonymitu.

Soukromí, slovo, které je notoricky obtížné definovat, bylo nejznáměji popsáno v článku Harvard Law Review v roce 1890 jako „právo být ponechán sám sobě“. Dva právníci, kteří článek napsali, Samuel D. Warren mladší a Louis D. Brandeis, požadovali, aby právo na soukromí bylo chráněno zákonem spolu s ostatními již zakotvenými právy – na život, svobodu a soukromé vlastnictví. Inspirovala je tehdy nová technologie – přenosný filmový fotoaparát Eastman Kodak, vynalezený v roce 1888, který umožnil vzít si fotoaparát mimo ateliér a pořídit „okamžité“ fotografie každodenního života – a také lidé jako já, všetečný člen tisku.

„Okamžité fotografie a novinové podniky zasáhly do posvátných oblastí soukromého a domácího života,“ napsali Warren a Brandeis, „a četná mechanická zařízení hrozí naplnit předpověď, že co se šeptá ve skříni, bude hlásáno z vrcholků domů“.

Kashmir Hill napsala, jak tato někdy neohrabaná a k chybám náchylná technologie nadchla orgány činné v trestním řízení a průmysl, ale vyděsila občany, kteří si uvědomují své soukromí. Když si uvědomila, co Clearview podle jejího názoru dokáže, vzpomněla si na federální seminář, kterého se před lety zúčastnila ve Washingtonu, kde se sešli zástupci průmyslu, vládní úředníci a obhájci soukromí, aby vyjasnili pravidla.

Jediné, na čem se všichni shodli, bylo, že by nikdo neměl zavádět aplikaci pro identifikaci cizích lidí. Říkali, že je to příliš nebezpečné. Nějaký podivín v baru by vás mohl vyfotit a během několika vteřin by věděl, kdo jsou vaši přátelé a kde bydlíte. Mohla by být použita k identifikaci protivládních demonstrantů nebo žen, které vstoupily na kliniku plánovaného rodičovství. Byla by to zbraň k obtěžování a zastrašování. Přesné rozpoznávání obličejů v rozsahu stovek milionů nebo miliard lidí bylo třetí kolejí této technologie. A nyní společnost Clearview, neznámý hráč na tomto poli tvrdila, že ji sestrojila.

Máme sklon věřit, že počítače mají téměř magickou moc, že dokáží přijít na řešení jakéhokoli problému a s dostatkem dat ho nakonec vyřešit lépe než člověk. Investoři, zákazníci a veřejnost se tak mohou nechat oklamat nehoráznými tvrzeními a některými digitálními triky společností, které usilují o něco velkého, ale ještě toho nedosáhly.

Obavy z rozpoznávání obličejů se stupňovaly po celá desetiletí. A teď ten mlhavý strašák konečně našel svou podobu: malá společnost se záhadnými zakladateli a nepochopitelně velkou databází. A nikdo z milionů lidí, kteří tuto databázi tvořili, k tomu nedal souhlas. Clearview AI představuje naše nejhorší obavy, ale také konečně nabízí příležitost se jim postavit.

Zdroj: Live Science, 'I'd never seen such an audacious attack on anonymity before': Clearview AI and the creepy tech that can identify you with a single picture

22.10.2024, 00:00:00   Publikoval Luciferkomentářů: 0