fbpx
ОСТАННІЙ ПОДКАСТ

Ми під'їдаємо крихти cookies за вами. Навіщо це нам?

Читати

Пардон за відволікалочку. Допоможи Куншт бути незалежним!

Пардон за відволікалочку. Допоможи Куншт бути незалежним!

Повідомлення успішно надіслано

Для пошуку
введіть назву запису
Блог — 16.09.20
ТЕКСТ: Марія Гур'єва
Ілюстрації: Каталіна Маєвська
Ми любимо тексти без помилок. Якщо ви все ж таки щось знайшли, виділіть фрагмент і натисніть
Ctrl+Enter.
Тебе не впізнати

Що таке технологія розпізнавання облич і чому вона може загрожувати правам людини? Розповідає правозахисниця Amnesty International Україна Марія Гур’єва.

Що про тебе знає держава в епоху COVID-19? Чи відомо їй, де ти, які сайти відвідуєш або яку їжу замовляєш? Пандемія стала потужним тригером для масового стеження за людьми, виправданого стриманням поширення коронавірусу. Збір і обробка персональних даних, геолокацій, IP- та MAC-адрес активно увійшли в щоденну практику багатьох держав, що дозволило частково розірвати ланцюжок зараження. Однак чимало країн використали пандемію як привід і почали активно нарощувати технології стеження. Китай, який і раніше щоденно стежив за громадянами, із початком пандемії став полігоном для масових випробувань технології розпізнавання облич (ТРО).

 

У світі китайську модель розцінили як взірець успішної боротьби з вірусом, а ІТ-компанії за повної підтримки уряду Піднебесної почали експортувати системи за кордон, пропонуючи урядам позики та вигідні умови. Цим скористалося чимало країн з авторитарним режимом, а також деякі європейські держави. Загалом, Китай є найбільшим постачальником технологій. Такі компанії як Huawei, ZTE, Hikvision, Dahua експортують їх у 63 країни.2 Зокрема в Узбекистан, Казахстан, Росію, Єгипет, Іран, Саудівську Аравію. У квітні 65 мільйонів гривень на відеокамери, які вимірюють температуру тіла та розпізнають обличчя, збиралась витратити й українська столиця.3 Дані мали передавати в Національну поліцію. Однак через порушення умов тендеру камери так і не закупили.4

 

Крім того, до кінця 2019 року щонайменше 15 європейських країн експериментували з біометричними технологіями масового стеження, як-от розпізнавання обличчя.5 

 

За даними AI Global Surveillance (AIGS) Index, різні технології стеження використовуються у 176 країнах світу. 

Але чи може масове стеження і ТРО зокрема бути запорукою безпеки та процвітання суспільства — чи це, навпаки, насамперед загроза для наших свобод?

 

Як працює технологія?

 

Технологія розпізнавання обличчя (ТРО) дозволяє автоматично ідентифікувати і верифікувати особу. Верифікація перевіряє два біометричні шаблони, які належать одній людині. Ідентифікація, зі свого боку, порівнює зображення обличчя з багатьма іншими шаблонами, аби співвіднести портрет людини з іменем. Тобто ідентифікація дозволяє сказати, хто ти, тоді як верифікація дозволяє перевірити, чи є ти тією людиною, за яку себе видаєш. ТРО дозволяє збирати біометричні дані через відеоспостереження й онлайн-застосунки, а також надає урядам персональну інформацію й місцеперебування людини. Крім того, такий інструмент дозволяє проаналізувати особливості людини, зокрема колір шкіри, вік, гендер або можливий статус інвалідності.

 

ТРО-системи вже поряд із нами: щодня власники смартфонів Apple у такий спосіб розблоковують свої пристрої або здійснюють платежі, деякі аеропорти ідентифікують громадян на міжнародних рейсах без паспорта й посадкового талона, а правоохоронці за допомогою камер з функцією ідентифікації особи можуть швидше виявляти злочинців. Зокрема ТРО використовують в аеропортах Лондона – Гітроу та Гетвіку, аеропорту Гартсфілда-Джексона в Атланті (США), Хамаді в Катарі, Схіпголі в Амстердамі. В США ТРО вже використовується принаймні у 17 аеропортах,7 а до 2023, згідно з планами, авіакомпанії матимуть можливість сканувати обличчя 97% пасажирів комерційних авіарейсів.

 

Чому від ТРО почали відмовлятися ІТ-гіганти?

 

Пам’ятаєте 2018 рік, коли у фейсбуці з’явилася функція автоматичного розпізнавання користувачів на фото? Так от, за це соцмережа через рік виплатить $550 мільйонів доларів компенсації, аби задовольнити рішення суду за колективним позовом мешканців штату Іллінойс.8 Там ця технологія вважається незаконним збором біометричних даних. Нині інструмент вже не працює автоматично. Зараз у фейсбуці є інструкція як можна увімкнути або вимкнути цю функцію.

 

На хвилі руху Black lives matter у США технологічні компанії одна за одною почали відмовлятися від технології. Адже американська поліція почала використовувати ТРО для ідентифікації мирних протестувальників та їх відстеження. IBM зупинила всі розробки технологій розпізнавання облич через порушення прав людини, Microsoft і Amazon закрили поліції США доступ до власних інструментів. Однак цю технологію досі розробляють багато компаній, її застосовують у США, ЄС, Китаї та багатьох інших країнах, що призводить до численних порушень прав людини. Наприклад, американські журналісти стверджують, що застосунок компанії Clearview AI використовують понад 600 правоохоронних агенцій США.9 Інші компанії ТРО, як-от Dataworks Plus, також продають свої системи у відділки поліції, зокрема в США.10

 

Що не так із розпізнаванням облич?

 

Точність технологій розпізнавання облич дуже залежить від якості даних, що використовуються під час ідентифікації та верифікації осіб.11 Наприклад, значну роль відіграють роздільна здатність зображення, співвідношення фону та об’єкта, освітлення та відбиття світла, ергономіка, вік, стать, колір та стан шкіри.

 

За даними Amnesty International, використання ТРО урядами, зокрема правоохоронними органами може спровокувати цілу низку проблем. Зокрема створити умови для цілеспрямованої дискримінації, посилити дискримінацію певних груп та загалом загрожує праву на приватність. Це також матиме руйнівний вплив на громадянське суспільство, адже активісти та активістки й загалом всі, хто контролюють діяльність влади та висловлюють незгоду з політикою своїх урядів, стануть більш вразливими. Крім того, через низький рівень точності технології, людей із небілим кольором шкіри та жінок можуть ідентифікувати помилково. Адже ТРО є більш точним, коли йдеться про верифікацію чи ідентифікацію білих чоловіків. Натомість спостерігається чимало помилок під час роботи із зображеннями жінок, людей з небілим кольором шкіри, андрогінних людей та осіб з інвалідністю. Така неточність може призвести до хибних і безпідставних звинувачень та переслідувань невинних людей.

 

Так, під час одного з експериментів програмне забезпечення для розпізнавання облич від Amazon Rekognition помилково визначив 28 членів Конгресу США як людей, підозрюваних у злочинах.12 Для Конгресу загалом рівень помилок становив 5%, а для законодавців з небілим кольором шкіри – 39%. Окрім цього, шеф поліції Детройту заявив, що якби поліцейські користувалися тільки Facial Recognition, 96% операцій були б помилковими.13 У Китаї ця технологія використовується для расової ідентифікації уйгурів, представників та представниць мусульманської етнічної меншини. А в Росії за допомогою камер ТРО встановлюють осіб, які брали участь у протестах, для переслідування у майбутньому.

 

Який вплив ТРО матиме на наше життя?

 

Безпека. Наші дані збираються без вашого дозволу та навіть без відома. Немає гарантій, що до них не отримають доступ хакери або що ними не зловживатимуть уряди та бізнеси.

 

Неправильна ідентифікація. Якщо ТРО застосовують правоохоронні органи, це створює серйозні ризики, адже невинних людей можуть ідентифікувати як злочинців і піддавати необґрунтованим переслідуванням.

 

Дискримінація. Технологія дозволяє профілювати людей відповідно до певних характеристик, наприклад, етнічної належності, статі, віку, політичних поглядів тощо. Це дозволить урядам таргетувати вас як представника чи представницю певної групи.

 

Громадянські свободи. Уряди використовують ТРО для ідентифікації учасників та учасниць мирних мітингів і згодом можуть відстежувати їх. Це матиме величезний вплив на громадянське суспільство в різних країнах. Активісти та активістки, особливо в тоталітарних державах, будуть у ще більшій небезпеці.

 

Уряди намагаються далі впроваджувати ТРО під приводом контролю населення заради боротьби з COVID-19 та інших аргументів, пов’язаних з боротьбою зі злочинністю та тероризмом.

 

Інновації, які мали б спрощувати й вдосконалювати життя людей, можуть становити загрозу, якщо опиняються в руках тоталітарних урядів. Пандемія стала своєрідним виправданням для активного використання ТРО. Однак і світова спільнота, і ІТ-гіганти вже зрозуміли, що правами людей не можна нехтувати, навіть із благими намірами.

ТЕКСТ: Марія Гур'єва
Ілюстрації: Каталіна Маєвська
Статті