Наука 2020-02-16 11:48 Баловсяк Надія

Смерть приватності

Як особисті дані стали товаром в епоху капіталізму спостережень

«Я обговорювала з подругою відпочинок у Туреччині (з чоловіком радилася щодо купівлі нової автівки, з друзями дискутувала з приводу останніх кінопрем’єр — варіантів діалогу багато) і через деякий час побачила у Facebook рекламу гарячих турів до Анталії (нового позашляховика чи саме цього фільму). Facebook нас слухає, це доведено на власному прикладі!» Такі дописи час від часу можна прочитати власне у Facebook, почути від друзів і знайомих. Питання про такі ситуації досить часто ставлять слухачі лекцій із цифрової безпеки. Саме про це періодично пишуть медіа. В епоху, коли заґуґлений готель через 15 хв після перегляду відповідної сторінки на booking.com потрапляє у ваш рекламний блок у Facebook, можна дуже легко повірити, що в кожного з нас у смартфоні є шпигун, який аналізує розмови й пропонує відповідну рекламу в соцмережі.
Насправді не зовсім коректно говорити про масове прослуховування наших розмов і використання даних. Реалізувати це буде доволі складно й дорого. А головне — тієї кількості даних, які ми з вами добровільно надаємо великим ІТ-компаніям, достатньо для формування індивідуального портрета кожного та використання його для демонстрування реклами чи маніпулювання рішеннями.

Наші дані всюди
Компанія Google зберігає дані про пошук та активність користувачів своїх сервісів (електронної пошти, карт, відео та браузера Chrome). Facebook колекціонує наші дані щодо використання власних платформ (Facebook, Instagram, WhatsApp) та багато іншої інформації, яку ми самі вказуємо в соцмережі явно (у профайлі чи налаштуваннях) або неявно. Простіше кажучи, Google знає про кожну відвідану нами сторінку, переглянуте відео чи заґуґлений термін, а Facebook — про кожен лайк чи повідомлення в месенджері. Обидві компанії обмінюються цими даними з іншими сайтами та сервісами за допомогою різноманітних інструментів (cookies, Facebok Pixel).
У налаштуваннях згаданих сервісів можна завантажити архів своїх даних і переконатися в тому, що про кожного з нас зберігається величезна кількість інформації. На її основі великі компанії (так звані BigTech) можуть сформувати персоналізований профайл наших дій, інтересів та вподобань і по-різному його використовувати. Метою такого збору даних є реклама товарів та послуг (найпростіший варіант). А ще ця інформація зберігається для прогностичних сигналів, за допомогою яких потужні алгоритми зможуть визначати майбутні дії користувачів, їхній вибір чи поведінку в різних ситуаціях.

Алгоритми знають про нас більше, ніж ми самі
Ось один із прикладів того, як алгоритми прогнозують поведінку та роблять висновки. У 2015 році неповнолітня клієнтка мережі магазинів Target стала отримувати купони та знижки на товари для вагітних і немовлят. Розгніваний батько звернувся до рекламного відділу зі скаргою на нецільову рекламу, і працівники мережі змушені були вибачитися перед чоловіком. Проте згодом виявилося, що дівчина справді була вагітна, принаймні характер її покупок (патерн) і загальна поведінка цілком відповідали діям жінок на ранніх термінах вагітності.
Ще один приклад прогнозування стосується останніх подій із китайським коронавірусом. Канадська моніторингова платформа Blue Dot спрогнозувала сплеск серйозного вірусного захворювання в Піднебесній у січні-лютому 2020 року. Прогноз опублікувала ще 31 грудня 2019-го. Висновки було зроблено на основі аналізу відкритих даних: постів у соцмережах, повідомлень про загибель тварин, даних про авіаперельоти та пошукових запитів жителів Китаю.

коли стеження стало нормою
Онлайн-активність користувачів, великі обсяги даних та інструменти, які вміють їх аналізувати, робити висновки й прогнозувати певні суспільні процеси, спричинили появу нової версії суспільного устрою. Принаймні так вважає американська професорка Шошана Зубофф із Гарвардської школи бізнесу. Вона назвала це капіталізмом спостережень (surveillance capitalism) і детально описала його у своєму бестселері «Епоха нагляду за капіталізмом: боротьба за майбутнє людства на новому кордоні влади» (The Age of Surveillance Capitalism: The Fightfor a Human Future at the New Frontier of Power, 2018). Капіталізм спостережень — середовище, у якому посилюється моніторинг дій людей як в інтернеті, так і в реальному житті (дані про місцезнаходження, переміщення, стан організму) з метою отримання більшого прибутку або керування діями чи думками. Професорка називає це середовище «односторонньою вимогою приватного людського досвіду як безплатної сировини для трансформування його в поведінкові дані». Щодо отриманих таким чином даних застосовуються алгоритми, вони перетворюються на зручну форму прогностичних продуктів, які продаються на поведінкових ф’ючерсних ринках.

Тієї кількості даних, які ми з вами добровільно надаємо великим ІТ-компаніям, достатньо для формування індивідуального портрета кожного та використання його для демонстрування реклами чи маніпулювання рішеннями


Інакше кажучи, капіталізм спостережень став такою формою відносин, за якої факт спостереження за діями та людьми є новою нормою, а його результат — у сирому чи обробленому вигляді — товаром. Цінність цього товару тісно пов’язана з масовістю (цінність аналізу дій окремої людини набагато менша, ніж аналізу даних групи чи спільноти). В обмін на факт спостереження людям надаються певні привілеї (безплатні онлайн-сервіси). І відмовитися від нього майже неможливо, бо тоді доведеться відмовитися від використання сервісів. Понад те, люди часто не усвідомлюють, які обсяги даних вони віддають і скільки коштує ця інформація.
Таким чином, у середовищі безплатних онлайн-сервісів платіжним інструментом стали дані користувачів. Бізнес-модель сучасних інтернет-ресурсів ґрунтується на отриманні інформації про особу в обмін на безплатний доступ до цієї інформації. Причому в умовах капіталізму спостережень у людей немає вибору: дані є практично єдиною «валютою», в обмін на яку можна послуговуватися сервісами. Опції платного доступу без використання персональних даних або не існує, або вона дуже обмежена. Напевне, кожен із нас помічав, як інформація, яку ми шукаємо в Google, потім рекламується на інших онлайн-ресурсах. Це і є найпростіший приклад капіталізму спостережень.
Як заробити на поведінкових даних
Однією з найперших ефективних метрик аналізу поведінки та діяльності інтернет-користувачів став показник клікабельності онлайн-реклами (Click-through rate, CTR). За великим рахунком, увесь капіталізм спостережень почався з успіхів онлайн-реклами, яка може забезпечити точніший і, що не менш важливо, дешевший результат, ніж традиційна. Спочатку більшість людей були в захваті від тих можливостей, які вони отримали завдяки інтернету, але витік персональних даних та поширення фейкових новин показали їхню справжню ціну.
Згодом компанії захотіли знати не лише те, чи натисне представник цільової аудиторії на рекламний банер або рекламний пост у соцмережі, а й те, наприклад, чи варто показувати рекламу іпотеки користувачеві Х. Користувач Y є уважним водієм чи все ж таки вартість його автомобільної страховки має бути вищою? Чи готовий користувач Z заплатити за авіаквиток дорожче, ніж 90% пасажирів цього рейсу?
Сьогодні дані користувачів продаються вже не лише задля реклами, і ми бачимо, як це впливає на життя людей. Дедалі більше банків ухвалюють рішення про надання позики на основі соціального рейтингу (скорингу). Соціальний скоринг — це аналіз відкритих даних, передусім із соціальних мереж, для формування портрета потенційного клієнта та визначення його платоспроможності. Так працює стартап Lenddo в США, Kreditech у Європі, Friendly Score в Мексиці та низці інших країн. Українські банки також запроваджують скоринг для оцінки потенційного позичальника. Є стартапи, які аналізують дані про користувача, перш ніж запропонувати йому страхування. Наприклад, британська компанія Admiral, що стала відома після того, як Facebook заблокував доступ її сервісу Firstcarquote до даних користувачів.
Окрім відкритого отримання персональних даних є безліч історій, коли інформація передається без відома особи. Наприклад, програма для запису на прийом до лікаря HealthEngine передавала дані про пацієнтів юридичним компаніям, зацікавленим у судових позовах через травми на робочому місці. Дослідники з Privacy International виявили, що деякі мобільні програми для жіночого здоров’я передають третім сторонам інформацію, яка в них зберігається, зокрема про незахищений секс. Найвідоміший приклад — історія із сервісом для жінок Ovia. Компанія Activision Blizzard заохочувала свій персонал використовувати цю програму. А потім стало відомо, що Ovia передавала роботодавцеві збережені юзерами дані: інформацію про сон, фертильність, харчування та активність жінок.
Із часом з’явилися нові способи перетворення даних на гроші та нові види бізнесу. Один із них — брокери даних, які збирають інформацію про користувачів інтернет-сервісів, клієнтів мобільних операторів тощо та продають їх зацікавленим сторонам. Ці компанії можуть працювати відкрито. Ось кілька відомих у США брокерів даних: Axciom, LocationSmart, Securus. Останні два стали фігурантами скандалу, що спалахнув у грудні 2019 року після публікації статті у виданні Motherboard. Виявилося, що LocationSmart продавала дані про геолокацію (місцезнаходження) користувачів компанії Securus, не повідомляючи їх про це. Хоча звичайна людина може справедливо зауважити, що в повсякденному житті вона ніяк не відчує того факту, що компанія Х продала інформацію про неї компанії Y.

Зламати демократію
Назву Cambridge Analytica чули, напевно, всі. Компанія збирала дані про користувачів Facebook через вбудовану програму для опитувань і передавала їх третім особам, зокрема організаторам політичних кампаній. Це свідчення того, що наші дані перестали нам належати. Історія з Cambridge Analytica набула розголосу 2018 року. Уже тоді масштаби застосування інструментів аналізу даних, розроблених цією компанією, вражали. Проте одна справа, коли звучить загальна риторика про використання даних для маніпулювання результатами виборів у 20 країнах, і зовсім інша, коли журналістка The Guardian Керол Кадвалладр озвучує на TED результати свого розслідування щодо використання інструментів Cambridge Analytica в організації Brexit. А ще докладніше описує схему роботи з даними у фільмі «The Great Hack» («Великий злам»). Вона проаналізувала сотні рекламних кампаній і виявила, як Facebook завдяки Cambridge Analytica профілював людей за їхніми політичними поглядами й таргетував на них рекламу, часто маніпулятивного та відверто брехливого змісту. Керол назвала рекламні кампанії у Facebook проти членства в ЄС «найбільшим підкупом виборів у Великій Британії» за останні роки, а керівників ІТ-компаній звинуватила в зламі демократії.

капіталізм спостереження 2.0
Спочатку технології капіталізму спостережень аналізували онлайн-активність користувачів на комп’ютерах. Із появою смартфонів з’явилася можливість фіксувати їхнє місцезнаходження та переміщення. Популярність фітнес-трекерів і розумних годинників надали компаніям доступ до даних про здоров’я, активність і сон. А нині ми перебуваємо на початку нового етапу капіталізму спостережень. І пов’язаний він із розвитком технологій розпізнавання облич, які почали активно використовувати в Китаї. Але швидкість поширення та масовість зробили їх доступними чи не в кожному великому місті. Розпізнавання обличчя — най­яскравіший приклад технології, від якої людина не може відмовитися. Це пряме втручання в особисте життя та навіть у свободу волі, часто без попередження користувачів, чиї обличчя аналізуються, а отже, без їхньої згоди. Тобто людину позбавили права дозволяти чи забороняти використовувати зображення свого обличчя. Наразі в США тривають активні дискусії про правомірність існування таких технологій, у деяких містах вони вже заборонені. Адже для розробки законодавчої бази щодо їхнього регулювання й передусім захисту персональних даних потрібен час.

Як із цим боротися
Боротьба з капіталізмом спостережень може скидатися на боротьбу з технічним прогресом. Проте Шошана Зубофф вважає, що боротися з масовим стеженням реально та навіть потрібно. Зокрема, на законодавчому рівні. «Регулювання — це те, чого найбільше бояться великі ІТ-компанії», — каже професорка. Вона не вірить у те, що поділ BigTech на кілька окремих структур змінить ситуацію. На її думку, це лише погіршить ситуацію, а дані користувачів ще вільніше мігруватимуть між компаніями.
Важливою спробою впорядкувати роботу з персональними даними користувачів є ухвалення у 2016-му та запровадження у 2018-му європейського загального регламенту захисту персональних даних (General Data Protection Regulation, GDPR). Наразі не можна однозначно сказати, чи є ця спроба вдалою, натомість відомі випадки, коли саме GDPR був причиною витоку інформації та її передачі третім особам. Проте сам факт появи документа, який бодай якось регулює використання персональних даних, явище позитивне. Уже в січні цього року в Каліфорнії набрав чинності закон про захист персональних даних (California Consumer Privacy Act, CCPA). Де в чому він схожий на GDPR, проте CCPA містить унікальне положення про право на недискримінацію, яке передбачає, що користувачі не повинні підлягати дискримінації через надання послуг гіршої якості чи за вищою ціною на основі їхніх даних.
Окрім захисту персональних даних на законодавчому рівні спостерігається й відповідна громадська активність. Так, колишня працівниця компанії Cambridge Analytica Бріттані Кайзер у 2018 році запустила кампанію #OwnYourData, щоб закликати Facebook до більшої відкритості в роботі з даними користувачів.
Останнім часом Google і Facebook, що володіють найбільшими обсягами персональних даних, стали відкритішими в роботі з ними. Так, Facebook після історії з Cambridge Analytica заблокував зовнішні програми, якими користувач соцмережі послуговується не надто активно. Дозволив завантажити архів збережених даних (обсяги цих даних та їхня деталізація здивували навіть досвідчених ІТ-журналістів та експертів), а також видаляти персональні дані, що передаються іншим сайтам. Мета таких дій — принаймні повідомити користувачів про те, що відбувається з їхніми даними. Водночас це величезний крок уперед порівняно із ситуацією, що була п'ять-сім років тому.

чи справді Facebook слухає нас?
Щоб відповісти на запитання, чи слухає нас Facebook, я провела експеримент. Відібрала кілька ключових слів, які жодним чином не пов’язані з моєю поточною діяльністю й інтересами та проговорювала їх уголос, переглядаючи Facebook-стрічку на своєму смартфоні. Експеримент проходив у два етапи, кожен тривалістю місяць. Зокрема, у вересні 2017-го тестувалися чотири запити: на автомобільну тематику («купити карбюратор»), загальну («курси іспанської») та ще кілька. У січні 2019-го я ускладнила експеримент і тестувала Facebook із двома блоками записів російською та українською мовами: «акторські курси», «ходунки для ребенка» (російською) та «вакансії телеведучих». Головна вимога до вибору слів — вони не повинні бути прямо чи опосередковано пов’язані зі мною, моїми інтересами, моїм віком, статтю, соціальним і майновим станом. В обох випадках у Facebook жодного разу не відобразилася реклама, близька за змістом до цих запитів. Отже, мій висновок — соцмережа через мобільний застосунок прослуховування не веде.
Восени 2019 року Facebook визнав, що наймав сторонніх підрядників для прослуховування аудіоповідомлень користувачів. Тобто якщо хтось залишив у месенджері не текстове повідомлення, а голосове, то не виключено, що Facebook намагатиметься проаналізувати його й використати для реклами. Тим більше що реклама у Messenger є одним із пріоритетів компанії.
У вересні 2019-го експерти з компанії Wandera, яка займається кібербезпекою, також вирішили провести експеримент, щоб перевірити, чи прослуховує Facebook своїх користувачів. У кімнаті, де звучала реклама корму для тварин, поклали два смартфони з відкритими програмами Facebook, Instagram, Chrome, Snapchat, YouTube та Amazon, що мали повний дозвіл на доступ до його даних. А потім проаналізували трафік, який передавала кожна з них, і використання заряду акумулятора. Виявилося, що трафік за такої активної голосової «атаки» не зріс, реклами корму чи пов’язаних продуктів та послуг у жодній зі згаданих програм також не було. Щоправда, коли такий самий експеримент фахівці з Wandera провели з голосовими віртуальними помічниками (Siri та OK Google), було зафіксовано сплеск трафіку.
Таким чином, обидва експерименти підтверджують: саме соцмережі не прослуховують користувачів. Проте це не означає, що такі можливості відсутні в інших програм, установлених на смартфоні, або що вони не передають дані іншим компаніям, а ті, своєю чергою, не демонструють рекламу, зокрема й у соцмережі. Тим більше факт прослуховування було зафіксовано для smart-телевізорів і навіть деяких «розумних» дитячих іграшок.
Реальність така: даних активних користувачів на всіляких сервісах так багато, що наявність чи відсутність прослуховування кардинально не вплине на їхні обсяги.

Приборкати монстра
Змінити ситуацію, хоча б частково, можуть самі компанії, які принаймні попереджатимуть користувачів про те, які персональні дані використовують. Частково вони це вже роблять. Наприклад, у Facebook можна подивитися, чому те чи інше рекламне повідомлення показане саме вам. Проте навіть таке інформування користувачів — це лише вершина айсберга під назвою «доступні користувацькі дані». Адже головна бізнес-модель сучасних онлайн-сервісів, що полягає в наданні безплатного доступу в обмін на особисту інформацію, нікуди не дінеться. Законодавчі обмеження й запровадження платного доступу можуть хоча б спробувати змінити ситуацію. Принаймні зробити капіталізм спостереження не таким ненаситним.