„Wiek kapitalizmu inwigilacji” Shoshany Zuboff nie jest książką wyłącznie o utracie prywatności. Nie sprowadza się również do ostrzeżenia przed reklamami dopasowanymi do historii wyszukiwania, aplikacjami śledzącymi lokalizację czy urządzeniami, które gromadzą informacje o swoich użytkownikach.
Autorka opisuje znacznie szersze zjawisko: powstanie nowego porządku gospodarczego, w którym ludzkie doświadczenie zostaje potraktowane jako darmowy surowiec. Nasze zachowania, rozmowy, trasy przejazdów, zainteresowania, kontakty, zakupy, wyszukiwania i reakcje są rejestrowane, przetwarzane oraz wykorzystywane do przewidywania tego, co zrobimy w przyszłości.
Produktem nie jest już wyłącznie usługa, z której korzystamy. Produktem staje się prognoza naszego przyszłego zachowania.
Zuboff nazywa ten system kapitalizmem inwigilacji. Jej zdaniem nie jest on nieuniknionym skutkiem rozwoju technologii. To konkretny model biznesowy, który powstał dzięki połączeniu ogromnych zasobów danych, możliwości obliczeniowych, reklamy internetowej i słabości prawa, które przez lata nie nadążało za cyfrową rewolucją.
W książce technologia nie jest przedstawiana jako samodzielna siła, która przypadkowo wymknęła się spod kontroli. Problemem jest sposób, w jaki została wykorzystana przez przedsiębiorstwa posiadające wystarczającą wiedzę, kapitał i infrastrukturę, aby obserwować miliardy ludzi na skalę wcześniej niedostępną nawet dla państw.
Kim jest Shoshana Zuboff?
Shoshana Zuboff jest amerykańską badaczką społeczną i emerytowaną profesorką Harvard Business School. Od wielu lat zajmuje się wpływem technologii informacyjnych na pracę, gospodarkę, władzę i życie społeczne.
Jeszcze przed powstaniem największych platform cyfrowych analizowała, w jaki sposób komputeryzacja zmienia organizacje oraz relacje pomiędzy pracownikami i kierownictwem. Zwracała uwagę, że technologie informacyjne nie tylko automatyzują czynności, ale także wytwarzają nowe zasoby wiedzy o ludziach i procesach.
„Wiek kapitalizmu inwigilacji” jest rozwinięciem tych badań. Zuboff próbuje w niej nazwać i uporządkować zjawisko, które przez długi czas rozwijało się szybciej niż język potrzebny do jego opisania.
Książka ukazała się po angielsku w 2019 roku pod tytułem The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Jest obszerną analizą gospodarczą, polityczną i społeczną, a nie prostym poradnikiem ochrony prywatności.
Czym jest kapitalizm inwigilacji?
Kapitalizm przemysłowy czerpał zysk z przetwarzania surowców naturalnych. Ziemia, drewno, węgiel, ropa naftowa i praca ludzka były podporządkowywane procesowi produkcji.
Według Zuboff kapitalizm inwigilacji działa według podobnej logiki, ale jego podstawowym surowcem staje się ludzkie doświadczenie.
Każda aktywność użytkownika może pozostawić ślad cyfrowy. Wpisane zapytanie, zatrzymanie obrazu na ekranie, kliknięcie, tempo przewijania strony, pora aktywności, lokalizacja urządzenia czy sposób poruszania się po sklepie internetowym mogą zostać zamienione w dane.
Część tych informacji służy do prawidłowego działania usługi. Mapa musi znać położenie użytkownika, aby wyznaczyć trasę. Sklep internetowy musi pamiętać zawartość koszyka. System pocztowy analizuje wiadomości, aby wykrywać spam.
Kapitalizm inwigilacji zaczyna się jednak tam, gdzie dane wykraczające poza rzeczywistą potrzebę świadczenia usługi zostają przejęte, połączone z innymi informacjami i wykorzystane do celów, których użytkownik nie zna lub nie jest w stanie realnie kontrolować.
Usługa staje się punktem wejścia do znacznie większego systemu pozyskiwania wiedzy o człowieku.
Nadwyżka behawioralna
Jednym z najważniejszych pojęć wprowadzonych przez Zuboff jest nadwyżka behawioralna.
Są to informacje o zachowaniu użytkownika, które nie są konieczne do wykonania zamówionej przez niego usługi. Zostają jednak zachowane, ponieważ mogą dostarczyć dodatkowej wiedzy o jego potrzebach, przyzwyczajeniach, emocjach i prawdopodobnych przyszłych decyzjach.
Gdy człowiek korzysta z wyszukiwarki, oczekuje odpowiedzi na pytanie. Wytwarza jednak znacznie więcej informacji niż samo zapytanie. System może zapamiętać miejsce, czas, urządzenie, wcześniejsze wyszukiwania, wybrane wyniki, długość wizyty na stronie oraz to, czy po kilku minutach użytkownik zmienił pytanie.
Pojedyncza informacja może nie mieć dużej wartości. Połączenie milionów podobnych danych pozwala jednak budować coraz dokładniejsze modele zachowań.
Zuboff podkreśla, że nadwyżka behawioralna została potraktowana jak surowiec, do którego przedsiębiorstwo może rościć sobie prawo tylko dlatego, że posiada techniczną możliwość jego przejęcia.
Użytkownik rzadko otrzymuje za ten surowiec wynagrodzenie. Najczęściej nie wie również, jak wiele informacji powstało podczas zwykłego korzystania z usługi i do jakich dodatkowych celów zostaną one wykorzystane.
Produkty prognostyczne
Zebrane dane nie są celem samym w sobie. Mają posłużyć do stworzenia produktów prognostycznych.
Algorytmy analizują wzorce zachowań i obliczają prawdopodobieństwo przyszłych działań. Mogą próbować przewidzieć, jaki produkt człowiek kupi, gdzie pojedzie, na którą reklamę zareaguje, czy zrezygnuje z usługi, jakie treści zatrzymają go na platformie albo jaki komunikat wywoła u niego określoną reakcję.
Prognozy te są wartościowe dla reklamodawców, ubezpieczycieli, pracodawców, sprzedawców, pośredników finansowych i innych podmiotów zainteresowanych zmniejszeniem niepewności dotyczącej ludzkiego zachowania.
Im dokładniejsza prognoza, tym większa jej wartość handlowa.
W tradycyjnej reklamie przedsiębiorstwo kupowało dostęp do określonej grupy odbiorców. W systemie opisanym przez Zuboff może kupować możliwość dotarcia do konkretnego człowieka w chwili, w której algorytm uznaje go za szczególnie podatnego na dany komunikat.
Nie chodzi już jedynie o wiedzę, że ktoś interesuje się samochodami. System może próbować ustalić, że użytkownik rozważa zmianę auta, porównuje konkretne modele, dysponuje określonym budżetem i jest bliski podjęcia decyzji.
Rynki przyszłych zachowań
Zuboff określa przestrzeń handlu prognozami jako rynki przyszłych zachowań.
Przedmiotem obrotu nie musi być pełny profil konkretnej osoby. Wartością może być możliwość przewidzenia i wykorzystania zachowania odpowiedniej grupy użytkowników.
Reklamodawca nie zawsze potrzebuje znać nazwisko odbiorcy. Wystarczy mu pewność, że komunikat zostanie pokazany osobom, które z dużym prawdopodobieństwem zareagują w oczekiwany sposób.
Model ten premiuje przedsiębiorstwa posiadające najwięcej danych i najlepsze narzędzia analityczne. Każda kolejna informacja może poprawić dokładność prognoz, a lepsze prognozy przyciągają kolejnych klientów.
Powstaje mechanizm wzmacniający największe platformy:
więcej użytkowników → więcej danych → lepsze prognozy → większe zyski → większe możliwości pozyskiwania kolejnych danych.
To jeden z powodów, dla których w gospodarce cyfrowej może dochodzić do niezwykle silnej koncentracji wiedzy i władzy.
Google jako pionier nowego modelu
W opowieści Zuboff kluczowe miejsce zajmuje Google. Autorka przedstawia firmę jako przedsiębiorstwo, które odkryło, że informacje pozostające po wyszukiwaniu mogą zostać wykorzystane nie tylko do ulepszania wyników, ale również do przewidywania reakcji użytkowników na reklamy.
Model reklamowy pozwolił połączyć ogromny zasób danych z systemem aukcyjnym, w którym reklamodawcy rywalizują o możliwość dotarcia do właściwego odbiorcy we właściwym momencie.
To, co wcześniej mogło być traktowane jako techniczny produkt uboczny działania wyszukiwarki, stało się podstawą nowego źródła przychodów.
Zuboff uważa, że sukces tego rozwiązania wyznaczył kierunek dla całej gospodarki cyfrowej. Kolejne przedsiębiorstwa zaczęły gromadzić coraz więcej danych, ponieważ zobaczyły, że wiedza o użytkowniku może być cenniejsza niż sama sprzedaż usługi.
Nie oznacza to, że każda firma technologiczna działa identycznie ani że każda forma analizy danych jest kapitalizmem inwigilacji. Zuboff koncentruje się na modelu, w którym pozyskiwanie nadwyżki behawioralnej i handel przewidywaniami stają się zasadniczym źródłem zysku.
Od przewidywania do modyfikowania zachowania
Samo przewidywanie zachowania ma ograniczenia. Człowiek może postąpić inaczej, niż wskazuje model. Dlatego system posiada naturalną zachętę do wykonania kolejnego kroku: wpływania na zachowanie, aby zwiększyć prawdopodobieństwo przewidywanego wyniku.
Platforma może zmienić kolejność treści, częstotliwość powiadomień, wygląd przycisku, proponowaną trasę albo moment przedstawienia oferty. Niewielkie modyfikacje środowiska cyfrowego mogą zwiększyć szansę, że użytkownik pozostanie dłużej, kliknie reklamę, dokona zakupu albo wróci do aplikacji.
Zuboff nie twierdzi, że każdy człowiek jest całkowicie sterowalny. Jej argument dotyczy skali. Nawet niewielka zmiana prawdopodobieństwa zachowania może mieć ogromną wartość, jeżeli dotyczy milionów ludzi.
System nie musi kontrolować każdego użytkownika. Wystarczy, że statystycznie przesunie zachowania całej populacji w pożądanym kierunku.
W tym miejscu kapitalizm inwigilacji przestaje być jedynie systemem obserwacji. Staje się infrastrukturą projektowania środowiska, w którym ludzie podejmują decyzje.
Władza instrumentalna
Zuboff odróżnia opisywany system od klasycznego totalitaryzmu. Państwo totalitarne próbuje podporządkować człowieka ideologii, wykorzystując przemoc, strach, indoktrynację i aparat represji.
Kapitalizm inwigilacji nie musi wymagać ideologicznego posłuszeństwa. Interesuje go przede wszystkim zachowanie możliwe do zmierzenia, przewidzenia i zmodyfikowania.
Autorka nazywa tę formę dominacji władzą instrumentalną. Człowiek jest dla niej obiektem obserwacji podobnie jak organizm, maszyna lub element systemu.
Nie trzeba przekonywać użytkownika do określonego światopoglądu. Wystarczy stworzyć środowisko, które zwiększa szansę na oczekiwaną reakcję.
Władza instrumentalna nie musi wydawać jawnych rozkazów. Działa poprzez architekturę wyboru, automatyczne podpowiedzi, bodźce, systemy ocen, powiadomienia i niewidoczne modyfikacje cyfrowego otoczenia.
Najskuteczniejszy wpływ może pozostać niezauważony przez osobę, której zachowanie zostało zmienione.
„Wielki Inny” zamiast Wielkiego Brata
W debatach o inwigilacji często pojawia się obraz Wielkiego Brata z powieści George’a Orwella. Zakłada on istnienie scentralizowanej władzy państwowej, która obserwuje obywateli i wymusza posłuszeństwo.
Zuboff proponuje inne pojęcie: „Wielki Inny”. Jest nim rozproszona infrastruktura urządzeń, czujników, aplikacji, platform i systemów analitycznych, które stale gromadzą informacje o rzeczywistości.
Wielki Inny nie musi posiadać twarzy przywódcy ani jednolitego centrum dowodzenia. Może być siecią prywatnych systemów działających poza bezpośrednią kontrolą demokratyczną.
Telefon, samochód, zegarek, telewizor, domowy asystent, kamera, karta płatnicza i aplikacja zdrowotna mogą wytwarzać oddzielne strumienie danych. Po ich połączeniu powstaje obraz człowieka dokładniejszy niż informacje, które świadomie przekazałby jednej instytucji.
Kontrola nie musi polegać na tym, że ktoś obserwuje ekran z naszym nazwiskiem. Może być wykonywana automatycznie przez systemy klasyfikujące, przewidujące i reagujące na nasze zachowania.
Wygoda jako cena dostępu
Kapitalizm inwigilacji nie rozwija się wyłącznie za pomocą przymusu. Jego podstawowym narzędziem jest wygoda.
Usługi cyfrowe ułatwiają komunikację, podróżowanie, zakupy, pracę, rozrywkę i dostęp do informacji. Rezygnacja z nich może oznaczać realne utrudnienie codziennego życia.
Użytkownik otrzymuje natychmiastową korzyść, natomiast koszt przekazania danych jest odległy, trudny do oszacowania i często niewidoczny. Zgoda zostaje sprowadzona do zaakceptowania wielostronicowego regulaminu, którego przeczytanie i zrozumienie wymagałoby czasu oraz specjalistycznej wiedzy.
Formalnie człowiek może mieć wybór. W praktyce alternatywą bywa rezygnacja z usługi, której potrzebuje do pracy, kontaktu z rodziną albo uczestnictwa w życiu społecznym.
Zuboff podważa więc przekonanie, że kliknięcie przycisku „akceptuję” oznacza świadomą i równorzędną umowę.
Jedna strona zna strukturę systemu, cele analizy oraz wartość danych. Druga widzi jedynie ekran aplikacji i obietnicę wygodnej funkcji.
Nierówność wiedzy
Jednym z najważniejszych problemów opisanych w książce jest skrajna asymetria wiedzy.
Platformy mogą wiedzieć coraz więcej o użytkownikach, podczas gdy użytkownicy wiedzą bardzo niewiele o platformach. Nie znają pełnej listy zbieranych danych, sposobu ich łączenia, kryteriów klasyfikacji ani podmiotów, które mogą uzyskać dostęp do wyników analizy.
Zuboff określa ten problem jako nowy podział wiedzy w społeczeństwie.
Pytanie nie brzmi już tylko: kto posiada środki produkcji? Równie ważne stają się pytania:
Kto posiada wiedzę o społeczeństwie?
Kto decyduje, jaka wiedza zostanie wytworzona?
Kto ma prawo wykorzystać ją do przewidywania i zmieniania zachowań?
Władza wynikająca z danych może być trudniejsza do zauważenia niż tradycyjna własność. Nie musi być widoczna w postaci fabryki, wojska czy budynku urzędu. Jest ukryta w centrach danych, kodzie, modelach statystycznych i regulaminach usług.
Czy to naprawdę bezpłatne usługi?
Popularne powiedzenie głosi, że jeżeli nie płacimy za produkt, sami jesteśmy produktem. Zuboff przedstawia sprawę dokładniej.
Użytkownik nie jest produktem sprzedawanym reklamodawcy w dosłownym znaczeniu. Jest raczej źródłem surowca, z którego powstają produkty prognostyczne.
Platforma nie sprzedaje człowieka. Sprzedaje możliwość przewidzenia lub zwiększenia prawdopodobieństwa jego zachowania.
To rozróżnienie jest istotne, ponieważ pokazuje, dlaczego sam model płatności nie rozwiązuje problemu. Usługa może być płatna i jednocześnie gromadzić dane wykraczające poza potrzeby klienta. Może również łączyć opłatę abonamentową z reklamą i analizą zachowań.
Nie chodzi zatem tylko o to, c