21 lekcji na XXI wiek. Yuval Noah Harari

      Problemów, z którymi borykają się algorytmy, jest bardzo wiele, można by więc dojść do wniosku, że ludzie nigdy im nie zaufają. Długa lista tych kłopotów przypomina jednak trochę katalog wszystkich możliwych wad demokracji: również w tym wypadku chciałoby się powiedzieć, że nikt przy zdrowych zmysłach nie wybrałby takiego systemu. Wszystkim znane są słowa Winstona Churchilla, że demokracja jest najgorszym systemem politycznym na świecie, jeśli nie liczyć wszystkich innych. Słusznie czy nie, ludzie mogą dojść do tych samych wniosków na temat algorytmów opartych na big data: wiąże się z nimi cała masa problemów, ale nie mamy lepszego rozwiązania.

      W miarę jak naukowcy będą pogłębiali swoją wiedzę na temat sposobu dokonywania wyborów przez ludzi, pokusa zdania się na algorytmy będzie przypuszczalnie coraz silniejsza. Zhakowanie ludzkiego procesu podejmowania decyzji nie tylko zwiększy niezawodność opartych na big data algorytmów, lecz zarazem doprowadzi do tego, że m n i e j niezawodne staną się ludzkie uczucia. Gdy rządom i korporacjom uda się zhakować ludzki system operacyjny, zostaniemy wystawieni na potok precyzyjnie kierowanej manipulacji, reklamy i propagandy. Wpływanie na nasze opinie i emocje może stać się tak proste, że będziemy zmuszeni zdać się na algorytmy – tak samo jak pilot, który podczas lotu dostał akurat zawrotów głowy, musi więc zignorować to, co mówią mu własne zmysły, i zaufać całkowicie aparaturze.

      W niektórych krajach i niektórych kwestiach ludzie mogą nie mieć w ogóle wyboru i zostaną zmuszeni do podporządkowania się decyzjom algorytmów opartych na big data. Nawet jednak w społeczeństwach uchodzących za wolne algorytmy mogą zdobyć władzę, ponieważ doświadczenie nauczy nas ufać im w coraz większej liczbie sytuacji i stopniowo stracimy zdolność samodzielnego podejmowania decyzji. Wystarczy przypomnieć, jak w ciągu zaledwie dwóch dziesięcioleci miliardy ludzi nauczyły się powierzać algorytmowi wyszukiwania Google’a jedno z najważniejszych zadań: znajdowanie użytecznych i wiarygodnych informacji. Właściwie już nie szukamy informacji. Zamiast tego googlujemy. A w miarę jak coraz bardziej opieramy się na Google’u, poszukując odpowiedzi, zmniejsza się nasza zdolność samodzielnego pozyskiwania informacji. Już dzisiaj „prawdę” definiują najwyżej się plasujące wyniki wyszukiwania Google’a54.

      To samo dzieje się z umiejętnościami fizycznymi, na przykład z orientacją w przestrzeni. O poprowadzenie do celu ludzie proszą Google’a. Gdy dojeżdżają do jakiegoś skrzyżowania, intuicja może im podpowiadać: „skręć w lewo”, ale Mapy Google mówią: „skręć w prawo”. Za pierwszym razem słuchają intuicji, skręcają w lewo, trafiają na korek i spóźniają się na ważne spotkanie. Następnym razem słuchają Google’a, skręcają w prawo i udaje im się zdążyć na czas. Uczą się ufać Google’owi na podstawie doświadczenia. Po roku lub dwóch ślepo polegają na tym, co mówią Mapy Google, a kiedy padnie im smartfon, są jak dzieci we mgle.

      W marcu 2012 roku w Australii troje japońskich turystów postanowiło wybrać się na całodzienną wycieczkę na jakąś wysepkę i wjechało samochodem prosto do Oceanu Spokojnego. Kierująca nim dwudziestojednoletnia Yuzu Noda oznajmiła później, że po prostu wykonywała polecenia GPS-u: „on powiedział, że możemy tamtędy przejechać. Cały czas mówił, że poprowadzi nas do drogi. Ugrzęźliśmy”55. W kilku podobnych sytuacjach, najwyraźniej wykonując polecenia GPS-u, ludzie wjeżdżali do jeziora albo spadali z krawędzi rozebranego mostu56. Zdolność odnajdywania drogi jest jak mięśnie – nieużywana zanika57. To samo dotyczy umiejętności wybierania sobie małżonka albo profesji.

      Co roku miliony młodych ludzi muszą decydować, gdzie iść na studia. To bardzo ważna i niezwykle trudna decyzja. Młody człowiek znajduje się pod silną presją ze strony rodziców, przyjaciół i nauczycieli, którzy mają różne interesy i różne zdania. Ma też własne marzenia i obawy, z którymi musi sobie radzić. Jego ocenę sytuacji mącą hollywoodzkie filmy, szmirowate powieści oraz wyrafinowane kampanie reklamowe. Trudno jest mu podjąć mądrą decyzję przede wszystkim dlatego, że tak naprawdę nie wie, co jest potrzebne do odniesienia sukcesu w różnych zawodach, poza tym niekoniecznie ma realistyczne wyobrażenie na temat własnych mocnych i słabych stron. Czego potrzeba, by być dobrym prawnikiem? Jak sobie radzę pod presją? Czy dobrze pracuję w zespole?

      Może się zdarzyć, że jakaś dziewczyna wybierze studia prawnicze, ponieważ ma niewłaściwe wyobrażenie na temat własnych umiejętności i jeszcze bardziej zniekształconą wizję tego, z czym w rzeczywistości wiąże się bycie prawnikiem (wcale nie trzeba przez cały dzień wygłaszać patetycznych przemówień ani krzyczeć: „Sprzeciw, Wysoki Sądzie!”). Tymczasem jej przyjaciółka postanawia spełnić swoje marzenie z dzieciństwa i pójść na studia artystyczne, na których chce się uczyć zawodowo tańca baletowego, mimo że nie ma odpowiedniej do tego budowy kości, brakuje jej też koniecznej dyscypliny. Po latach obie kobiety bardzo żałują swych decyzji. W przyszłości będziemy mogli oprzeć się na Google’u, który będzie podejmował takie decyzje za nas. Google będzie mógł mi powiedzieć, że studia na wydziale prawa lub w szkole baletowej będą dla mnie stratą czasu – a jednocześnie, że mógłbym zostać znakomitym (i bardzo szczęśliwym) psychologiem albo hydraulikiem58.

      Z chwilą gdy sztuczna inteligencja stanie się lepsza od nas w podejmowaniu decyzji w sprawie naszej kariery, a może nawet naszych związków, będzie się musiało zmienić nasze pojęcie ludzkości i życia. Przywykliśmy myśleć o życiu jako o dramacie podejmowania decyzji. Demokracja liberalna i kapitalizm wolnorynkowy traktują jednostkę jako niezależny podmiot, który nieustannie dokonuje wyborów dotyczących świata. Wszelkie utwory narracyjne – czy będą to sztuki Szekspira, powieści Jane Austen czy tandetne hollywoodzkie komedie – zazwyczaj obracają się wokół bohatera, który musi podjąć jakąś wyjątkowo ważną decyzję. Być albo nie być? Posłuchać żony i zabić Dunkana czy posłuchać głosu sumienia i oszczędzić starego króla? Wyjść za pana Collinsa czy za pana Darcy’ego? Na dramacie, jakim jest podejmowanie decyzji, skupiona jest również chrześcijańska i muzułmańska teologia, które twierdzą, że wieczne zbawienie lub potępienie zależy od dokonania właściwego wyboru.

      Co stanie się z tą wizją życia, gdy coraz bardziej będziemy się zdawać na podpowiedzi sztucznej inteligencji? Obecnie Netflixowi powierzamy rekomendowanie nam filmów, a Mapom Google decydowanie, w którą stronę skręcić na skrzyżowaniu. Z chwilą jednak gdy zaczniemy polegać na SI w zakresie wyboru studiów, pracy, żony czy męża, ludzkie życie przestanie być dramatem podejmowania decyzji. Demokratyczne wybory i wolny rynek nie będą miały wielkiego sensu. Podobnie jak większość religii i dzieł literackich. Wyobraźmy sobie Annę Kareninę, która bierze do ręki smartfona i pyta facebookowy algorytm, czy powinna nadal być żoną Karenina, czy uciec z dziarskim hrabią Wrońskim. Albo pomyślmy o swojej ulubionej sztuce Szekspira, w której wszystkie najważniejsze decyzje podejmuje algorytm Google’a. Życie Hamleta i Makbeta będzie znacznie szczęśliwsze, ale jakiego właściwie rodzaju to będzie życie? Czy mamy modele pozwalające je rozumieć?

      Gdy władza przejdzie z ludzi na algorytmy, możemy przestać rozumieć świat jako przestrzeń, w której niezależne jednostki starają się podejmować właściwe wybory. Zamiast tego możemy zacząć postrzegać cały wszechświat jako przepływ danych, uważając, że organizmy to nic więcej niż biochemiczne algorytmy, i wierząc, że powołaniem ludzkości w kosmosie jest stworzenie wszechogarniającego systemu przetwarzania danych – a następnie włączenie się weń. Już dzisiaj

Скачать книгу