nazistowskie Niemcy różniły się od Francji z okresu ancien régime’u. Ludwik XIV był despotą i zwolennikiem centralizmu, nie miał jednak środków technicznych, które pozwoliłyby mu stworzyć nowoczesne państwo totalitarne. Nikt nie sprzeciwiał się jego panowaniu, jednak wobec braku radia, telefonu i kolei żelaznej miał niewielką kontrolę nad codziennym życiem chłopów w odległych bretońskich wioskach, a nawet mieszczan w samym sercu Paryża. Nie miał ani woli, ani zdolności, by zakładać jakąś masową partię, tworzyć ogólnokrajowy ruch młodzieżowy czy ustanawiać państwowy system edukacji73. Tym, co Hitlerowi dało zarówno motywację, jak i dodatkowe możliwości, były nowe technologie XX wieku. Nie jesteśmy w stanie przewidzieć, jakie będą motywacje i możliwości cyfrowych dyktatur w 2084 roku, ale jest bardzo mało prawdopodobne, by po prostu kopiowały dzieło Hitlera i Stalina. Tych, którzy sądzą, że przyjdzie im toczyć bitwy takie jak te z lat trzydziestych, może zaskoczyć atak z całkiem innej strony.
Nawet gdyby demokracji udało się przystosować i przetrwać, mogą się w niej pojawić nowe formy ucisku i dyskryminacji. Już dzisiaj coraz więcej banków, korporacji i instytucji używa algorytmów do analizowania danych oraz podejmowania decyzji, które nas dotyczą. Gdy starasz się o pożyczkę w banku, może się zdarzyć, że twój wniosek rozpatrzy algorytm, a nie człowiek. Algorytm analizuje mnóstwo danych na twój temat oraz statystyki dotyczące milionów innych ludzi, po czym decyduje, czy jesteś wystarczająco wiarygodna, by bank udzielił ci pożyczki. Często algorytm spisuje się lepiej niż bankier. Problem polega jednak na tym, że jeśli algorytm dyskryminuje pewnych ludzi, traktując ich niesprawiedliwie, trudno w ogóle to stwierdzić. Jeśli bank odmówi udzielenia ci pożyczki, a ty zapytasz: „Dlaczego?”, usłyszysz w odpowiedzi, że to algorytm nie wyraził zgody. Spytasz: „Dlaczego algorytm się nie zgadza? Co jest ze mną nie tak?”, a bank odpowie: „Nie wiemy. Żaden człowiek nie rozumie tego algorytmu, ponieważ opiera się on na zaawansowanym uczeniu maszynowym. Ale ufamy swemu algorytmowi, dlatego nie udzielimy pani pożyczki”74.
Gdy dyskryminowane są całe grupy, na przykład kobiety albo czarnoskórzy, mogą się zorganizować i przeciwko temu protestować. Teraz jednak algorytm może dyskryminować ciebie osobiście, a ty nie będziesz miała pojęcia, dlaczego tak się dzieje. Być może w twoim DNA albo w twojej osobistej historii na facebookowym profilu algorytm znalazł coś, co mu się nie podoba. Algorytm dyskryminuje cię nie dlatego, że jesteś kobietą albo Afroamerykanką – ale dlatego, że jesteś sobą. Jest w tobie coś, co nie podoba się algorytmowi – jakaś konkretna rzecz. Nie wiesz, co to takiego, a nawet gdybyś wiedziała, nie mogłabyś zorganizować wspólnego protestu z innymi ludźmi, ponieważ nie ma nikogo, kto padłby ofiarą uprzedzenia dokładnie z tego samego powodu. Jesteś tylko ty. Zamiast zwykłej zbiorowej dyskryminacji w XXI wieku możemy stanąć w obliczu narastającego problemu dyskryminacji indywidualnej75.
Prawdopodobnie na najwyższych szczeblach władzy mimo wszystko pozostawimy ludzi: będą to figuranci dający nam złudzenie, że algorytmy są tylko doradcami, a najwyższa władza wciąż znajduje się w ludzkich rękach. Nie będziemy mianowali sztucznej inteligencji kanclerzem Niemiec ani dyrektorem generalnym Google’a. Jednakże decyzje podejmowane przez kanclerza i dyrektora generalnego będzie kształtowała SI. Kanclerz nadal będzie mógł wybierać między różnymi możliwościami czy scenariuszami działań, ale wszystkie te opcje będą wynikiem analizy big data i będą bardziej odzwierciedleniem tego, jak widzi świat sztuczna inteligencja, niż jak patrzą na niego ludzie.
By podać analogiczny przykład: dzisiaj politycy na całym świecie mogą wybierać spośród wielu różnych wariantów polityki gospodarczej, ale niemal we wszystkich wypadkach te rozmaite jej odmiany znajdujące się w ofercie stanowią odzwierciedlenie kapitalistycznego poglądu na ekonomię. Politycy mają złudzenie wyboru, ale naprawdę ważne decyzje zostały podjęte dużo wcześniej przez ekonomistów, bankierów i przedsiębiorców, którzy określili te różne opcje w menu. W ciągu paru dziesięcioleci politycy mogą znaleźć się w sytuacji, gdy będą wybierali z menu napisanego dla nich przez SI.
Dobra wiadomość jest taka, że przynajmniej w ciągu najbliższych paru dziesięcioleci nie będziemy jeszcze mieli do czynienia z prawdziwym koszmarem rodem z science fiction, kiedy to sztuczna inteligencja zyskałaby świadomość i decydowała o tym, czy ludzkość zniewolić, czy zmieść z powierzchni ziemi. Będziemy coraz bardziej polegać na algorytmach, które będą podejmowały za nas decyzje, jest jednak mało prawdopodobne, by zaczęły świadomie nami manipulować. Nie będą miały żadnej świadomości.
Science fiction na ogół myli inteligencję ze świadomością i zakłada, że po to, by dorównać ludzkiej inteligencji lub ją przewyższyć, komputery będą musiały rozwinąć świadomość. Fabuła prawie wszystkich filmów i powieści na temat SI koncentruje się wokół magicznej chwili, w której jakiś komputer albo robot zdobywa świadomość. W tym momencie zwykle pojawia się kilka możliwości: albo ludzki bohater zakochuje się w robocie, albo robot próbuje zabić wszystkich ludzi, albo obie te rzeczy zdarzają się jednocześnie.
W rzeczywistości jednak nie ma powodu, by zakładać, że sztuczna inteligencja zyska świadomość, ponieważ inteligencja i świadomość to zupełnie różne rzeczy. Inteligencja to zdolność rozwiązywania problemów. Świadomość to zdolność odczuwania takich stanów, jak ból, radość, miłość i złość. Na ogół mylimy te dwa pojęcia, ponieważ u ludzi oraz innych ssaków inteligencja idzie w parze ze świadomością. Ssaki rozwiązują większość problemów dzięki odczuwaniu różnych rzeczy. Komputery rozwiązują problemy w zupełnie inny sposób.
Istnieje po prostu wiele różnych dróg prowadzących do wysokiej inteligencji, a tylko niektóre z nich wiążą się z zyskaniem świadomości. Podobnie jak samoloty latają szybciej od ptaków, mimo że nigdy nie wykształciły piór, tak samo komputery mogą znacznie szybciej i skuteczniej rozwiązywać problemy niż ssaki, mimo że nigdy nie rozwinęły uczuć. To prawda, sztuczna inteligencja będzie musiała poprawnie analizować ludzkie uczucia, aby leczyć ludzkie choroby, wykrywać terrorystów, rekomendować ludziom partnerów i kierować pojazdem po ulicy pełnej pieszych. Ale będzie mogła to robić bez konieczności posiadania jakichkolwiek własnych uczuć. Algorytm nie musi odczuwać radości, złości ani strachu, aby rozpoznawać różne biochemiczne wzorce radosnych, rozzłoszczonych czy przestraszonych małp człekokształtnych.
Oczywiście nie jest absolutnie niemożliwe, by SI rozwinęła własne uczucia. Wciąż nie wiemy wystarczająco dużo na temat świadomości, by być tego pewnym. Ogólnie rzecz biorąc, są trzy możliwości, które musimy brać pod uwagę:
1. Świadomość wiąże się jakoś z biochemią organiczną – w taki sposób, że nigdy nie będzie możliwe stworzenie świadomości w systemach nieorganicznych.
2. Świadomość nie wiąże się z biochemią organiczną, lecz z inteligencją – w taki sposób, że komputery mogłyby rozwinąć świadomość, a będą m u s i a ł y to zrobić, jeśli mają przekroczyć pewien próg inteligencji.
3. Nie istnieją konieczne związki między świadomością i biochemią organiczną albo wysoką inteligencją. A zatem komputery mogą rozwinąć świadomość – ale nie w sposób konieczny. Mogłyby stać się superinteligentne, a jednocześnie nie mieć żadnej świadomości.
Przy obecnym stanie wiedzy nie możemy wykluczyć żadnej z tych możliwości. Jednak właśnie dlatego,
W. Beik,
C. O’Neil,
M. Reynolds,
