przechylił ekran, żeby przeczytać wiadomość tekstową.
– Muszę iść – wymamrotał z roztargnieniem i skierował się do drzwi. – Ale wypiszę polecenie intubacji pana żony.
Znowu sam, Monk przycisnął czoło do wierzchu jej dłoni. Wspomniał zrujnowany dom Graya, rozbitego kryształowego anioła. Walczyła zażarcie w obronie dziewczynek. A on zrobi wszystko, żeby je odzyskać.
Ale tymczasem…
– Kochanie, walcz dalej – szepnął do niej. – Tym razem o siebie.
Godzina 2.02
– Jak to możliwe? – zapytał Gray, zdumiony słowami Paintera. – Sugerujesz, że MSI już została stworzona? Że istnieje albo istniała?
Painter wyciągnął do niego rękę.
– To możliwe. Jeszcze w latach osiemdziesiątych pewien naukowiec, niejaki Douglas Lenat, stworzył wczesną SI nazwaną Eurisko. Nauczyła się ustalać własne zasady, poprawiać błędy, nawet zaczęła przepisywać własny kod. Co najbardziej zadziwiające, zaczęła łamać zasady, które jej nie odpowiadały.
Gray uniósł brwi.
– Naprawdę?
Painter skinął głową.
– Lenat nawet testował swój program na mistrzach gier wojennych. Jego SI pokonywała każdego przeciwnika, przez trzy lata z rzędu. W późniejszych latach gracze zmieniali zasady, nie informując o tym programisty, żeby mieć większe fory w grze. Niemniej wciąż sromotnie przegrywali z Eurisko. W rezultacie Lenat zaczął się obawiać tego, czym staje się jego twór, jak się sam ulepsza. W końcu go wyłączył i odmówił ujawnienia kodu. Do dziś jest zamknięty. Wielu uważa, że ten program zmierzał do tego, żeby stać się MSI, całkiem samodzielnie.
Dreszcz lęku przeszedł Graya.
– Ale czy to prawda, czy nie, ty uważasz, że to się znowu stanie w najbliższej przyszłości i nie można tego powstrzymać.
– Taka jest jednomyślna opinia ekspertów. Lecz nie tego najbardziej się boją.
Gray domyślał się, co ich przeraża.
– Jeśli stworzenie MSI jest nieuniknione, to niedaleko już do SSI. – Zanim Kowalski zdążył zapytać, wyjaśnił: – SSI to sztuczna superinteligencja.
– Dziękuję za wytłumaczenie – burknął olbrzym. – Ale co to właściwie jest?
– Widziałeś film Terminator? – zapytał Gray. – W którym roboty w przyszłości niszczą ludzkość? To jest SSI. Superkomputer, który przerasta ludzkość i postanawia się nas pozbyć.
– Tylko że to już nie jest science fiction – dodał Painter. – Większość naukowców uważa, że jeśli MSI czeka tuż za rogiem, to nie pozostanie długo mocną sztuczną inteligencją. Taki samoświadomy system będzie chciał się ulepszać… i to szybko. Badacze nazywają to „twardym startem” albo „eksplozją inteligencji”, gdzie MSI szybko rozwija się w SSI. Biorąc pod uwagę szybkość procesów komputerowych, to może być kwestia tygodni, dni, godzin, jeśli nie minut.
– A potem spróbuje nas zabić? – zapytał Kowalski, prostując się na krześle.
Gray wiedział, że istnieje taka możliwość. Możemy być architektami własnego końca.
– Nie da się tego przewidzieć – ostrzegł Painter. – Taka superinteligencja z pewnością będzie przekraczała naszą zdolność pojmowania. Wobec niej będziemy jak mrówki wobec boga.
Gray miał dosyć tych spekulacji. To zagrożenie może zaczekać. Miał pilniejsze i bardziej palące zmartwienia.
– Co to ma wspólnego z napadem, z szukaniem Seichan i dzieci Monka?
Painter kiwnął głową, rozumiejąc jego zniecierpliwienie.
– Zamierzałem do tego dojść. Jak mówiłem, DARPA ładuje pieniądze w rozmaite projekty. I mam tu na myśli miliardy. Zeszłoroczny budżet przeznaczał sześćdziesiąt milionów na programy maszynowego uczenia, pięćdziesiąt na inteligentne przetwarzanie danych i czterysta na inne projekty. Ale znamienne… istotne dla naszej sprawy… jest sto milionów wydanych w tym roku na kategorię „Poufne programy”.
– Innymi słowy, tajne projekty – zauważył Gray.
– DARPA w sekrecie finansuje pewne podmioty, które nie tylko są bliskie stworzenia MSI, ale też prowadzą badania w określonym celu.
– Co to za cel?
– Upewnić się, że pierwsza MSI na tej planecie będzie dobrotliwa.
Kowalski prychnął pogardliwie.
– Czyli Kacper, przyjazny robot.
– Więcej niż „moralny” – poprawił Gray, dobrze orientujący się w temacie. – Maszyna, która nie zechce nas zabić, kiedy osiągnie boskość.
– DARPA traktuje to jako priorytet – podkreślił Painter. – Podobnie jak wiele innych grup badawczych. Machine Intelligence Research Institute. Center for Applied Rationality. Ale znacznie więcej jest organizacji ścigających się w stworzeniu zwykłej MSI.
– To głupie – ocenił Kowalski.
– Nie, to po prostu tańsze. Znacznie łatwiej i szybciej jest zbudować pierwszą MSI niż zaprojektować pierwszą bezpieczną MSI.
– A kiedy nagroda jest tak cenna, szybkość staje się ważniejsza od ostrożności – dodał Gray.
– Wiedząc o tym, DARPA finansuje i wspiera uzdolnione jednostki oraz projekty obiecujące stworzyć przyjazną MSI.
Gray wyczuł, że szef wreszcie dociera do sedna.
– I jeden z tych programów ma związek z tym, co się stało dziś wieczorem? – spytał.
– Tak. Obiecujący projekt na Uniwersytecie w Coimbrze w Portugalii.
Gray zmarszczył brwi. Dlaczego to brzmiało znajomo?
Painter sięgnął do komputera na biurku, stuknął w kilka klawiszy i otworzył przekaz wideo na jednym ze ściennych monitorów. Film pokazywał kamienną komnatę, widzianą z poziomu stołu. Po obu stronach stały regały zapełnione rzędami książek. Wokół stołu kręciło się kilka kobiet, patrzących prosto w kamerę. Poruszały ustami, ale nie było dźwięku.
Perspektywa wydała się Grayowi jakby znana. Domyślił się, że przekaz szedł z kamery wbudowanej w komputer. Kobiety chyba oglądały coś na monitorze w tej kamiennej celi.
– Ten materiał nakręcono w nocy dwudziestego pierwszego grudnia – oznajmił Painter.
Znowu coś tknęło Graya. Ta data. Ta lokalizacja. Zanim zdążył to odgrzebać, jedna z kobiet nachyliła
