Na kartach tej książki przeczytacie o micie sztucznej inteligencji (AI). Mitem nie jest przekonanie, że prawdziwa AI jest możliwa. Co do tego przyszłość AI pozostaje naukową niewiadomą. Mówiąc o micie sztucznej inteligencji, mam na myśli przekonanie, że jej nadejście jest nieuniknione i to tylko kwestia czasu; że już wkroczyliśmy na drogę, która doprowadzi do AI będącej na poziomie inteligencji człowieka, a następnie do superinteligencji. Wcale tak nie jest. Ta droga istnieje tylko w naszej wyobraźni. Niemniej jednak przekonanie o nieuchronności AI jest tak głęboko zakorzenione w popularyzatorskim wymiarze dyskusji - promowanej przez ekspertów w mediach, liderów idei takich jak Elon Musk, a nawet wielu naukowców zajmujących się AI (choć na pewno nie wszystkich) - że argumentowanie przeciwko temu często bywa traktowane jako forma luddyzmu1 lub przynajmniej jako wyraz krótkowzroczności wizji przyszłości technologii oraz jako potencjalne zagrożenie polegające na tym, że nie będziemy przygotowani do życia w świecie inteligentnych maszyn.
Jak pokażę, naukowe badania nad AI sprawiły, że zdaliśmy sobie sprawę, że jeśli chodzi o podstawy inteligencji, mamy do czynienia z tajemnicą i nikt obecnie nie wie, jak tę zagadkę rozwiązać. Zwolennicy idei o możliwości opracowania AI są silnie zmotywowani, aby minimalizować znaczenie jej znanych ograniczeń. W końcu branża AI to wielki biznes, a jej dominujące oddziaływanie na kulturę jest coraz większe. Jednak niezależnie od tego, czy nam się to podoba, czy nie, obecna wiedza o naturze inteligencji wskazuje, że możliwości przyszłych systemów AI są ograniczone. Powinniśmy to powiedzieć wprost: wszystkie świadectwa sugerują, że inteligencja ludzka i maszynowa są radykalnie różne. Mit AI głosi, że różnice te są tylko tymczasowe i potężniejsze systemy ostatecznie je zlikwidują. Futuryści tacy jak Ray Kurzweil oraz filozof Nick Bostrom, prominentni zwolennicy mitu, nie mówią tylko o tym, że osiągnięcie AI na poziomie ludzkim jest nieuniknione, ale twierdzą także, iż wkrótce po jej nadejściu superinteligentne maszyny zostawią nas daleko w tyle.
Ta książka wyjaśnia dwa ważne aspekty mitu o AI: naukowy i kulturowy. Naukowa część mitu zakłada, że wystarczy, abyśmy dalej "szli drogą" wyzwań związanych z ogólną inteligencją, dokonując postępów w wąskich zastosowaniach inteligencji, takich jak granie w gry czy rozpoznawanie obrazów. To poważny błąd, ponieważ sukces w wąskich zastosowaniach nie zbliża nas ani na krok do inteligencji ogólnej. Biorąc pod uwagę naszą obecną wiedzę o AI, wnioskowania, które musiałyby umieć przeprowadzać systemy ogólnej inteligencji - aby przeczytać gazetę, prowadzić podstawową rozmowę lub być pomocnym jak robot Rosie z Jetsonów - nie mogą być zaprogramowane, nauczone ani wytworzone. Podczas gdy skutecznie stosujemy prostsze, wyspecjalizowane wersje inteligencji, które korzystają z szybszych komputerów i dużej ilości danych, nie robimy stopniowych postępów na drodze do ogólnej sztucznej inteligencji, lecz raczej zbieramy najłatwiej dostępne owoce. Przeskok do ogólnego "zdrowego rozsądku" to zupełnie inna sprawa i nie znamy drogi łączącej jedno z drugim. Nie istnieje żaden algorytm dla ogólnej inteligencji. Mamy ponadto dobre powody dla sceptycyzmu co do tego, że taki algorytm wyłoni się w wyniku dalszych wysiłków na rzecz systemów uczenia głębokiego lub jakiegokolwiek innego podejścia, które jest dzisiaj popularne. Znacznie bardziej prawdopodobne jest, że konieczny będzie znaczący przełom naukowy, a nikt obecnie nie ma najmniejszego pojęcia, jak taki przełom mógłby wyglądać, nie mówiąc już o szczegółach tego, jak go osiągnąć.
Mit o AI jest zatem szkodliwy, ponieważ mówienie bez końca o stałych postępach ukrywa fakt znanej nauce tajemnicy. Mit podtrzymuje wiarę w nieuchronny sukces, ale prawdziwy szacunek dla nauki powinien skłonić nas do powrotu do punktu wyjścia. W ten sposób przechodzimy do drugiego tematu - kulturowych konsekwencji mitu. Kierowanie się tym mitem nie jest dobrym sposobem na bycie "dobrze poinformowanym przez źródła" ani nawet wyrazem przyjęcia postawy neutralnej. Jest szkodliwe dla nauki i dla nas samych. Dlaczego? Jednym z powodów jest to, że mało prawdopodobne jest opracowanie innowacji, jeśli zamiast stawić czoła rzeczywistości, zdecydujemy się zignorować centralną tajemnicę. W zdrowej kulturze innowacji podkreśla się znaczenie eksploracji nieznanych obszarów; nie wspiera się przesadnie długiego trwania przy znanych metodach - szczególnie gdy te metody okazały się niewystarczające, by pchnąć nas znacznie dalej. Mitologia dotycząca nieuchronnego sukcesu w obszarze AI ma tendencję do psucia samej kultury wynalazczości niezbędnej do rzeczywistego postępu, czy to postępu z AI podobnej ludziom, czy bez niej. Mit ten również zachęca do biernego pogodzenia się z powolnym rozwojem świata maszyn, w którym prawdziwe wynalazki są spychane na margines na rzecz futurystycznych narracji promujących obecne podejścia, często wspieranych przez ugruntowane interesy.
Kto powinien przeczytać tę książkę? Z pewnością każdy, kto jest podekscytowany ideą AI, ale zastanawia się, dlaczego jej realizacja zawsze jest odległa o 10 lub 20 lat. Wyjaśnię, jaki naukowy powód się za tym kryje. Powinieneś również przeczytać tę książkę, jeśli uważasz, że postęp AI w kierunku superinteligencji jest nieunikniony i obawiasz się, co zrobić, gdy już nastąpi. Chociaż nie mogę udowodnić, że pewnego dnia AI nie przejmie władzy, mogę podać powody, by poważnie wątpić w prawdopodobieństwo takiego scenariusza. Ogólnie rzecz biorąc, powinieneś przeczytać tę książkę, jeśli jesteś po prostu ciekawy, a jednocześnie zdezorientowany powszechnym szałem na punkcie AI, z jakim mamy do czynienia w naszym społeczeństwie. Wyjaśnię pochodzenie mitu o AI, co wiemy i czego nie wiemy o perspektywach rzeczywistego osiągnięcia AI na poziomie ludzkim oraz dlaczego musimy lepiej docenić jedyną prawdziwą inteligencję, którą znamy - naszą własną.
Treść książki
W części pierwszej, zatytułowanej Uproszczony świat, wyjaśniam, jak w powszechnym podejściu do AI uproszczono znaczenie pojęć odnoszących się do ludzi, jednocześnie rozszerzając idee dotyczące technologii. Zaczęło się to od Alana Turinga, twórcy dziedziny AI, i obejmowało zrozumiałe, ale niefortunne uproszczenia, które nazywam "błędnymi koncepcjami inteligencji". Za sprawą przyjaciela Turinga i statystyka Irvinga Johna Goode'a, który wprowadził pojęcie "ultrainteligencji" mające odpowiadać przewidywanej konsekwencji osiągnięcia AI na poziomie ludzkim, początkowe błędy osiągnęły status ideologii. Przyglądając się temu, co głosili Turing i Good, widzimy, jak kształtował się nowoczesny mit AI. Jego rozwój wprowadził nas w erę, którą nazywam "technologicznym kiczem" - tanimi imitacjami głębszych idei, odcinającymi nas od inteligentnego zaangażowania i osłabiającymi naszą kulturę. Kicz mówi nam, jak myśleć i jak się czuć. Handlarze kiczem odnoszą korzyści, podczas gdy konsumenci kiczu tracą. Wszyscy kończymy w spłyconym świecie.
W części drugiej, zatytułowanej Problem wnioskowania, twierdzę, że jedynym rodzajem wnioskowania, innymi słowy "myśleniem", którym musiałaby się posługiwać AI mająca odpowiadać poziomowi ludzkiemu (lub czemukolwiek, co się do tego zbliża), jest taki rodzaj, co do którego nie mamy pojęcia, jak go zaprogramować czy skonstruować. Problem wnioskowania dotyka samego serca debaty o AI, ponieważ dotyczy bezpośrednio inteligencji, zarówno ludzi, jak i maszyn. Nasza wiedza o różnych typach wnioskowania sięga Arystotelesa i innych starożytnych Greków i była rozwijana w dziedzinach logiki i matematyki. Wnioskowanie jest obecnie opisywane przy użyciu formalnych, symbolicznych systemów, takich jak programy komputerowe, więc analizując kwestię wnioskowania, można uzyskać bardzo wyraźny obraz projektu inżynierii inteligencji. Istnieją trzy typy wnioskowania. Klasyczne podejście do AI skupiało się na jednym typie - dedukcji, nowoczesne ujęcie AI zajmuje się innym - indukcją. Kluczowy dla ogólnej inteligencji jest trzeci typ - abdukcja, nad którym, niespodzianka, nikt nie pracuje - wcale2. Wreszcie, ponieważ każdy typ wnioskowania jest odrębny - co oznacza, że jeden typ nie może być zredukowany do innego - wiemy, że niepowodzenie w budowaniu systemów AI przy użyciu typu wnioskowania wspierającego ogólną inteligencję będzie skutkowało brakiem postępów w kierunku sztucznej ogólnej inteligencji (ang. artificial general intelligence - AGI).
W części trzeciej, zatytułowanej Przyszłość mitu, twierdzę, że mit ma bardzo niekorzystne konsekwencje, jeśli traktuje się go poważnie, ponieważ podważa naukę. W szczególności osłabia kulturę inteligencji ludzkiej i wynalazczości, niezbędną dla osiągania istotnych przełomów, których będziemy potrzebować, aby zrozumieć naszą własną przyszłość. Nauka o danych (zastosowanie AI w kontekście "wielkich zbiorów danych" - ang. big data) jest w najlepszym wypadku protezą ludzkiej pomysłowości, która, używana prawidłowo, może pomóc nam poradzić sobie ze współczesnym "zalewem danych". Jeśli jednak jest wykorzystywana jako zamiennik dla indywidualnej inteligencji, ma tendencję do pochłaniania inwestycji bez przynoszenia oczekiwanych rezultatów. Wyjaśniam, w szczególności, jak wśród innych współczesnych przedsięwzięć naukowych mit negatywnie wpłynął na badania w neurobiologii. Cena, którą płacimy za mit, jest zbyt wysoka. Ponieważ nie mamy dobrego naukowego powodu, by wierzyć, że mit jest prawdziwy, a wszystko wskazuje na to, by go odrzucić na rzecz naszego własnego rozkwitu, musimy radykalnie przemyśleć dyskusję na temat AI.
