Newsletter z dnia 2024-05-22

Nocą 26 września 1983 r., gdy rozległ się alarm, służbę przy monitorowaniu satelitarnego systemu śledzenia pocisków pełnił 44-letni podpułkownik Armii Radzieckiej Stanisław Pietrow. System wskazywał, że pięć amerykańskich interkontynentalnych rakiet balistycznych zmierza ku Związkowi Radzieckiemu z terytorium Stanów Zjednoczonych. Pietrow miał obowiązek niezwłocznie zgłosić taki sygnał swojemu dowódcy. Niemniej jednak zaufał własnej intuicji i wysłał notatkę, w której uruchomienie alarmu uznane zostało za błąd systemu.

Pietrow uznał komputerową klasyfikację za fałszywą, ponieważ wydawało się prawdopodobne, że pierwsze nuklearne uderzenie Stanów Zjednoczonych obejmowałoby setki pocisków wystrzeliwanych jednocześnie w celu pozbawienia ZSRR możliwości odpowiedzi na atak. Ponadto wiarygodność systemu satelitarnego kwestionowano w przeszłości.

Intuicja nie zawiodła Pietrowa. Był to błąd systemu. USA nie wystrzeliły żadnych pocisków. Związek Radziecki nie wziął odwetu, a Pietrow został w końcu bohaterem po obu stronach żelaznej kurtyny2 . Własnymi rękoma powstrzymał atomowy holokaust, jaki mógł zafundować nam automat.

Jak przestaliśmy się martwić i pokochaliśmy AI

26 września 2022 r. — w 39. rocznicę działań Pietrowa — postanowiliśmy dołączyć jego historię do rękopisu tej książki. Trwała wojna między Rosją a Ukrainą i wiele osób bało się eskalacji konfliktu oraz użycia broni atomowej. Przecież żaden kraj nie wdrożyłby algorytmu w miejsce stanowiska Pietrowa, skoro na szali leżała przyszłość cywilizacji, prawda?

Zdaniem Arta, żaden kraj nie rozważałby na poważnie rezygnacji z ludzkiego nadzoru, uruchamiając maszynę i rezygnując z ludzi takich jak Pietrow. Juliette, ciekawa zdania ekspertów, zapytała fizyków i specjalistów nauk komputerowych — ludzi biegłych w kwestiach związków atomu i sztucznej inteligencji — czy w przyszłości jest to możliwe.

Okazało się, że eksperci również byli zaniepokojeni. Podobnie jak Rada Nauki i Bezpieczeństwa Biuletynu Naukowców Atomistów, grupy współzałożonej przez Alberta Einsteina. Największe wątpliwości, jakimi się z nami podzielono, nie dotyczyły samej technologii, ale możliwych nadużyć sztucznej inteligencji w kontekście broni atomowej.

„Mamy do czynienia z ciągłą presją na zwiększanie automatyzacji [w broni atomowej]”, pisze Szabolcs Márka, profesor fizyki na Uniwersytecie Columbia. Przyczyną, zdaniem Márki, jest nieustannie kurczący się czas na podjęcie decyzji. „Systemy automatyczne w sposób nieunikniony muszą korzystać z zaawansowanej sztucznej inteligencji na wszystkich poziomach” — dodaje. „Mam szczerą nadzieję, że ludzkość nie przegapi momentu, w którym mogłaby zostać całkowicie wyłączona z tego procesu. Niemniej jednak na całym świecie funkcjonują potęgi wojskowe wyznające diametralnie różne poglądy. Niektóre z nich mogą uznać, że czas odpowiedzi sztucznej inteligencji jest kluczową zaletą. W zmiennym, chaotycznym i nastawionym na konkurencję świecie zautomatyzowana przez AI broń masowej zagłady jest absolutnie przerażającą możliwością”. Ujmując to inaczej, fizyk uważa, że użycie sztucznej inteligencji do monitorowania pocisków atomowych i sterowania nimi nie tylko jest prawdopodobne. Tak się po prostu stanie...

Dylemat sztucznej inteligencji. 7 zasad odpowiedzialnego tworzenia technologii

Sztuczna inteligencja to technologia o nadzwyczajnym potencjale, jednak jej nieodpowiedzialne wykorzystanie doprowadzało już do odmowy świadczenia usług medycznych, czy nawet bezprawnych aresztowań.

Dlatego zanim pozwolimy maszynom podejmować decyzje etyczne, powinniśmy przeprowadzić globalną dyskusję. Jednak ludzie mają różne priorytety i wartości Jak zatem możemy oczekiwać od technologii, by kierowała się właściwymi przesłankami ― nie tylko w sprawach życia i śmierci, ale i na każdym kroku?

Ta książka łączy perspektywy inżynierów, ludzi biznesu, przedstawicieli rządów i społeczników. Ułatwia zrozumienie korzyści i szans, jakie niosą ze sobą autonomiczne systemy oparte na uczeniu maszynowym. Zawiera siedem ważnych zasad, które pozwolą na ograniczanie ryzyka nadużyć i wypadków związanych z AI, a także zapewnią, by technologie tego rodzaju służyły rozwojowi ludzkości. Cztery z zasad dotyczą samych systemów i ich projektowania: uwzględniania ryzyka dla ludzi, przejrzystości działania, zapewnienia ochrony danych osobowych i ograniczania tendencyjności. Pozostałe trzy odnoszą się do organizacji tworzących systemy AI, stosowanych w nich procedur i kultury organizacyjnej. Co ważne, w książce znalazły się przykłady dobrych praktyk, jak również liczne rzeczowe uwagi i pożyteczne wskazówki.

Podobne NOWOŚCI 🧠🆕

Wpadnij na Wirtualne Warszawskie Targi Książki IT 💻📚

Na naszych wirtualnych stoiskach znajdziesz bestsellerowe publikacje na temat programowania, data science, cyberbezpieczeństwa czy sztucznej inteligencji i nie tylko 🤩

Zgarniesz je z mega rabatami:
📚-40% na książki drukowane
📱-50% na ebooki

Chcesz się z nami spotkać osobiście? Od jutra będziemy tutaj 😉👇

Międzynarodowe Targi Książki - 23.05.2024-26.05.2024 - PKiN Warszawa