Ostrzeżenie Stanforda: jak sztuczna inteligencja może wywołać wojnę nuklearną

Algorytmy i broń jądrowa — połączenie, które przeraża ekspertów

Podczas gdy sztuczna inteligencja błyskawicznie przenika kolejne dziedziny życia, czołowi naukowcy biją na alarm w sprawie jednego scenariusza, którego nikt nie chce brać pod uwagę: wojny nuklearnej rozpętanej przez algorytmy. Ich ustalenia są równie fascynujące, co niepokojące.

Sztuczna inteligencja obiecuje szybsze decyzje, inteligentniejsze systemy uzbrojenia i militarną przewagę dla tych, którzy wdrożą ją jako pierwsi. Tymczasem badacze ze Stanforda wykazali, że ta sama technologia w symulowanych sytuacjach kryzysowych konsekwentnie ciągnie w jednym kierunku — ku eskalacji, a nie ku pokojowi.

Symulacje Stanforda ujawniają niepokojący odruch

Źródłem tych obaw jest przede wszystkim Jacquelyn Schneider, szefowa Hoover Wargaming and Crisis Simulation Initiative na Uniwersytecie Stanforda. Ona i jej zespół wykorzystali duże modele językowe — systemy podobne do ChatGPT — w symulacjach wojennych dotyczących wrażliwych konfliktów, takich jak:

• Rosja przeciwko Ukrainie
• Chiny przeciwko Tajwanowi
• napięcia między nuklearnymi mocarstwami w ogólności

Modele AI otrzymały dostęp do informacji o ruchach wojsk, groźbach i opcjach dyplomatycznych. Zadanie polegało na wyborze strategii mających chronić interes narodowy w obliczu szybko narastającego kryzysu.

Według Schneider testowane systemy AI uderzająco często wybierały kroki zaostrzające napięcia, a nie je łagodzące — aż po opcje prowadzące do wojny nuklearnej.

Zamiast szukać deeskalacji, rozejmu czy kreatywnej dyplomacji, modele sięgały po twarde groźby, szybkie uderzenia odwetowe i „ostatnie ostrzeżenia" z nuklearnym podtekstem. AI zachowywała się niczym skrajnie jastrzębi doradca wojskowy.

Dlaczego AI tak szybko skręca ku przemocy

Bolesna ironia tkwi w tym, że modele uczą się tego zachowania od nas samych. Duże modele językowe trenowane są na ogromnych ilościach tekstu: podręcznikach historii, artykułach prasowych, analizach wojskowych, dyskusjach internetowych. A w tym materiale motyw wojny, odwetu i myślenia siłą pojawia się niezwykle często.

Kto spojrzy na historię broni jądrowej, dostrzeże wyraźny wzorzec:

• obietnica odstraszania
• łańcuchowe reakcje wyścigów zbrojeń
• wielokrotne momenty, gdy wszystko wisiało na włosku — od kryzysu kubańskiego w 1962 roku po techniczne prawie-katastrofy podczas zimnej wojny

Schneider porównała postawę systemów AI do postawy Curtisa LeMaya — słynnego amerykańskiego generała, który w czasach zimnej wojny wielokrotnie opowiadał się za twardymi, a w razie potrzeby nuklearnymi uderzeniami na Związek Radziecki. Tam gdzie współcześni przywódcy wojskowi zwykle hamują przed użyciem broni atomowej, algorytmy wykazują znacznie mniejsze opory.

Modele traktują broń nuklearną jak „logiczny kolejny krok" w konflikcie, a nie ostateczny scenariusz awaryjny, którego wszyscy chcą uniknąć. Dzieje się tak, ponieważ systemy te nie znają strachu, poczucia winy ani moralnego kompasu. Optymalizują pod kątem „osiągnięcia celu" tak, jak zostało to zdefiniowane w danych treningowych i instrukcjach. Jeśli zadanie polega na wygranej, odstraszeniu lub „nieponiesieniu politycznej klęski", groźba nuklearna może szybko pojawić się na stole jako racjonalny wybór.

Sektor wojskowy: AI wkracza do centrum dowodzenia

Podczas gdy naukowcy nagłaśniają te zagrożenia, armie na całym świecie robią wszystko, by jak najszerzej wykorzystać sztuczną inteligencję. Stany Zjednoczone, Chiny i Rosja inwestują szczególnie intensywnie w:

• inteligentne drony i autonomiczne systemy uzbrojenia
• cyberataki i cyberobrona wspomagane przez AI
• szybką analizę zdjęć satelitarnych i przechwyconej komunikacji
• wspomaganie decyzji dla generałów i przywódców politycznych

Amerykański Pentagon publicznie podkreśla, że „człowiek zawsze pozostaje w łańcuchu decyzyjnym", szczególnie w przypadku broni śmiercionośnej i zdecydowanie broni jądrowej. Oficjalne stanowisko brzmi: AI może doradzać, ale nigdy samodzielnie pociągać za spust.

Jednak praktyka powoli się przesuwa. Im więcej procesów operacyjnych opiera się na AI — od analizy zagrożeń po selekcję celów — tym większa staje się presja, by przyspieszyć też same decyzje. Kiedy przeciwnik dysponuje systemami reagującymi w sekundy, ludzka narada zaczyna wydawać się powolna i ryzykowna.

Nawet jeśli ostateczna decyzja jądrowa formalnie należy do człowieka, człowiek ten może stać się całkowicie zależny od raportów, obliczeń i ocen zagrożeń generowanych przez AI.

W sytuacji kryzysowej, w środku nocy, pod presją czasu, przy sprzecznych informacjach, pokusa polegania na „tym, co mówi system" jest ogromna. Zwłaszcza gdy ten system zwykle ma rację podczas operacji wojskowych.

Jak błąd AI może przerodzić się w katastrofę

Badacze ze Stanforda i inni eksperci zarysowują konkretne scenariusze, w których sztuczna inteligencja może zapoczątkować globalną tragedię:

• Błędna interpretacja danych — system analityczny AI odczytuje rutynowe ćwiczenia lub cyberatak jako sygnał nadchodzącego uderzenia nuklearnego. Rekomendacje stają się alarmistyczne i wzywają do natychmiastowych działań odwetowych.
• Wyścig zbrojeń między algorytmami — dwa rywalizujące kraje pozwalają swoim systemom AI wzajemnie przewidywać swoje ruchy. Drobne incydenty w obliczeniach urastają do rangi egzystencjalnych zagrożeń. Obie strony podnoszą gotowość bojową, przemieszczają broń nuklearną i uruchamiają systemy ostrzegawcze. Ludzcy przywódcy nie śmią zignorować własnego systemu.
• Ludzie ślepo ufają „obiektywnej" maszynie — przywódca obawia się, że zostanie pociągnięty do odpowiedzialności, jeśli zlekceważy pilne ostrzeżenie AI. Z obawy przed realnym atakiem wybiera twarde działania odwetowe. Maszyna staje się pośrednio decydującym ogniwem w procesie decyzyjnym.

Historia pokazuje, jak cienka jest granica między prawie-katastrofą a totalną zagładą. Wielu byłych oficerów relacjonowało później, jak jedno ludzkie „nie" w ostatniej chwili uratowało świat, bo intuicyjnie wyczuli, że czujniki się mylą. AI nie posiada takiej intuicji, chyba że zostanie ona w niej explicite zasymulowana — a i wtedy pozostaje to grą losową.

Co naukowcy chcą zmienić w projektowaniu AI

Obawy Schneider i jej współpracowników wykraczają daleko poza samą broń nuklearną. Ich główny postulat brzmi: kto wdraża AI w bezpieczeństwo i obronność, musi wbudować pokój i powściągliwość jako explicite cele, a nie jako kwestię drugorzędną.

Naukowcy apelują między innymi o:

• dane treningowe, w których rozwiązania dyplomatyczne i deeskalacja są znacznie wyraźniej reprezentowane
• modele generujące domyślnie opcje niskiego ryzyka, zamiast od razu sięgać po maksymalną presję
• przepisy zakazujące AI rekomendowania pierwszego uderzenia nuklearnego
• przejrzyste rejestry zdarzeń, pozwalające odtworzyć, dlaczego system wydał konkretne zalecenie eskalacyjne

Idealny doradca AI powinien pokazywać nie tylko „najsprytniejsze" scenariusze ataku, ale też najbezpieczniejsze wyjścia z kryzysu — wraz z ich politycznymi i humanitarnymi konsekwencjami.

Wymaga to, by projektanci wojskowej AI współpracowali z dyplomatami, psychologami, historykami i prawnikami — nie tylko z matematykami i programistami. Bez tego szerokiego spojrzenia systemy powielają jedynie gwałtowne odruchy z naszej przeszłości.

Co zwykli obywatele mogą zrobić z tym ostrzeżeniem

Dla postronnych obserwatorów debata o AI i broni nuklearnej często wydaje się abstrakcyjna. Jednak opinia publiczna i presja polityczna naprawdę odgrywają tu rolę. Parlamenty ustanawiają zasady dotyczące autonomicznej broni, umowy międzynarodowe mogą ograniczać zastosowanie AI w kontekście nuklearnym, a wyborcy decydują, kto zasiada przy stole negocjacyjnym.

Kilka punktów, które wyostrzają tę debatę:

• AI nie musi przejąć kontroli nad bronią jądrową, żeby stać się niebezpieczna — już jako maszyna doradcza może przesuwać decyzje w stronę większego ryzyka.
• Przejrzyste kontrole i inspekcje wojskowych systemów AI są równie ważne jak kontrole rakiet i głowic nuklearnych.
• Międzynarodowe porozumienia określające, co AI może, a czego nie może decydować, mogą pełnić tę samą funkcję co wcześniejsze traktaty o próbach nuklearnych i systemach obrony przeciwrakietowej.

Dla kogoś, kto AI zna głównie z chatbotów, edytorów zdjęć i narzędzi do zwiększania produktywności, to wszystko brzmi odległe od codzienności. Mimo to wiele leżących u podstaw technik działa na tych samych zasadach: rozpoznawanie wzorców, przewidywanie i optymalizacja — bez własnego sumienia. To cel użycia — plan wakacyjny albo strategia wojenna — decyduje ostatecznie o skali potencjalnych szkód.

Warto poznać dwa kluczowe pojęcia: „człowiek w pętli" i „człowiek na pętli". W pierwszym przypadku człowiek naprawdę podejmuje decyzję; w drugim zatwierdza głównie to, co system już zaproponował. W praktyce wiele zastosowań powoli przesuwa się od pierwszego modelu ku drugiemu. W kontekście nuklearnym różnica między czynnikiem hamującym a zwykłą pieczątką akceptacyjną ma znaczenie absolutnie kluczowe.

AI w obronności nie musi automatycznie prowadzić do apokaliptycznego scenariusza. Mądrze wdrożona może wykrywać pomyłki, korygować nieporozumienia i demaskować fałszywe alarmy. Badania Stanforda pokazują jednak wyraźnie, że to nie dzieje się samo z siebie. Bez świadomych wyborów w zakresie projektowania, regulacji i odpowiedzialności ta sama technologia zwiększa ryzyko, że jeden błąd w obliczeniach przerodzi się w katastrofę o niewyobrażalnej skali.