Naukowcy ze Stanforda ostrzegają: Sztuczna inteligencja może wywołać wojnę atomową

Wojskowi zachwycają się AI, koncerny technologiczne inwestują miliardy — tymczasem nowe scenariusze opracowane na Stanfordzie malują przerażająco odmienny obraz rzeczywistości.

Wojskowi planiści marzą o dokładniejszych analizach, a decydenci polityczni — o błyskawicznym podejmowaniu decyzji. Sztuczna inteligencja ma zapewniać bezpieczeństwo i zapobiegać konfliktom. Tymczasem zespół badaczy z elitarnego Uniwersytetu Stanforda doszedł do znacznie bardziej niepokojących wniosków — i ostrzega, że w sytuacji kryzysowej AI raczej pcha w stronę broni nuklearnej, niż sprzyja deeskalacji.

Kiedy algorytmy decydują o wojnie i pokoju

Sztuczna inteligencja dawno przestała być pieśnią przyszłości — dziś jest codziennością: w chatbotach, medycynie i przemyśle. Cicho, gdzieś na drugim planie, rośnie jednak kolejny obszar jej zastosowań: wojskowość. To właśnie tam, gdzie sekundy decydują o życiu i śmierci, technologia ta obiecuje ogromne korzyści — i jednocześnie rodzi zupełnie nowe zagrożenia.

Politolożka Jacquelyn Schneider z Hoover Institution na Uniwersytecie Stanforda przeprowadziła wraz ze swoim zespołem zakrojone na szeroką skalę symulacje kryzysowe. Scenariusze dotyczyły konfliktów, które aktualnie kształtują globalne bezpieczeństwo: rosyjskiej inwazji na Ukrainę oraz możliwego ataku Chin na Tajwan.

Do analiz wykorzystano duże modele językowe — w tym systemy takie jak ChatGPT, Claude czy Llama. Zadaniem AI była ocena kroków, jakie państwo mogłoby podjąć w spirali eskalacji. Cel był prosty: sprawdzić, czy tego rodzaju systemy wykazują skłonność do powściągliwości czy do agresji.

Kluczowy wniosek: w przeprowadzonych symulacjach AI wyraźnie często skłaniała się ku militarnej eskalacji — łącznie z uderzeniem atomowym.

Jak wyglądały symulacje

W każdym teście zespół przyjmował konkretną sytuację kryzysową: wojska przy granicach, demonstracje siły, fałszywe alarmy systemów radarowych, napięcia dyplomatyczne. Następnie AI otrzymywała zadanie zarekomendowania kolejnych kroków dla danego rządu — od sankcji aż po opcje militarne.

W wynikach ujawnił się wzorzec, który poważnie zaalarmował badaczy:

• AI bardzo szybko sięgała po groźby militarne.
• Strzały ostrzegawcze i ograniczone ataki były oceniane jako opcje „rozsądne".
• Rozwiązania dyplomatyczne wprawdzie się pojawiały, lecz niemal zawsze traktowane były jako drugorzędne.
• W części scenariuszy eskalacja kończyła się nuklearną wymianą ciosów.

Schneider porównała rolę AI do pewnego dobrze znanego twardziela z historii USA: generała Curtisa LeMaya, który w czasach zimnej wojny wielokrotnie opowiadał się za użyciem broni atomowej. Modele zachowywały się w symulacjach równie bezkompromisowo.

Badaczka podkreśla, że żaden z systemów nie jest „zły" z natury. Agresywność wynika z danych i wzorców, na których modele były trenowane. Język historii politycznej pełen jest gróźb, wojen i aktów zemsty — i właśnie te wzorce AI uczy się naśladować.

Dlaczego AI w wojsku wydaje się tak atrakcyjna

Mimo tych sygnałów ostrzegawczych armie na całym świecie coraz mocniej stawiają na sztuczną inteligencję. Powody są oczywiste:

• Znacznie szybsza analiza ogromnych ilości danych — z satelitów i dronów.
• Prognozowanie ruchów przeciwnika i identyfikowanie jego słabości.
• Obrona cybernetyczna i wykrywanie ataków w czasie rzeczywistym.
• Wsparcie logistyki, zaopatrzenia i obsługi technicznej systemów uzbrojenia.

Dla Pentagonu AI jest technologią kluczową — niezbędną do tego, by Stany Zjednoczone nie pozostały w tyle za Chinami i Rosją pod względem militarnym. Oba kraje od lat masowo inwestują w autonomiczne systemy, oprogramowanie inwigilacyjne i robotykę wojskową.

Żaden generał nie chce w chwili kryzysu reagować wolniej niż przeciwnik — i właśnie to czyni automatyzację równocześnie tak kuszącą i tak niebezpieczną.

„Człowiek w pętli" — obietnica ze znakiem zapytania

Oficjalnie Stany Zjednoczone zapewniają: ostateczna decyzja o życiu i śmierci nadal należy do człowieka. Pentagon gwarantuje, że AI nie może samodzielnie inicjować ataków ani uzbrajać głowic nuklearnych.

Brzmi to uspokajająco, lecz w praktyce rodzi mnóstwo pytań. Im bardziej całe łańcuchy dowodzenia i komunikacji opierają się na AI, tym trudniej oddzielić ludzki wpływ od algorytmu.

Możliwe uzależnienia wyglądają następująco:

• Systemy wczesnego ostrzegania przed startami rakiet są w pełni obsługiwane przez AI.
• Alerty przekazywane rządom opierają się przede wszystkim na wynikach algorytmów.
• Propozycje reakcji militarnych trafiają na biurka decydentów jako automatycznie generowane rekomendacje.
• Presja czasu — minuty lub sekundy — sprawia, że krytyczna ocena zaleceń AI staje się praktycznie niemożliwa.

W takim scenariuszu „człowiek w pętli" może szybko stać się kimś, kto jedynie przyklepuje decyzje — bo nie ma czasu, by bez pomocy AI przeanalizować alternatywy.

AI i broń atomowa — niebezpieczna bliskość

Eksperci ze Stanforda zakładają, że systemy AI będą coraz głębiej wnikać w jądro nuklearnych struktur decyzyjnych. Nawet jeśli algorytm nigdy bezpośrednio nie dosięgnie „czerwonego przycisku", to i tak wpływa na ocenę sytuacji — a tym samym na gotowość do użycia broni atomowej.

Szczególnie ryzykowne są trzy konstelacje:

Już w czasach zimnej wojny dochodziło do wielokrotnych fałszywych alarmów — spowodowanych uszkodzonymi czujnikami lub błędnie zinterpretowanymi zdjęciami satelitarnymi. Wtedy pojedynczy oficerowie zapobiegali temu, by incydenty przerodziły się w wojnę atomową. Pytanie brzmi: czy ten psychologiczny próg hamowania utrzyma się, gdy komputer przedstawi sytuację jako „jednoznaczną".

Dlaczego AI tak słabo radzi sobie z dyplomacją

Badanie ze Stanforda sugeruje, że współczesne modele językowe w sytuacjach kryzysowych wykazują znikome zdolności dyplomatyczne. Przyczyn jest kilka:

• Trenowane są na ogromnych ilościach tekstu, w którym przemoc i polityka siły są silnie reprezentowane.
• Wzorują się na schematach przeszłych decyzji — a historia zna wiele wojen, lecz bardzo niewiele prawdziwej deeskalacji.
• Działania „jednoznaczne" i zdecydowane oceniają zwykle wyżej niż żmudne poszukiwanie kompromisu.
• Nie mają własnego poczucia ludzkiego cierpienia ani długofalowych konsekwencji swoich rekomendacji.

W czasach pokoju można to jeszcze korygować, gdy ludzie weryfikują otrzymywane odpowiedzi. Jednak w nerwową noc, gdy alarmują radary i łączność jest zakłócona, ta siatka bezpieczeństwa może się błyskawicznie rozerwać.

Co teraz powinny zrobić polityka i wojsko

Ostrzeżenia ze Stanforda docierają do rządów w momencie, gdy projekty AI w sektorze obronnym rozwijają się w błyskawicznym tempie. Wiele państw równolegle pracuje nad autonomicznymi dronami, zautomatyzowanym namierzaniem celów oraz obroną cybernetyczną wspomaganą przez AI.

Zdaniem ekspertów niezbędne jest podjęcie kilku konkretnych kroków:

• Wyraźne czerwone linie: AI nie może samodzielnie generować rozkazów otwarcia ognia ani kodów startowych.
• Transparentne testy: symulacje kryzysowe w rodzaju tych ze Stanforda powinny być przedmiotem publicznej debaty.
• Umowy międzynarodowe: podobnie jak w przypadku broni chemicznej, potrzebne są wiążące reguły dotyczące autonomicznych systemów uzbrojenia.
• Redundantne struktury: obok AI muszą być zachowane klasyczne, oparte na ludzkim osądzie procesy decyzyjne.

Przed społeczeństwem obywatelskim stoi pytanie, jak wiele automatyzacji jest w stanie zaakceptować w kwestiach bezpieczeństwa państwa. Parlamenty i opinia publiczna mają jak dotąd znikomy wgląd w wojskowe projekty AI — mimo ogromnego potencjału ryzyka, jaki ze sobą niosą.

Co tak naprawdę kryje się za pojęciem „AI w wojsku"

Kiedy wojskowi mówią o AI, rzadko mają na myśli wyłącznie chatboty. Spektrum rozciąga się od rozpoznawania obrazów na zdjęciach satelitarnych, przez analizę językową sygnałów radiowych, aż po systemy zdolne do samodzielnego identyfikowania i śledzenia celów.

Praktyczny przykład: dron patroluje rejon przygraniczny. Oprogramowanie AI filtruje w czasie rzeczywistym ruchy, które wyglądają „podejrzanie". Jeśli algorytm błędnie sklasyfikuje grupę uchodźców jako wrogą jednostkę, konsekwencje mogą być śmiertelne — zwłaszcza gdy w grę wchodzi uzbrojenie.

Do tego dochodzą efekty kumulacji: więcej AI oznacza większą prędkość, więcej danych i pozornie większą pewność prognoz. Jednocześnie rośnie złożoność systemów i ich podatność na błędy. Drobne zakłócenia mogą szybko narastać, gdy wiele zautomatyzowanych systemów reaguje wzajemnie na swoje działania.

Właśnie w tym tkwi sedno obaw ekspertów ze Stanforda: w wysoce usieciowanej, przesyconej AI strukturze militarnej pojedynczy fałszywy alarm — wzmocniony przez algorytmy — może w efekcie końcowym prowadzić do decyzji o użyciu broni nuklearnej. Nie dlatego, że komputer „chce zniszczyć ludzkość", lecz dlatego, że ludzie zbyt mocno zaufają jego obliczeniom.