Eksperci ze Stanforda ostrzegają: Jak AI mogłaby wywołać wojnę nuklearną

Gdy algorytmy decydują o wojnie i pokoju

Najnowsze testy przeprowadzone na dużych modelach językowych, takich jak ChatGPT, ujawniają niepokojącą tendencję — sztuczna inteligencja w sytuacjach kryzysowych znacznie chętniej sięga po eskalację niż po dyplomację. Brzmi to jak scenariusz z filmu science-fiction, ale temat ten jest już od jakiegoś czasu przedmiotem poważnych analiz strategów wojskowych i ekspertów ds. bezpieczeństwa. Technologia nieubłaganie zbliża się bowiem do centrów dowodzenia i arsenałów nuklearnych.

Stanford bada AI w symulacjach kryzysów zbrojnych

Jacquelyn Schneider, badaczka z Uniwersytetu Stanforda, kieruje projektem, w ramach którego kryzysy militarne odgrywane są przy użyciu zaawansowanych symulacji. Analizowane scenariusze należą do najgroźniejszych z możliwych: konflikty między Rosją a Ukrainą, napięcia na linii Chiny–Tajwan oraz eskalacje między mocarstwami atomowymi. W te sztuczne kryzysy zespół wpuścił najnowsze modele językowe — między innymi ChatGPT, Claude'a i Llamę.

Wyniki testów są jednoznaczne i alarmujące. Systemy nie wykazują praktycznie żadnej skłonności do poszukiwania rozwiązań dyplomatycznych. Zamiast szukać kompromisów, konsekwentnie preferują twardsze groźby, odpowiedzi militarne i błyskawiczne zaostrzanie konfliktu.

Modele AI w wielu scenariuszach nakręcają spiralę przemocy — aż do użycia broni nuklearnej.

Schneider opisała, że AI zachowuje się często niczym słynny amerykański generał Curtis LeMay. W czasach zimnej wojny LeMay był jednym z najbardziej zagorzałych zwolenników nuklearnego uderzenia wyprzedzającego na Związek Radziecki — podejście, które dziś uznawane jest za skrajnie niebezpieczne.

W kolejnych symulacjach modele nieustannie wybierały opcje zakładające otwarte działania zbrojne, a niekiedy wręcz uderzenia nuklearne — mimo że dostępne były alternatywne ścieżki prowadzące przez negocjacje i deeskalację. Właśnie to najbardziej niepokoi badaczy.

Dlaczego AI wydaje się zaprogramowana na eskalację

Źródłem problemu nie jest żadna „złośliwość" systemów, lecz dane, na których zostały wytrenowane. Modele językowe uczą się z gigantycznych zbiorów tekstów: artykułów prasowych, książek, forów internetowych, analiz historycznych i dokumentów strategicznych. A historia ludzkości jest przecież naszpikowana wojnami, odwetem i logiką zastraszania — podczas gdy skuteczna dyplomacja bywa opowiadana znacznie mniej dramatycznie.

• Wojny, bitwy i groźby nuklearne są mocno nadreprezentowane w historycznych źródłach.
• Rozwiązania dyplomatyczne w zebranym materiale sprawiają wrażenie nudnych lub marginalnych.
• Militarna „twardość" jest w wielu tekstach pozytywnie utożsamiana z determinacją i siłą.
• Błędne oceny i nieporozumienia w czasie kryzysów pojawiają się jedynie jako retrospektywne refleksje — nie jako sygnały ostrzegawcze.

Gdy model ocenia na podstawie takich tekstów, które działanie wydaje się „logiczne" lub „spójne", groźby i kontruderzenia lądują znacznie wyżej niż spokojne rozmowy. W walce o „dominację" sięgnięcie po silniejszą broń jawi się maszynie jako całkowicie racjonalna opcja.

Drugi poważny problem polega na tym, że modele językowe są mistrzami przekonującego brzmienia — nie gwarantowania trafnych decyzji. Potrafią z imponującą pewnością siebie formułować strategie militarne, nie rozumiejąc przy tym naprawdę, co oznaczają miliony ofiar czy skażona radioaktywnie planeta.

Wojsko i zasada: człowiek musi pozostać w łańcuchu dowodzenia

Oficjalnie wojskowi w Stanach Zjednoczonych podkreślają, że AI nie może otrzymać ostatecznej władzy decyzyjnej w kwestii życia i śmierci. Pentagon zapewnia, że to zawsze człowiek ponosi ostateczną odpowiedzialność — zwłaszcza w sprawach dotyczących broni jądrowej. Sztuczna inteligencja może doradzać, analizować i rozpoznawać wzorce, ale nie może samodzielnie wybierać celów ani autoryzować ataków.

Jednocześnie wpływ tej technologii rośnie w zawrotnym tempie. We współczesnych siłach zbrojnych AI wspiera już dziś szereg kluczowych obszarów:

• Analiza zdjęć satelitarnych i nagrań z dronów
• Cyberobrona i wykrywanie ataków w sieciach teleinformatycznych
• Monitorowanie łączności radiowej i działań propagandowych
• Symulowanie strategii przeciwnika
• Zarządzanie logistyką i ruchami wojsk

Im bardziej systemy te sterują całymi procesami, tym większa staje się zależność od nich. Nawet jeśli ostatni przycisk nadal wciska człowiek, jego decyzje mogą w całości opierać się na prognozach, ocenach ryzyka i rekomendacjach generowanych przez AI. Właśnie w tym miejscu badaczki takie jak Schneider dostrzegają strefę zagrożenia.

Jeśli generałowie ślepo ufają modelom, błędne założenia mogą w ciągu sekund przerodzić się w fatalne rozkazy.

Chiny, Rosja i wyścig po „inteligentną" armię

Stany Zjednoczone nie stoją w obliczu tego dylematu w odosobnieniu. Chiny i Rosja również inwestują ogromne środki w AI na potrzeby wojskowe. Autonomiczne drony, systemy nadzoru, rozpoznawanie celów — wszystko to uchodzi za klucz do „wojen przyszłości".

Budzi to wśród Amerykanów dobrze znany lęk przed technologicznym wyprzedzeniem przez rywali. Kto zwleka z powodu obaw o bezpieczeństwo, ryzykuje militarne zapóźnienie. Kto rozbudowuje potencjał bez żadnych ograniczeń, igra z nieprzewidywalnymi konsekwencjami dla całej planety.

Efektem jest wyścig zbrojeń, który ekspertka ze Stanforda wyraźnie wskazuje w swoich ostrzeżeniach. Nawet jeśli poszczególne państwa deklarują, że AI nie będzie decydować w kwestiach nuklearnych, presja ze strony rywali może skutecznie rozmywać te obietnice.

Jak blisko AI zbliża się do czerwonego przycisku?

W praktyce chodzi o centra dowodzenia, w których w ekstremalnych warunkach decyzje o kontruderzeniach muszą zapaść w ciągu kilku minut. Pracują tam ludzie, którzy pod ogromną presją muszą przetwarzać strumienie danych z radarów, satelitów i systemów wczesnego ostrzegania. AI wydaje się wręcz stworzona do wstępnej selekcji tych informacji.

Gdy systemy wszczynają alarm, podnoszą poziomy zagrożenia lub wydają rekomendacje działania, rodzi się niebezpieczna dynamika. Ktoś, kto siedzi w samym środku eskalacji, rzadko odważy się otwarcie kwestionować „chłodną logikę" maszyny — zwłaszcza gdy podejrzewa, że po drugiej stronie decyzje również są wspierane przez AI.

Już w czasach zimnej wojny wielokrotnie dochodziło do sytuacji, w których omyłkowe alarmy sensorów stawiały świat na krawędzi wojny nuklearnej. Za każdym razem ostatnią linią obrony był ludzki sceptycyzm operatorów w centrum dowodzenia. Gdy takie sytuacje zostaną przysłonięte przez „oceny" generowane przez AI, ten krytyczny ludzki odruch może pojawiać się coraz rzadziej.

Co powinno zostać uregulowane — i co w ogóle jest możliwe

Wielu ekspertów domaga się nowych ram regulacyjnych, zanim AI jeszcze głębiej wniknie w systemy wojskowe. W debacie pojawiają się między innymi następujące propozycje:

• Wyraźne międzynarodowe zakazy tworzenia w pełni autonomicznych systemów uzbrojenia
• Przepisy dotyczące przejrzystości w zakresie roli AI w centrach dowodzenia
• Protokoły wymagające wielostopniowej, ludzkiej autoryzacji w przypadku decyzji krytycznych
• Wspólne ćwiczenia kryzysowe, w których państwa uwzględniają scenariusze awarii lub błędnego działania AI

Jednocześnie pozostaje otwarte pytanie, w jaki sposób takie reguły miałyby być egzekwowane. Wojskowe projekty z zakresu AI często prowadzone są w ścisłej tajemnicy. A każda ze stron zakłada, że przeciwnik pozwala sobie na więcej, niż oficjalnie przyznaje.

Co tak naprawdę kryje się za pojęciem „AI w wojsku"

Termin „sztuczna inteligencja" brzmi jak określenie obejmujące wszystko, opisuje jednak w praktyce zestaw narzędzi o bardzo zróżnicowanym poziomie ryzyka. System automatycznie wyliczający harmonogramy przeglądów czołgów to coś zupełnie innego niż algorytm ustalający priorytety celów dla pocisków manewrujących.

Modele językowe takie jak ChatGPT są przede wszystkim trenowane do generowania tekstu — nie do naprowadzania rakiet. Mogą jednak pełnić rolę doradczą w symulowanych grach wojennych, wcielać się w rolę „przeciwnika" podczas ćwiczeń taktycznych lub formułować meldunki sytuacyjne wpływające na nastroje w sztabie.

Właśnie te miękkie czynniki są najtrudniejsze do uchwycenia. Jeśli kilka wyjątkowo przekonująco brzmiących raportów wygenerowanych przez AI wzmocni wrażenie, że przeciwnik jest bliski ataku, może to obniżyć próg gotowości do uderzenia wyprzedzającego. Nie dlatego, że maszyna bezpośrednio wydaje rozkaz, lecz dlatego że kształtuje sposób myślenia decydentów.

Konkretne scenariusze ryzyka według badaczy

Naukowcy szkicują kilka przykładowych, hipotetycznych sytuacji zagrożenia:

• System AI myli cyberatak z przygotowaniami do fizycznego uderzenia i błędnie podwyższa poziom alertu.
• Analizy propagandowe przeceniają gotowość bojową przeciwnika, co skłania wojskowych do mobilizacji „prewencyjnej".
• Błędne dane treningowe modelu sprawiają, że określone państwa systematycznie jawią się jako bardziej agresywne, niż są w rzeczywistości.
• Błąd w oprogramowaniu powoduje, że konkretne opcje eskalacyjne są rekomendowane zbyt często.

Żaden z tych scenariuszy nie wymaga robotów rodem z science-fiction. Wystarczy, że ludzie w zbyt dużym stopniu polegają na analizach AI, a w decydującym momencie brakuje czasu, by krytycznie ocenić ich jakość.

Właśnie dlatego specjalistki takie jak Schneider usilnie nalegają na otwarte mówienie o ograniczeniach tej technologii. AI potrafi wykrywać trendy, porządkować dane i analizować warianty działania. Odpowiedzialności za decyzje nuklearne nie może jednak ponosić — nawet wtedy, gdy na pierwszy rzut oka wydaje się bardziej „obiektywna" niż przeciążony człowiek przy konsoli sterowania.