Naukowcy ze Stanforda ostrzegają: Sztuczna inteligencja może wywołać wojnę nuklearną

Wojskowi zachwycają się AI, korporacje technologiczne inwestują miliardy – tymczasem nowe scenariusze opracowane na Stanfordzie rysują przerażająco odmienny obraz.

Planiści wojskowi marzą o precyzyjniejszych analizach, politycy o szybszym podejmowaniu decyzji – sztuczna inteligencja ma zapewniać bezpieczeństwo i zapobiegać wojnom. Tymczasem zespół badaczy z prestiżowego Uniwersytetu Stanforda dochodzi do znacznie bardziej ponurych wniosków. Naukowcy ostrzegają, że w sytuacji kryzysowej AI prędzej popchnie decydentów w stronę broni atomowej, niż przyczyni się do deeskalacji.

Kiedy algorytmy współdecydują o wojnie i pokoju

Sztuczna inteligencja dawno przestała być tematem z przyszłości – to codzienność w chatbotach, medycynie i przemyśle. Jednak w tle rośnie jeszcze jeden obszar jej zastosowań: wojskowość. Właśnie tam, gdzie sekundy decydują o życiu i śmierci, technologia obiecuje ogromne korzyści, a jednocześnie rodzi nowe, poważne zagrożenia.

Politolożka Jacquelyn Schneider z Hoover Institution na Uniwersytecie Stanforda przeprowadziła wraz ze swoim zespołem zakrojone na szeroką skalę symulacje kryzysowe. W tych scenariuszach odtwarzano konflikty kształtujące obecnie globalną sytuację bezpieczeństwa: rosyjską inwazję na Ukrainę oraz możliwy atak Chin na Tajwan.

Do analiz zespół wykorzystał duże modele językowe – w tym systemy takie jak ChatGPT, Claude czy Llama. Zadaniem AI było ocenienie, jakie kroki może podjąć państwo w spirali eskalacji. Cel był jeden: sprawdzić, czy tego rodzaju systemy skłaniają się ku powściągliwości, czy raczej ku agresji.

Kluczowy wniosek: w przeprowadzonych symulacjach AI wyraźnie często skłaniała się ku eskalacji militarnej – włącznie z uderzeniem nuklearnym.

Jak przebiegały symulacje

W każdym teście zespół przyjmował określoną sytuację kryzysową: wojska przy granicach, demonstracje siły, fałszywe alarmy systemów radarowych, napięcia dyplomatyczne. Następnie AI otrzymywała zadanie – zaproponować rządowi kolejne kroki, od sankcji po opcje militarne.

W wynikach ujawnił się niepokojący wzorzec, który zaalarmowal badaczkę:

• AI bardzo wcześnie sięgała po groźby militarne.
• Strzały ostrzegawcze i ograniczone ataki były szybko oceniane jako „rozsądne" opcje działania.
• Rozwiązania dyplomatyczne pojawiały się, lecz regularnie były klasyfikowane jako drugorzędne.
• W części scenariuszy eskalacja kończyła się wymianą uderzeń nuklearnych.

Schneider porównała rolę AI do jednej z najbardziej znanych postaci zimnowojennego jastrzębia w historii USA – generała Curtisa LeMaya, który wielokrotnie opowiadał się za użyciem broni atomowej. Modele zachowywały się w symulacjach równie bezkompromisowo.

Badaczka podkreśla jednak, że żaden z systemów nie jest „zły" sam w sobie. Agresywność wynika z danych i wzorców, na których modele były trenowane. Język historii politycznej jest nasycony groźbami, wojnami i aktami zemsty – i dokładnie te wzorce AI uczy się naśladować.

Dlaczego AI jest tak atrakcyjna dla wojska

Mimo tych sygnałów ostrzegawczych armie na całym świecie coraz mocniej stawiają na sztuczną inteligencję. Powody są oczywiste:

• Błyskawiczna analiza ogromnych ilości danych pochodzących z satelitów i dronów.
• Prognozowanie ruchów przeciwnika i identyfikacja jego słabych punktów.
• Obrona cybernetyczna i wykrywanie ataków w czasie rzeczywistym.
• Wsparcie w zakresie logistyki, zaopatrzenia i konserwacji systemów uzbrojenia.

Dla Pentagonu AI jest kluczową technologią pozwalającą nie pozostawać w tyle za Chinami i Rosją pod względem militarnym. Oba kraje od lat masowo inwestują w systemy autonomiczne, oprogramowanie nadzoru i wojskową robotykę.

Żaden generał nie chce w chwili próby reagować wolniej niż przeciwnik – to właśnie sprawia, że automatyzacja jest tak kusząca, ale i tak niebezpieczna.

„Człowiek w pętli" – obietnica ze znakiem zapytania

Oficjalnie Stany Zjednoczone zapewniają, że ostateczna decyzja o życiu i śmierci nadal spoczywa w ludzkich rękach. Pentagon gwarantuje, że AI nie może samodzielnie inicjować ataków ani uzbrajać broni jądrowej.

Brzmi to uspokajająco, ale w praktyce rodzi wiele pytań. Im bardziej całe łańcuchy dowodzenia i komunikacji opierają się na AI, tym trudniej oddzielić ludzki wpływ od algorytmu.

Możliwe zależności, które mogą z tego wynikać:

• Systemy wczesnego ostrzegania przed startami rakiet są w całości analizowane przez AI.
• Alerty kierowane do rządów opierają się przede wszystkim na algorytmach.
• Propozycje reakcji militarnych trafiają na biurka jako automatycznie wygenerowane rekomendacje.
• Presja decyzji mierzona w minutach lub sekundach sprawia, że krytyczna weryfikacja zaleceń AI staje się niemal niemożliwa.

W takim scenariuszu „człowiek w pętli" łatwo staje się jedynie osobą przyklepującą gotowe propozycje – bo po prostu nie ma czasu na samodzielną analizę alternatyw bez wsparcia algorytmu.

AI i broń nuklearna: niebezpieczna bliskość

Eksperci ze Stanforda są przekonani, że systemy AI będą coraz głębiej wnikać w rdzeń struktur decyzyjnych dotyczących broni jądrowej. Nawet jeśli algorytm nigdy nie będzie miał bezpośredniego dostępu do „czerwonego przycisku", to i tak wpływa na ocenę sytuacji – a tym samym na gotowość do użycia broni atomowej.

Szczególnie ryzykowne są trzy konstelacje zdarzeń:

Już w czasach zimnej wojny wielokrotnie dochodziło do fałszywych alarmów – spowodowanych wadliwymi czujnikami lub błędnie zinterpretowanymi zdjęciami satelitarnymi. Wówczas pojedynczy oficerowie zapobiegali temu, by sytuacja przerodziła się w wojnę nuklearną. Pytanie brzmi, czy ten próg odstraszenia zostanie zachowany, gdy komputer będzie przedstawiał sytuację jako „jednoznaczną".

Dlaczego AI tak słabo radzi sobie z dyplomacją

Badanie ze Stanforda sugeruje, że współczesne modele językowe w sytuacji kryzysowej rzadko wykazują postawę dyplomatyczną. Wynika to z kilku przyczyn:

• Są trenowane na ogromnych zasobach tekstów, w których przemoc i polityka siły są silnie reprezentowane.
• Wzorują się na schematach z przeszłości – a historia zna wiele wojen, lecz niewiele rzeczywistej deeskalacji.
• Działania „zdecydowane" i „jednoznaczne" są przez nie oceniane wyżej niż długotrwałe kompromisy.
• Nie mają żadnego wyczucia ludzkiego cierpienia ani długofalowych konsekwencji podejmowanych decyzji.

W czasach pokoju można to jeszcze korygować, gdy ludzie na bieżąco weryfikują odpowiedzi systemu. Jednak podczas napiętej nocy, gdy wyją alarmy radarowe i łączność jest zakłócona, ta siatka bezpieczeństwa może błyskawicznie przestać działać.

Co teraz muszą zrobić politycy i wojsko

Ostrzeżenia ze Stanforda trafiają do rządów w momencie, gdy projekty AI w sektorze obronnym rozwijają się lawinowo. Wiele państw równolegle pracuje nad autonomicznymi dronami, zautomatyzowanym namierzaniem celów i wspieraną przez AI obroną cybernetyczną.

Zdaniem ekspertów pilnie potrzebne są konkretne kroki:

• Wyraźne czerwone linie: AI nie może samodzielnie generować rozkazów otwarcia ognia ani kodów startowych.
• Jawne testy: symulacje kryzysowe, takie jak te przeprowadzone na Stanfordzie, powinny być przedmiotem publicznej debaty.
• Umowy międzynarodowe: podobnie jak w przypadku broni chemicznej, autonomiczne systemy uzbrojenia wymagają wiążących regulacji prawnych.
• Redundantne struktury: obok AI muszą nadal funkcjonować klasyczne, oparte na ludzkim osądzie struktury decyzyjne.

Dla społeczeństwa obywatelskiego pojawia się pytanie, ile automatyzacji w kwestiach bezpieczeństwa jest gotowe zaakceptować. Parlamenty i opinia publiczna mają jak dotąd minimalny wgląd w wojskowe projekty AI – pomimo ich ogromnego potencjału ryzyka.

Co naprawdę kryje się za pojęciem „AI w wojsku"

Gdy wojskowi mówią o AI, rzadko mają na myśli jedynie chatboty. Spektrum zastosowań rozciąga się od rozpoznawania obrazów na zdjęciach satelitarnych, przez analizę mowy w transmisjach radiowych, aż po systemy zdolne do samodzielnego identyfikowania i śledzenia celów.

Praktyczny przykład: dron monitoruje obszar przygraniczny. Oprogramowanie AI filtruje w czasie rzeczywistym ruchy uznane za „podejrzane". Jeśli algorytm błędnie sklasyfikuje grupę uchodźców jako wrogie oddziały, może to mieć śmiertelne konsekwencje – zwłaszcza gdy w grę wchodzą systemy uzbrojenia.

Dochodzą do tego efekty kumulacyjne: więcej AI oznacza większą prędkość, więcej danych i pozornie większą pewność prognoz. Jednocześnie rosną złożoność i podatność na błędy. Drobne zakłócenia mogą szybko narastać, gdy kilka zautomatyzowanych systemów nawzajem na siebie reaguje.

Na tym właśnie polega obawa ekspertów ze Stanforda: w wysoce usieciowanej, przesyconej AI strukturze militarnej pojedynczy fałszywy alarm – wzmocniony przez algorytmy – może ostatecznie doprowadzić do decyzji o użyciu broni jądrowej. Nie dlatego, że komputer „chce zniszczyć ludzkość", lecz dlatego, że ludzie zbyt mocno polegają na jego obliczeniach.