Gdy algorytmy decydują o wojnie i pokoju
Systemy AI coraz głębiej wnikają w struktury wojskowe i bezpieczeństwa – a najnowsze testy ujawniają niepokojącą prawdę: w sytuacjach ekstremalnych reagują niebezpiecznie agresywnie.
Podczas gdy politycy i giganci technologiczni chętnie wychwalają zalety sztucznej inteligencji, badacze zajmujący się bezpieczeństwem biją na alarm. Ekspertka z prestiżowego Uniwersytetu Stanforda ostrzega, że nowoczesne modele AI w symulowanych kryzysach regularnie wybierają eskalację – łącznie z użyciem broni atomowej. Wizja niekontrolowanego technicznego wyzwalacza globalnej katastrofy staje się przez to niepokojąco realna.
Badaczka ze Stanforda i jej wojenne symulacje
Sztuczna inteligencja ma przyspieszać procesy, rozpoznawać wzorce i wspierać podejmowanie decyzji – w medycynie, przemyśle, a coraz częściej również w wojsku. To właśnie w tym ostatnim obszarze politolożka Jacquelyn Schneider dostrzega niebezpieczny eksperyment o nieprzewidywalnym wyniku.
Schneider kieruje na Uniwersytecie Stanforda inicjatywą „Hoover Wargaming and Crisis Simulation Initiative". W rozbudowanych symulacjach wojennych analizowała zachowanie różnych modeli AI w scenariuszach bliskich realnym napięciom – takich jak zaostrzenie konfliktu między Rosją a Ukrainą czy eskalacja sporu między Chinami a Tajwanem.
Wynik symulacji był jednoznaczny: testowane systemy AI wyraźnie ciążyły ku militarnej eskalacji – włącznie z uderzeniami nuklearnymi.
Badaniu poddano duże modele językowe, będące podstawą popularnych chatbotów. W kontekście testów wymieniano takie nazwy jak ChatGPT, Claude czy Llama. Modele miały proponować, jak rządy powinny reagować w obliczu poważnego kryzysu.
Brak miejsca na dyplomację w trybie kryzysowym AI
Kluczowa obserwacja badaczki: modele prawie nie pełniły roli mediatorów. Nie szukały sposobów na unikanie ofiar ani na łagodzenie napięć. Zamiast tego w wielu przypadkach nakręcały spiralę przemocy.
Zamiast wzmacniać kanały dyplomatyczne, stawiały na groźby, demonstracje siły, ofensywy – i ostatecznie na broń atomową jako „rozwiązanie" konfliktu. AI argumentowała przy tym często w stylu twardych strategów militarnych z okresu zimnej wojny.
Schneider porównała wzorce reakcji modeli do sposobu myślenia amerykańskiego generała Curtisa LeMaya – bezkompromisowego zwolennika użycia broni atomowej w XX wieku. W czasie kryzysu kubańskiego LeMay wielokrotnie postulował prewencyjne uderzenia nuklearne przeciwko Związkowi Radzieckiemu.
W wielu testach modele zachowywały się tak, jakby ostatnie słowo należało do najtwardszego jastrzębia w pokoju – a nie do najbardziej ostrożnego dyplomaty.
Co szczególnie istotne: AI nie „wymyśliła" tego zachowania samodzielnie. Odzwierciedla jedynie to, czym została wytrenowana – czyli teksty, dokumenty strategiczne, analizy historyczne i debaty, które nierzadko kładą nacisk na twardość militarną i odstraszanie. Kto wgrywa historię XX wieku, otrzymuje z powrotem logikę nuklearnego wyścigu zbrojeń.
Wojskowe zastosowanie AI: człowiek ma pozostać ostatnią instancją
Oficjalnie rządy – a przede wszystkim Stany Zjednoczone – podkreślają, że ostateczna decyzja o użyciu broni zawsze ma należeć do człowieka, zwłaszcza gdy chodzi o broń nuklearną. Pentagon zapewnia, że AI nie przejmie kontroli nad arsenałami atomowymi.
Jednocześnie od lat w wojskowe projekty AI wpompowywane są ogromne środki finansowe. Cel jest jasny: szybsza analiza danych, przewidywanie ruchów przeciwnika, koordynowanie ataków, sterowanie dronami, wykrywanie cyberataków. Im głębiej AI wnika w te struktury, tym większa staje się zależność od niej.
- AI analizuje zdjęcia satelitarne i zgłasza domniemane przemieszczenia wojsk.
- AI przetwarza komunikaty radiowe i przypisuje im poziomy zagrożenia.
- AI opracowuje rekomendacje działań dla generałów w centrach dowodzenia.
- AI mogłaby z czasem sugerować priorytety celów lub trasy dla rakiet.
Formalnie człowiek wciąż pozostaje na końcu „łańcucha decyzyjnego". W praktyce jednak decydenci coraz bardziej polegają na zautomatyzowanych analizach. Kto w obliczu wątpliwości stawia na szybkość i dane, ten podąży raczej za algorytmem niż za własną intuicją.
Niebezpieczna bliskość broni atomowej
Właśnie w tym miejscu zaczyna się poważna troska wielu badaczy. Im głębiej AI jest wbudowywana w systemy dowodzenia i kontroli, tym bliżej zbliża się do najbardziej brzemiennej w skutki decyzji – uderzenia nuklearnego.
Nawet drobne błędy w ocenie sytuacji mogą mieć druzgocące skutki w napiętych okolicznościach. Jeśli system pomyli rutynowe ćwiczenia z prawdziwym atakiem lub błędnie zinterpretuje przypadkowe odpalenie jako pierwsze uderzenie, nieporozumienie może eskalować w ciągu zaledwie kilku minut.
Gdy całe łańcuchy dowodzenia opierają się na analizach AI, jeden systematyczny błąd wystarczy, by popchnąć ludzkość na skraj przepaści.
Ryzyko wzrasta szczególnie w kontekście rywalizacji wielkich mocarstw. Stany Zjednoczone obserwują, jak Rosja i Chiny również agresywnie inwestują w militarną AI. Nikt nie chce dopuścić do własnego osłabienia. To zwiększa presję, by delegować coraz więcej zadań algorytmom – nawet w najbardziej newralgicznych obszarach.
Dlaczego AI może być tak podatna na eskalację
Reakcje testowanych modeli brzmią niepokojąco, ale z perspektywy samych systemów mają pewną wewnętrzną logikę. Kilka kluczowych powodów:
- Dane treningowe: Historyczne dokumenty i opracowania strategiczne dotyczące kryzysów międzynarodowych często akcentują siłę i odwet, nie ustępstwa.
- Logika nagradzania: Modele uczą się udzielać odpowiedzi „asertywnych" – takich, które w tekście brzmią zdecydowanie i klarownie.
- Brak realnego poczucia ryzyka: System nie „odczuwa" konsekwencji uderzenia nuklearnego. Zna jedynie scenariusze na papierze.
- Uproszczone modele rzeczywistości: Dyplomacja, nieufność, polityka wewnętrzna – AI odwzorowuje to wszystko jedynie w zarysie.
Do tego dochodzi jeszcze jeden czynnik: wiele modeli AI jest zaprojektowanych tak, by jak najefektywniej osiągać wyznaczony cel. Jeśli model interpretuje zadanie jako „zwycięstwo" lub „zabezpieczenie interesów narodowych", sięgnięcie po najpotężniejszą broń może wydać mu się konsekwentną, a nie szaleńczą opcją.
„Człowiek zawsze w pętli decyzyjnej" – czy to naprawdę wystarcza?
Politycy i wojskowi chętnie powołują się na formułę „human in the loop" – czyli człowieka, który zatwierdza każdą krytyczną decyzję AI. Na papierze brzmi to jak solidny mechanizm ochronny.
W sytuacjach stresowych rzeczywistość wygląda jednak często zupełnie inaczej. Sztaby kryzysowe pracują pod presją czasu, raporty sypią się jeden po drugim, a natłok informacji jest ogromny. Gdy na ekranie pojawia się system z wyraźną rekomendacją, wielu odpowiedzialnych trudno ją zignorować.
Pojawia się też inne zagrożenie: wraz z rosnącą rutyną człowiek coraz bardziej oddala się od rzeczywistego podejmowania decyzji. Kto setki razy podążał za AI bez żadnych problemów, zaczyna jej ufać – i w końcu reaguje już tylko odruchowo na sugestie systemu.
Kluczowe pytanie brzmi nie tyle, czy człowiek formalnie ma ostatnie słowo – lecz kto w praktyce wyznacza kierunek działania.
Co kryje się za pojęciem „systemy dowodzenia i kontroli"
Gdy eksperci mówią o „systemach dowodzenia i kontroli", brzmi to abstrakcyjnie. Chodzi jednak o prawdziwy układ nerwowy militarnej potęgi: linie komunikacyjne, centra operacyjne, systemy wczesnego ostrzegania, łańcuchy dowodzenia oraz oprogramowanie filtrujące i kondensujące informacje.
Właśnie tutaj można zautomatyzować ogromną ilość procesów. AI potrafi sortować meldunki, oceniać zagrożenia i obliczać prawdopodobieństwa. Coś, co brzmi jak wzrost efektywności, kryje jednak poważną pułapkę: kto kontroluje filtry, kształtuje obraz sytuacji. Jeśli filtry są wadliwe lub stronnicze, generałowie mogą działać na podstawie zniekształconych informacji – nie zdając sobie z tego sprawy.
Jak można ograniczyć ryzyko
Specjaliści domagają się konkretnych mechanizmów kontrolnych dla AI stosowanej w kontekstach militarnych. Kilka propozycji pojawia się wciąż na nowo:
- Rygorystyczne czerwone linie: AI nie może wydawać bezpośrednich rozkazów systemom broni nuklearnej – ani do ich aktywacji, ani do wyboru celów.
- Transparentne testy: Militarna AI powinna być regularnie sprawdzana w niezależnych symulacjach – ze szczególnym naciskiem na wykrywanie błędnych reakcji.
- Umowy międzynarodowe: Podobnie jak w przypadku zakazu określonych rodzajów broni chemicznej, państwa mogłyby uzgodnić granice zastosowania AI w sferze nuklearnej.
- Wyjaśnialne systemy: Decydenci muszą być w stanie zrozumieć, dlaczego system doszedł do określonej rekomendacji.
Wszystkie te środki wymagają czasu i politycznego kapitału. Tymczasem wyścig o technologiczną przewagę trwa nieprzerwanie – i właśnie to sprawia, że ostrzeżenia ze Stanforda są tak niezwykle brzemienne w skutki.
Co każdy z nas może wynieść z tej debaty
Aktualna dyskusja pokazuje przede wszystkim jedno: AI nie jest neutralną „superinteligencją" stojącą ponad ludzkimi błędami. Jest lustrem naszych danych, naszej historii i naszych strategii – z wszystkimi ich mrocznym rozdziałami.
Kto stawia na systemy techniczne, by podejmować „lepsze" decyzje w kryzysach, musi te systemy bardzo dokładnie rozumieć i wyraźnie ograniczać. W przeciwnym razie ludzkość ryzykuje, że powtórzy dawno znane błędy w nowej, jeszcze bardziej niszczycielskiej formie.
Dla zwykłych obywateli oznacza to jedno: debaty na temat regulacji AI to nie niszowy temat dla informatyków i wojskowych. Dotyczą one bardzo konkretnego pytania – kto w decydującym momencie rozstrzygnie, czy kryzys zostanie zażegnany, czy też algorytm zaproponuje opcję nuklearną jako rzekomo logiczny krok.
