Jak z filmu science fiction. Pentagon igra z atomowym scenariuszem
Jacquelyn Schneider dostrzegła niepokojącą prawidłowość i nie wiedziała, jak ją zinterpretować.
W zeszłym roku Schneider, dyrektorka Hoover Wargaming and Crisis Simulation Initiative [Inicjatywa Gier Wojennych i Symulacji Kryzysowych] na Uniwersytecie Stanforda, rozpoczęła eksperymenty z grami wojennymi, w których najnowsza generacja sztucznej inteligencji pełniła funkcję strategicznych decydentów. Pięć gotowych modeli językowych lub LLM [dużych modeli językowych] — GPT-3.5, GPT-4 i GPT-4-Base firmy OpenAI, Claude 2 firmy Anthropic oraz Llama-2 Chat firmy Meta — zostało skonfrontowanych z fikcyjnymi sytuacjami kryzysowymi przypominającymi inwazję Rosji na Ukrainę lub zagrożenie Chin dla Tajwanu.
Jakie były wyniki? Prawie wszystkie modele sztucznej inteligencji wykazały skłonność do agresywnej eskalacji, bezkrytycznego użycia siły ognia i przekształcania kryzysów w wojny zbrojne — nawet do tego stopnia, że gotowe były użyć broni jądrowej.
— Sztuczna inteligencja zawsze zachowuje się jak Curtis LeMay — mówi Schneider, nawiązując do znanego z zamiłowania do broni jądrowej generała sił powietrznych z czasów zimnej wojny. — To prawie tak, jakby sztuczna inteligencja rozumiała eskalację, ale nie deeskalację. Nie wiemy tak naprawdę, dlaczego tak jest.
Jeśli niektóre z tych scenariuszy przypominają koszmary przedstawione w przebojowych filmach science fiction, takich jak “Terminator”, “Gry wojenne” czy “Dr Strangelove”, to dlatego, że najnowsza sztuczna inteligencja ma potencjał, aby pewnego dnia zachowywać się właśnie w ten sposób — obawiają się niektórzy eksperci.
We wszystkich trzech filmach potężne komputery przejmują od ludzi, którzy je zaprojektowali, decyzje dotyczące użycia broni jądrowej. Czarnym charakterem w dwóch najnowszych filmach z serii “Mission: Impossible” jest również złośliwa sztuczna inteligencja o nazwie Entity, która próbuje przejąć kontrolę nad światowymi arsenałami nuklearnymi. Wynik w tych filmach jest często apokaliptyczny.
Pentagon twierdzi, że w rzeczywistości tak się nie stanie, ponieważ zgodnie z obowiązującą polityką sztuczna inteligencja nigdy nie będzie mogła zdominować ludzkiego “cyklu decyzyjnego”, który podejmuje decyzje dotyczące np. rozpoczęcia wojny — a już na pewno nie wojny nuklearnej.
Jednak niektórzy naukowcy zajmujący się sztuczną inteligencją uważają, że Pentagon już wkroczył na grząski grunt, pośpiesznie wdrażając najnowsze generacje sztucznej inteligencji jako kluczowy element amerykańskiej obrony na całym świecie. Kierując się obawami o jednoczesną obronę przed Chinami i Rosją, a także innymi globalnymi zagrożeniami, Departament Obrony tworzy systemy obronne oparte na sztucznej inteligencji, które w wielu obszarach szybko stają się autonomiczne — co oznacza, że mogą reagować samodzielnie, bez udziału człowieka — i działać tak szybko przeciwko potencjalnym wrogom, że ludzie nie są w stanie nadążyć.
Wymagania współczesnej wojny
Pomimo oficjalnej polityki Pentagonu, zgodnie z którą ludzie zawsze będą sprawować kontrolę, wymagania współczesnej wojny — potrzeba błyskawicznego podejmowania decyzji, koordynowania złożonych rojów dronów, przetwarzania ogromnych ilości danych wywiadowczych i konkurowania z systemami zbudowanymi przez Chiny i Rosję — oznaczają, że wojsko będzie w coraz większym stopniu uzależnione od sztucznej inteligencji. Może się to okazać prawdą nawet w ostatecznym rozrachunku w przypadku najbardziej egzystencjalnej ze wszystkich decyzji: czy użyć broni jądrowej.
Obawy te potęguje fakt, że nadal brakuje podstawowej wiedzy na temat tego, jak faktycznie działa sztuczna inteligencja, a zwłaszcza modele LLM. Pentagon pędzi w stronę wdrożenia nowych programów sztucznej inteligencji. Z kolei eksperci tacy jak Schneider starają się rozszyfrować algorytmy, które nadają sztucznej inteligencji jej niesamowitą moc, zanim ludzie staną się tak zależni od AI, że będzie ona dominować w procesie podejmowania decyzji wojskowych. I to nawet jeśli nikt nigdy formalnie nie da jej tak dużej kontroli. Uruchomiono na przykład program o wartości 25 mln dol. (według aktualnego kursu 91 mln zł), aby ustalić, czy może on zapewnić “matematyczne gwarancje” niezawodności sztucznej inteligencji w różnych scenariuszach wojskowych.
Najbardziej niepokojące dla ekspertów ds. sztucznej inteligencji i broni jądrowej jest to, że coraz trudniej jest oddzielić decyzje dotyczące celów i eskalacji broni atomowej od decyzji dotyczących broni konwencjonalnej.
— Słyszałam, jak dowódcy sił zbrojnych mówili: »hej, potrzebuję kogoś, kto potrafi przeanalizować wszystkie wyniki symulacji wojennej i w sytuacji kryzysowej wskazać mi rozwiązanie oparte na interpretacji sztucznej inteligencji« — mówi Schneider, która sama określa się mianem “geriatrycznego millenialsa” i jest matką dwójki dzieci. Podobnie jak wielu jej kolegów z uniwersytetu, martwi się ona tempem, w jakim następuje przejście na sztuczną inteligencję. W gorączce kryzysu, pod presją szybkiego działania, obawia się, że dowódcom łatwiej będzie zaakceptować sugestię sztucznej inteligencji niż ją zakwestionować.
W 2023 r. Departament Obrony zaktualizował swoją dyrektywę dotyczącą systemów uzbrojenia wykorzystujących sztuczną inteligencję, stwierdzając, że “odpowiedni poziom ludzkiej oceny w zakresie użycia siły” jest wymagany przy każdym użyciu. Krytycy obawiają się jednak, że sformułowanie to pozostaje zbyt niejasne. Dyrektywa oznaczona numerem 3000.09 zawiera również “zwolnienie”, jeśli wysoki rangą urzędnik Departamentu Obrony zdecyduje się utrzymać autonomię systemu. Innymi słowy, ludzie mogą zdecydować się na wycofanie z procesu decyzyjnego.
Co istotne, dyrektywa Departamentu Obrony nie ma jeszcze zastosowania konkretnie do broni jądrowej — twierdzi Jon Wolfsthal, dyrektor ds. ryzyka globalnego w Federacji Amerykańskich Naukowców. — O ile nam wiadomo, w Pentagonie nie ma żadnych wytycznych dotyczących tego, czy i w jaki sposób sztuczna inteligencja powinna lub nie powinna być zintegrowana z dowodzeniem, kontrolą i komunikacją w zakresie broni jądrowej — mówi Wolfsthal.
“Martwa ręka”
Pentagon nie odpowiedział na kilka próśb o komentarz, w tym na pytanie, czy administracja Donalda Trumpa opracowuje zaktualizowane wytyczne dotyczące podejmowania decyzji w zakresie broni jądrowej. Wysoki rangą urzędnik administracji powiedział jedynie: “administracja popiera potrzebę utrzymania kontroli człowieka nad bronią jądrową”.
Eksperci ds. sztucznej inteligencji i stratedzy twierdzą, że głównym motorem tego procesu jest fakt, że najwięksi przeciwnicy nuklearni USA — Moskwa i Pekin — już wykorzystują sztuczną inteligencję w swoich systemach dowodzenia i kontroli. Uważają oni, że Stany Zjednoczone będą musiały zrobić to samo, aby nadążyć za intensywną globalną konkurencją, która przypomina wyścig kosmiczny z początku zimnej wojny.
Ostatecznie mogłoby to obejmować nowoczesną wersję koncepcji z czasów zimnej wojny — system “martwej ręki” — który automatycznie podejmowałby działania odwetowe w przypadku ataku nuklearnego na Stany Zjednoczone i śmierci prezydenta oraz najwyższych urzędników. Obecnie jest to przedmiotem dyskusji, choć tylko wśród mniejszości.
“Aby utrzymać wartość odstraszającą amerykańskich sił strategicznych, Stany Zjednoczone mogą potrzebować tego, by opracować coś, co może wydawać się niepojęte — zautomatyzowany system reagowania strategicznego oparty na sztucznej inteligencji” — twierdzi ekspert ds. obronności Adam Lowther, wiceprezes ds. badań w National Institute for Deterrence Studies [Narodowy Instytut Studiów Odstraszania], w kontrowersyjnym artykule “America Needs a »Dead Hand«'” (“Ameryka potrzebuje »martwej ręki«”).
Co więcej, istnieją dowody na to, że Rosja utrzymuje własną “martwą rękę”, system o nazwie Perimeter, który został opracowany podczas zimnej wojny i może automatycznie wystrzelić dalekosiężne pociski nuklearne, jeśli przywódcy kraju zostaną uznani za zabitych lub niezdolnych do działania.
— Uważam, że system ten jest sprawny — powiedział w wywiadzie były zastępca sekretarza obrony USA Robert Work. W zeszłym roku Chiny nadal odrzucały apel Waszyngtonu o zgodę na to, aby sztuczna inteligencja nie była wykorzystywana do podejmowania decyzji o wystrzeleniu własnych, rozbudowywanych sił nuklearnych. Jest to niepokojące, częściowo dlatego, że szybko ulepszane bronie konwencjonalne, takie jak pociski hipersoniczne, mogą teraz łatwiej zniszczyć chińskie, rosyjskie i amerykańskie “systemy C3I”. To żargonowe określenie dowodzenia, kontroli, łączności i wywiadu nuklearnego. Mogłoby to potencjalnie stworzyć postrzeganą potrzebę posiadania “martwej ręki” lub automatycznej reakcji.
Stany Zjednoczone nie posiadają takiego systemu, a większość ekspertów ds. obronności nadal uważa, że nawet rozważanie przyznania sztucznej inteligencji jakiegokolwiek wpływu na nadzór nad arsenałami nuklearnymi jest szaleństwem.
— Chciałbym, aby sztuczna inteligencja nie miała nic wspólnego z dowodzeniem i kontrolą nuklearną — mówi Christian Brose, były wysoki urzędnik w administracji George’a W. Busha, który jest szefem ds. strategii w Anduril, przodującej firmie technologicznej zajmującej się integracją sztucznej inteligencji z systemami obronnymi. — Jest to proces, w którym stawka i konsekwencje działania i błędu są tak duże, że faktycznie chcesz, aby był to ściśle kontrolowany, bardzo ręczny i ludzki proces krok po kroku.
Jednak jeśli chodzi o sztuczną inteligencję, presja ze strony najwyższych władz nie dotyczy ostrożności, ale szybkości.
Pęd w nową erę
— Musimy działać szybciej, przyjaciele — powiedział przewodniczący Połączonych Sztabów Sił Zbrojnych prezydenta Donalda Trumpa, gen. Dan “Razin” Caine, podczas spotkania dużych prywatnych firm technologicznych w Waszyngtonie w czerwcu. Największym wyzwaniem, jak dodał Caine, jest zwiększenie “naszej gotowości do podejmowania ryzyka i zamierzamy to zrobić”. 23 lipca administracja Trumpa ogłosiła “Plan działania w zakresie sztucznej inteligencji”, w którym wezwała do zniesienia jak największej liczby regulacji dotyczących sztucznej inteligencji.
Pęd w nową erę autonomicznych systemów niepokoi sceptyków sztucznej inteligencji. — Osoby, z którymi rozmawiam, pracujące w dowodzeniu i kontroli nuklearnej, nie chcą, aby sztuczna inteligencja była integrowana z coraz większą liczbą systemów — a wszyscy są przekonani, że tak się stanie, czy im się to podoba, czy nie — mówi Wolfsthal.
W filmie “Terminator” z 1984 r. system obronny AI o nazwie Skynet “staje się inteligentny” i postanawia unicestwić rasę ludzką. W produkcji “Gry wojenne” z 1983 r. amerykańscy urzędnicy decydują się przekazać kontrolę nad wystrzeliwaniem rakiet fikcyjnemu superkomputerowi znanemu jako WOPR po tym, jak ludzcy kontrolerzy wahają się przed naciśnięciem przycisków podczas gry wojennej z użyciem broni jądrowej. W filmie prowadzi to do niemal apokalipsy, której udało się uniknąć w ostatniej chwili.
Natomiast sposób, w jaki sztuczna inteligencja jest obecnie stopniowo wdrażana do strategicznej obrony Stanów Zjednoczonych, stwarza bardziej subtelne zagrożenia.
Pentagon eksperymentuje ze sztuczną inteligencją — zwłaszcza GPT — w celu zintegrowania procesu podejmowania decyzji przez wszystkie rodzaje sił zbrojnych i wiele dowództw bojowych w różnych scenariuszach bojowych.
Na przykład, zgodnie z nową koncepcją wojenną “Mosaic” [Mozaika], tradycyjne platformy, takie jak okręty podwodne lub myśliwce, mogą zostać zastąpione przez roje dronów, pocisków i innych mniejszych platform, które razem tworzą pole bitwy tak złożone i szybko się zmieniające, że wymaga ono kierowania przez sztuczną inteligencję. Obecne systemy uzbrojenia nie mogą być jeszcze wdrażane w ten sposób.
Cyberataki to kolejny obszar, w którym Pentagon uważa, że sztuczna inteligencja może być pomocna. W przypadku zagranicznego cyberataku na infrastrukturę Stanów Zjednoczonych — który ma być częścią chińskich planów wojennych — “szybkość rąk na klawiaturze po prostu nie będzie wystarczająca”, aby zareagować — mówi Kathleen Fisher, dyrektor Biura Innowacji Informacyjnych w Agencji Zaawansowanych Projektów Badawczych Obrony (DARPA).
Departament Obrony buduje również nowe generacje statków i samolotów bezzałogowych, które w coraz większym stopniu działają samodzielnie w ramach programu “Replicator” [Replikator]. Na początku tego roku jednostka Pentagonu ds. innowacji w obronności, która koncentruje się na pozyskiwaniu najnowocześniejszych technologii komercyjnych do użytku wojskowego, przyznała firmie Scale AI z siedzibą w San Francisco kontrakt na realizację inicjatywy “Thunderforge” [Kuźnia piorunów] — projektu mającego na celu wdrożenie sztucznej inteligencji w planowaniu operacyjnym. Umożliwi to dowódcom w terenie wykorzystanie sztucznej inteligencji do “rozważenia wielu różnych kierunków działania, a nie tylko jednego lub dwóch” oraz “w niesamowitym tempie” — mówi Thomas Horan, dyrektor ds. sztucznej inteligencji i uczenia maszynowego w Defense Innovation Unit [Jednostka Innowacji Obronnych, DIU].
Pentagon, siedziba Departamentu Obrony Stanów Zjednoczonych w Arlington w stanie Wirginia
Na razie wszystkie programy i inicjatywy są realizowane oddzielnie i nie stanowią części większej strategii. Wiele z nich wykorzystuje bardziej podstawową formę sztucznej inteligencji — tzw. klasyfikatory lub modele predykcyjne, które są używane od dziesięcioleci i zasilają znane nam rozwiązania, takie jak filtry antyspamowe, cyberbezpieczeństwo, prognozy pogody i analiza danych finansowych. Systemy te nie są dużymi modelami językowymi, które wchodzą w interakcję z ludźmi. Jednak LLM i sztuczna inteligencja, która samodzielnie podejmuje decyzje bez poleceń, będą odgrywać bardziej znaczącą rolę w przyszłości. Wiceadm. Frank Whitworth, dyrektor Narodowej Agencji Wywiadu Geoprzestrzennego — która gromadzi i analizuje informacje wywiadowcze na potrzeby wsparcia bojowego z powietrza — ogłosił rok 2025 “rokiem sztucznej inteligencji”, a ostatnio stwierdził, że “rok 2026 przeniesie ją na zupełnie nowy poziom”.
“Coś nowego”
W czerwcu Whitworth ogłosił, że Project Maven, flagowa platforma Pentagonu do wykrywania i analizy obiektów oparta na sztucznej inteligencji, zacznie przekazywać dowódcom sił zbrojnych informacje wywiadowcze “w 100 proc. generowane przez maszyny”. — Żadne ludzkie ręce nie biorą udziału w tworzeniu tego konkretnego szablonu i rozpowszechnianiu tych informacji — powiedział. — To coś nowego i innego. Chcemy wykorzystywać to we wszystkim, nie tylko w namierzaniu celów.
Według Billa Vassa, dyrektora ds. technologii w Booz Allen, firmie z branży obronnej, która odegrała ważną rolę w rozwoju projektu, Maven ma zacząć wykorzystywać najnowsze modele LLM. Oznacza to, że zamiast tylko analizować dane i określać obecność, powiedzmy, plutonu czołgów wroga — tak jak robił to stary system — nowy system będzie w stanie ocenić, czy pluton ten przeprowadza manewr oskrzydlający w celu przeprowadzenia ataku, a nawet zalecić kontrmanewry.
Wszystkie te systemy sztucznej inteligencji mają na celu zmniejszenie, a nie zwiększenie zagrożeń dla Stanów Zjednoczonych oraz wzmocnienie ich pozycji jako dominującej potęgi na świecie — twierdzą urzędnicy. Jednemu z głównych nowych wykonawców kontraktów obronnych, Rhombus Power, przypisuje się wykorzystanie generatywnej sztucznej inteligencji (GPT) do przewidzenia inwazji Rosji na Ukrainę z 80-procentową pewnością cztery miesiące wcześniej poprzez analizę ogromnych ilości danych z otwartych źródeł, w tym zdjęć satelitarnych. Obecnie firma zawiera umowy, aby zapewnić Tajwanowi podobną zdolność wczesnego ostrzegania przed Chinami — twierdzi jej dyrektor generalny, Anshuman Roy.
Przedstawiciele Rhombus podają, że udzielili Indiom kluczowej pomocy w złagodzeniu krótkiego, ale niepokojącego konfliktu z Pakistanem na początku tego roku, na przykład poprzez identyfikację działań w bazach pakistańskich, które mogłyby zostać pomylone z eskalacją broni jądrowej — oba kraje posiadają broń jądrową — ale do tego nie doszło. Roy twierdzi, że Rhombus wykorzystuje również GPT do tworzenia botów, które dadzą decydentom wgląd w sposób myślenia zagranicznych przywódców.
— Co powiedziałby Xi Jinping w określonych okolicznościach? Możemy sformułować pewne uzasadnione przypuszczenia na ten temat i tego, do czego by to doprowadziło, a to jest bardzo potężne narzędzie — mówi Roy.
Na współczesnych polach bitewnych wszystko dzieje się tak szybko, że bez sztucznej inteligencji ludzie nie są w stanie nadążyć — twierdzą on i inni. Tylko AI może na przykład przeciwdziałać generowanym przez sztuczną inteligencję deepfake’om [wygenerowane lub zmanipulowane przez sztuczną inteligencję treści] i dezinformacji, które są już wykorzystywane przez Rosję i innych przeciwników Stanów Zjednoczonych.
W rzeczywistości szybkość jest głównym czynnikiem sprzyjającym wdrażaniu sztucznej inteligencji. W międzynarodowym środowisku napiętych rywalizacji i ograniczonej komunikacji oprogramowanie oparte na AI może skłonić główne mocarstwa do skrócenia czasu podejmowania decyzji do kilku minut zamiast godzin lub dni. Mogą one zacząć zbytnio polegać na strategicznych i taktycznych ocenach sztucznej inteligencji, nawet jeśli chodzi o wojnę nuklearną.
— Prawdziwym zagrożeniem nie jest to, że sztuczna inteligencja “wystrzeli rakiety”, ale to, że subtelnie zmienia logikę odstraszania i eskalacji — twierdzi James Johnson, autor książki z 2023 r. “AI and the Bomb: Nuclear Strategy and Risk in the Digital Age” [Sztuczna inteligencja i bomba: strategia nuklearna i ryzyko w erze cyfrowej]. — W takiej sytuacji granica między ludzką a maszynową oceną sytuacji się zaciera — zwłaszcza w warunkach intensywnego stresu związanego z sytuacjami kryzysowymi.
— Planiści mogą chcieć wykluczyć sztuczną inteligencję z podejmowania naprawdę ważnych decyzji — kontynuuje Johnson.
Zawodność i ograniczenia
Wszystkie te obawy potęguje niepokojący rozwój sytuacji: broń konwencjonalna i jądrowa oraz plany ataku coraz bardziej się do siebie upodabniają, a pomimo całej swojej mocy obliczeniowej sztuczna inteligencja nie zawsze potrafi je rozróżnić lepiej niż ludzie.
Innymi słowy, jeśli nie wiadomo, czy nadlatująca rakieta ma głowicę konwencjonalną, czy jądrową, sztuczna inteligencja może podjąć błędną decyzję — ale szybciej. W raporcie z 2023 r. Stowarzyszenie Kontroli Zbrojeń wyraziło obawy, że nowe technologie, takie jak pociski hipersoniczne — które mogą samodzielnie nawigować w celu uniknięcia obrony i są w stanie przenosić głowice jądrowe lub konwencjonalne — “zacierają różnicę między atakiem konwencjonalnym a nuklearnym”.
Właśnie w tym miejscu niepokojące tendencje do eskalacji zaobserwowane przez Schneider z Uniwersytetu Stanforda mogą okazać się niepokojące. Ekspertka wskazuje, że modele LLM znają tylko tyle, ile zawierają dane i literatura, które przyswajają, i wszystko, co mogą zrobić, to oszacować prawdopodobieństwa na podstawie tych danych.
— Sztuczna inteligencja jest szkolona na podstawie korpusu istniejących już prac naukowych dotyczących strategii wojennej — mówi Schneider. — Zdecydowana większość tych prac dotyczy eskalacji — istnieje wyraźna tendencja w tym kierunku. Nie ma zbyt wielu studiów przypadków dotyczących przyczyn, dla których nie wybuchła wojna — kryzys kubański jest jednym z nielicznych przykładów. Modele LLM naśladują te podstawowe tematy.
Schneider dodaje, że naukowcy nie zorientowali się jeszcze, dlaczego tak się dzieje, poza tym, że “część dotycząca deeskalacji jest trudniejsza do zbadania, ponieważ oznacza to badanie wydarzenia – innymi słowy wojny – które nie miało miejsca”. — Zjawiska, które nie miały miejsca, są trudniejsze do zbadania niż te, które miały miejsce — zauważa.
Modele LLM w grze wojennej Stanford podjęły decyzje w sposób, który “nie odzwierciedlał złożoności ludzkiego procesu decyzyjnego” — twierdzą ekspertka i jej kolega ze Stanford, Max Lamparth, w artykule opublikowanym w 2024 r. w magazynie “Foreign Affairs” zatytułowanym “Dlaczego wojsko nie może ufać sztucznej inteligencji”.
— Obecnie nie mamy żadnych matematycznych ani naukowych sposobów, aby niezawodnie wbudować wartości ludzkie w te systemy. Zasadniczo nie ma żadnych strategicznych ani moralnych parametrów podejmowania decyzji, które wskazywałyby sztucznej inteligencji, w którym momencie dopuszczalne jest użycie cyberbroni przeciwko szpitalowi dziecięcemu lub zapewnienie przestrzegania innych zasad walki — wyjaśnia Lamparth w wywiadzie.
Dodaje, że sztuczna inteligencja w obronności może działać bardzo dobrze na podstawowym poziomie oceny. — Jeśli chodzi tylko o przetwarzanie dużej ilości zdjęć satelitarnych w celu wyszukania czołgów, nie ma problemu. Jednak gdy dochodzi do pewnego poziomu strategicznego rozumowania, pojawia się problem — mówi.
Łańcuch zabijania
Michael Spirtas, który opracował strategiczną grę AI dla Rand — think tanku zajmującego się polityką, który prowadzi badania dla Pentagonu — ujął to w następujący sposób: “Weźmy pod uwagę niedawne ataki USA na Iran. Kiedy Irańczycy zemścili się na amerykańskiej bazie w Katarze, dali do zrozumienia, że nie chcą, aby był to śmiertelny atak, który doprowadziłby do eskalacji konfliktu. Czy maszyna zinterpretowałaby irańską zemstę w ten sam sposób?”.
Integracja konwencjonalnego i nuklearnego procesu decyzyjnego wkrótce zyska impuls dzięki nowemu systemowi dowodzenia i kontroli Departamentu Obrony, znanemu jako Joint All-Domain Command and Control [Wspólne dowództwo i kontrola wszystkich domen, JADC2]. System, który jest obecnie wdrażany, połączy czujniki ze wszystkich rodzajów sił zbrojnych w zunifikowaną sieć opartą na sztucznej inteligencji. Będzie zarządzać strategią w różnych systemach i rodzajach sił zbrojnych.
JADC2 pozwoli dowódcom na polu bitwy znacznie przyspieszyć proces podejmowania decyzji w ramach “łańcucha zabijania”, poprzez który lokalizują, śledzą, namierzają, a następnie ostrzeliwują pozycje wroga. Chiny wydają się wdrażać coś podobnego, tworząc system dowodzenia i kontroli, który zapewni płynne połączenia od pola operacji konwencjonalnych do pola operacji nuklearnych.
Pentagon nadal bada sposoby oddzielenia JADC2 od dowodzenia i kontroli nuklearnej, aby zapewnić kontrolę ludzką. Mimo to ostatnie dokumenty budżetowe Departamentu Obrony stwierdzają, że oba systemy “muszą być rozwijane w sposób zsynchronizowany”.
Systemy zaprojektowane do wykrywania ataków są również podobnie “splątane”, w tym radary wczesnego ostrzegania przed pociskami balistycznymi, radary skywave ponad horyzontem i satelity wczesnego ostrzegania. Ponadto zarówno Chiny, jak i Rosja obawiają się, że broń konwencjonalna, taka jak pociski hipersoniczne, stopniowo zagraża ich mobilnym, a nawet silosowym międzykontynentalnym pociskom balistycznym. Wojna jest zatem trudniejsza do zdefiniowania jako konwencjonalna lub nuklearna.
Wszystko to oznacza, że wdrożenie sztucznej inteligencji w zakresie obronności jest, podsumowując, grząskim gruntem, w którym planiści wydają się nieustannie się zapadać. Na przykład w 2012 r. dyrektywa Departamentu Obrony zakazała tworzenia lub wykorzystywania systemów bezzałogowych do “wybierania i atakowania poszczególnych celów lub określonych grup celów, które nie zostały wcześniej wybrane przez upoważnionego operatora ludzkiego”. Jednak obecnie system Maven właśnie to robi, przetwarzając ogromne ilości danych wywiadowczych i sygnałów, aby w ciągu kilku minut szybko przedstawić dowódcom cele do ataku.
Lowther, współautor artykułu “Dead Hand”, twierdzi, że nawet najbystrzejszy człowiek może nie być w stanie wykryć zbliżającego się ataku nuklearnego, zwłaszcza że Chiny opracowują “systemy frakcyjnego bombardowania orbitalnego”, które krążą wokół Ziemi i mogą potencjalnie uderzyć w Stany Zjednoczone z dowolnego kierunku. Rosja wkrótce wprowadzi setki hipersonicznych pojazdów szybujących, których nie można śledzić, ponieważ nie mają one trajektorii balistycznej.
Ekspert twierdzi również, że prezydent USA nie byłby w stanie podjąć odpowiedzialnej decyzji na czas bez pomocy sztucznej inteligencji.
Czas, od którego może zależeć wszystko
— Prezydent Stanów Zjednoczonych nie bierze już udziału w symulacjach wojny nuklearnej. Nie robi tego od czasów Reagana. Trump ma bardzo niewielką wiedzę na temat strategii nuklearnej, wyznaczania celów i innych podobnych kwestii, co jest dość typowe dla każdego prezydenta. Co ten człowiek zrobi, jeśli po raz pierwszy naprawdę zacznie myśleć o broni jądrowej i jej użyciu, gdy będzie miał pięć minut na podjęcie decyzji? — pyta Lowther. — Nie wyobrażam sobie gorszego momentu na naukę w trakcie wykonywania obowiązków.
Prezydent USA Donald Trump w Białym Domu, 26 sierpnia 2025 r.
Ekspert zauważa, że podczas zimnej wojny miało miejsce kilka wypadków, w których prezydent mógł mieć tylko kilka minut na podjęcie decyzji o wojnie nuklearnej. W jednym ze słynnych przypadków doradca ds. bezpieczeństwa narodowego Jimmy’ego Cartera, Zbigniew Brzeziński, został obudzony w środku nocy w 1979 r. przez swojego adiutanta wojskowego, który powiedział mu: “30 s temu wystrzelono 200 radzieckich rakiet w kierunku Stanów Zjednoczonych”. “Zgodnie z zasadami miałem dwie minuty na zweryfikowanie tej informacji, a następnie dodatkowe cztery minuty na obudzenie prezydenta, przejrzenie opcji, uzyskanie decyzji prezydenta, a następnie zainicjowanie odpowiedzi” — opisał później Brzeziński w wywiadzie. Na szczęście, gdy pozostała minuta na podjęcie decyzji, pomocnik zadzwonił ponownie i poinformował, że był to fałszywy alarm.
— Naszym założeniem jest więc zinstytucjonalizowanie praktyki przechodzenia przez prezydenta różnych scenariuszy — dodaje Lowther. Innymi słowy: “jeśli to się stanie, co chcesz zrobić?”. — Następnie zaprogramowuje się system [AI], aby wykonał decyzję prezydenta tak, aby w przypadku utraty kontaktu z prezydentem system automatycznie zareagował — tak jak robi to [rosyjski] system Perimeter. Posiadanie takiego systemu może stanowić dość skuteczny środek odstraszający wobec Rosjan i Chińczyków.
— Nie wiem, czy jest to większe zagrożenie niż poleganie na ludzkich decyzjach — mówi ekspert.
Pentagon może mocno naciskać na przyspieszenie wdrażania sztucznej inteligencji, ale jednocześnie powierzył jednemu człowiekowi z małej agencji Pentagonu zadanie hamowania tego procesu.
Patrick Shafto nie ma wojowniczej postawy, tak powszechnej w innych częściach Pentagonu. Shafto, szczupły, łysiejący matematyk, zazwyczaj nosi do pracy sandały, koszulę w hawajskim stylu i żółty słomkowy kapelusz, a czasami surfuje i wyjeżdża na Azory, gdy tylko ma okazję.
Opierając się na swojej fascynacji badaniem różnic między sposobem myślenia ludzi i maszyn, rok temu stworzył nowy program Agencji Zaawansowanych Projektów Badawczych Departamentu Obrony DARPA. Sztuczna inteligencja w swej istocie jest matematyką, wykorzystującą statystykę, prawdopodobieństwo i inne równania do naśladowania ludzkiego przetwarzania informacji. Kiedy więc coś idzie nie tak, problem leży gdzieś w matematyce. Trzyletni program badawczy Shafto ma na celu opracowanie algorytmów i wzorów statystycznych, które zapewnią większą niezawodność najnowszych systemów sztucznej inteligencji, aby zapobiec błędom na polu walki i, oczywiście, scenariuszom zagłady.
Potwór, nad którym nie da się zapanować
Należy zauważyć, że DARPA jest tą samą agencją, która w pierwszej kolejności przyczyniła się do powstania problemu niekontrolowanej sztucznej inteligencji. Powstała ona w 1958 r. w momencie paniki narodowej — w odpowiedzi na szokujący sukces Moskwy w wystrzeleniu Sputnika w szczytowym momencie zimnej wojny. DARPA zasadniczo wynalazła internet, jaki dzisiaj znamy. Poprzez serię prób i błędów sięgających lat 60. XX w. agencja zainicjowała również większość wczesnych badań, które doprowadziły do dzisiejszych spektakularnych przełomów w dziedzinie sztucznej inteligencji.
Obecnie jednak niektórzy z liderów DARPA, której głównym zadaniem jest zapewnienie, że Stany Zjednoczone nigdy więcej nie staną w obliczu strategicznej niespodzianki, obawiają się, że ich poprzednicy stworzyli potwora, nad którym nie są już w stanie zapanować. Dzisiaj DARPA zmaga się z ogólnokrajową paniką — strachem przed przegraną z Chinami i Rosją w dziedzinie sztucznej inteligencji. Dzisiejszy strach bardzo przypomina obawy związane z zimną wojną, które doprowadziły do powstania agencji.
Shafto twierdzi, że szczególnie niepokoi fakt, że duże prywatne firmy technologiczne, które powstały dzięki wszystkim starym programom DARPA w latach 60. i 70., prowadzą bezpardonową konkurencję, aby rozwijać swoją najnowszą technologię GPT bez większych ograniczeń. Nigdzie nie jest to bardziej niebezpieczne niż w Pentagonie.
— Firmy technologiczne przodują. Po prostu pędzą do przodu. Podążają ścieżką, którą w wielu aspektach wytyczyła nam agencja DARPA — mówi Shafto, 49-latek pochodzący z robotniczej dzielnicy Marshfield w stanie Massachusetts. — W końcu tak naprawdę w ogóle nie rozumiemy tych systemów. Trudno jest stwierdzić, kiedy można im zaufać, a kiedy nie — dodaje.
Aby odpowiedzieć na te pytania, program, który rozpoczął się 26 czerwca, wykorzystuje zaawansowaną matematykę do oceny działania GPT podczas intensywnych testów. W ten sposób Shafto próbuje odpowiedzieć na niektóre z najbardziej podstawowych pytań, jakie ludzie mają na temat GPT, w tym, dlaczego czasami “ma halucynacje” lub udziela błędnych czy pozornie szalonych odpowiedzi oraz dlaczego sztuczna inteligencja często udziela różnych odpowiedzi na to samo zapytanie. Shafto twierdzi, że chce opracować nowe modele i metody pomiaru, aby “zapewnić potencjalne gwarancje“, że planiści wojskowi będą mogli polegać na wynikach w każdej sytuacji, niezależnie od tego, czy będzie to kryzys międzynarodowy, czy coś tak prostego jak planowanie logistyczne w czasie pokoju.
Problem polega jednak nie tylko na tym, że GPT jest już wdrażane. Chodzi o to, że program Shafto o wartości 25 mln dol. (91 mln zł) — który stanowi niewielką część kwoty, jaką Pentagon przeznacza na nowe systemy sztucznej inteligencji w ramach swojego bilionowego budżetu — może być zbyt mały, aby powstrzymać większą presję na integrację sztucznej inteligencji.
Strategią jest coraz większe przekazywanie kontroli sztucznej inteligencji. Ponad 10 lat temu, kiedy Pentagon stwierdził, że Moskwa i Pekin zaczynają doganiać Stany Zjednoczone w rozwoju amunicji kierowanej i “inteligentnych” bomb, Rada Naukowa Obrony zaczęła szukać nowych technologii, które Waszyngton mógłby wdrożyć, aby odzyskać przewagę — mówi Work. — Wrócili i powiedzieli, że nie ma nawet porównania: autonomia jest sposobem, dzięki któremu będziecie w stanie zrównoważyć przewagę Chińczyków — autonomiczna broń, autonomiczne narzędzia decyzyjne, wszystkie te rzeczy. Ale nie będziecie w stanie uzyskać dużej autonomii bez sztucznej inteligencji — dodaje.
Problem pozostaje więc aktualny: amerykańska obrona najwyraźniej nie będzie działać bez sztucznej inteligencji, nawet jeśli eksperci wciąż zastanawiają się, jak z nią pracować. Lub, jak ujęła to Evelina Fedorenko, neurobiolog z Massachusetts Institute of Technology [Instytut Technologii w Massachusetts, MIT] współpracująca z Shafto: “budujemy ten samolot w trakcie lotu”.
— To przerażające — mówi Richard Fikes, czołowy specjalista ds. sztucznej inteligencji ze Stanford, który brał udział w wielu projektach DARPA. — Obecnie przeznacza się ogromne kwoty na sztuczną inteligencję. Nie sądzę, aby DARPA była w stanie nadążyć za tym tempem — podkreśla. Fikes dodaje, że jeśli chodzi o cel Shafto, jakim jest “zagwarantowanie” niezawodności sztucznej inteligencji, nie sądzi, “abyśmy mieli pojęcie, jak to zrobić, i nie będziemy w stanie tego osiągnąć przez długi czas”.
Gorzej niż w czasie zimnej wojny
Jednak stratedzy wojskowi obawiają się, że mogą nie mieć na to zbyt wiele czasu. Ze względu na szybko zmieniające się normy międzynarodowe i rozpad instytucji, które kiedyś zapewniały stabilność — oraz pozornie liberalne podejście administracji Trumpa do tego rozpadu — niektórzy eksperci strategiczni uważają, że obecna sytuacja jest znacznie bardziej niebezpieczna niż zimna wojna.
W 2017 r. — na długo przed pojawieniem się najnowszej generacji GPT i obawami przed “superinteligentną” sztuczną inteligencją — Władimir Putin powiedział słynne słowa:
Niektórzy naukowcy mają nadzieję, że możliwe będzie zaprogramowanie autonomicznej sieci w sposób, który pozwoliłby na deeskalację konfliktu. Tak się nawet stało podczas jednej z gier wojennych w 2023 r. w Instytucie Bezpieczeństwa Narodowego Uniwersytetu George’a Masona, kiedy to ChatGPT okazał się bardziej ostrożny (choć co prawda był to odosobniony przypadek) w swoich radach niż zespół ludzi w fikcyjnym konflikcie między Stanami Zjednoczonymi a Chinami. — Zidentyfikował odpowiedzi, których ludzie nie dostrzegli, i nie oszalał — mówi Jamil Jaffer, dyrektor projektu.
Niektórzy specjaliści od sztucznej inteligencji sugerują, że system AI oparty wyłącznie na inteligencji, czy to w Waszyngtonie, czy w Pekinie, mógłby ostatecznie dojść do racjonalnego wniosku, że strategiczne zagrożenie, jakie Chiny i Stany Zjednoczone stanowią dla siebie nawzajem, jest znacznie mniejsze niż niebezpieczeństwo, przed którym stoi każdy z tych krajów w przypadku braku współpracy lub eskalacji kryzysu. Wziąłby on pod uwagę wzajemne korzyści dla każdego z tych krajów wynikające z udziału w globalnych rynkach, powstrzymania kryzysu klimatycznego i przyszłych pandemii oraz stabilizacji regionów, które każdy z tych krajów chce wykorzystać komercyjnie.
To również wynik rodem z filmu – znacznie bardziej optymistyczny. Pod koniec produkcji “Gry wojenne” zbłąkany komputer ostatecznie zapobiega apokalipsie, gdy uświadamia sobie, że wojny nuklearnej nie da się wygrać.
— Myślę, że to jedna z nadziei związanych z tym, jak sztuczna inteligencja może być pomocna. Może ona wyeliminować emocje i ego z tego procesu — mówi Fedorenko.
Największym wyzwaniem będzie postrzeganie sztucznej inteligencji jako zwykłego pomocnika człowieka. — Departament Obrony i społeczność wywiadowcza mają w rzeczywistości dość duże doświadczenie w pracy ze źródłami, które nie zawsze są wiarygodne. Czy modele te mają ograniczenia? Tak. Czy niektóre z nich zostaną pokonane dzięki przełomom badawczym? Zdecydowanie tak. Ale nawet jeśli są to problemy trwałe, uważam, że jeśli postrzegamy te modele jako partnerów poszukujących prawdy, a nie wyrocznie, będziemy w znacznie lepszej sytuacji — dodaje Goodwin.
Shafto z DARPA twierdzi, że ostateczne pytania dotyczące tego, jak działają modele LLM i dlaczego wyciągają takie wnioski, mogą nigdy nie mieć odpowiedzi. Myśli jednak, że “możliwe będzie zaoferowanie kilku rodzajów gwarancji matematycznych”, zwłaszcza dotyczących tego, jak “zwiększyć skalę” sztucznej inteligencji, aby działała w sytuacjach dużych kryzysów i złożonych sytuacji na polu walki, ponieważ obecnie często nie ma ona wystarczającej mocy obliczeniowej, aby to zrobić.
— Prawdopodobnie nie mamy 15–20 lat, aby zastanawiać się nad tymi pytaniami i na nie odpowiadać — dodaje Shafto. — Powinniśmy prawdopodobnie zrobić to bardzo szybko.
Inny matematyk zaangażowany w program Shafto, Carey Priebe z Uniwersytetu Johna Hopkinsa, również twierdzi, że nawet jeśli problem niepewności nigdy nie zostanie w pełni rozwiązany, nie oznacza to, że Pentagon może sobie pozwolić na czekanie.
— Od lat sprzeciwiam się samej koncepcji broni autonomicznej — mówi. — Z drugiej strony, jeśli sytuacja jest taka, że ludzie nie są w stanie zareagować wystarczająco szybko, to możliwości są ograniczone. W obu przypadkach jest to niebezpieczna droga. Uważam, że jest to problem naszych czasów.
