O analiză Foreign Affairs despre ce va însemna IA pentru descurajarea nucleară.
Dezvoltarea rapidă a inteligenței artificiale din ultimii ani i-a determinat pe mulți analiști să sugereze că aceasta va răsturna politica internațională și echilibrul puterii militare. Unii au mers până acolo încât au afirmat, după cum au spus specialiștii în tehnologie Dan Hendrycks, Eric Schmidt și Alexandr Wang, că sistemele avansate de IA ar putea „stabili dominația și controlul complet al unui stat, lăsând soarta rivalilor la mâna sa”.
IA este, fără îndoială, o tehnologie transformatoare, una care va consolida fundamentele economice, politice și militare ale puterii statale. Dar câștigătorul cursei IA nu se va bucura neapărat de o dominație incontestabilă asupra principalilor săi concurenți. Puterea armelor nucleare, cea mai semnificativă invenție a secolului trecut, rămâne un impediment major în calea schimbării radicale aduse de IA. Atâta timp cât sistemele de descurajare nucleară rămân în vigoare, avantajele economice și militare produse de IA nu vor permite statelor să își impună pe deplin preferințele politice unele asupra altora. Gândiți-vă că economia SUA este de aproape 15 ori mai mare decât cea a Rusiei și de aproape 1.000 de ori mai mare decât cea a Coreei de Nord, însă Washingtonul se luptă să determine Moscova sau Phenianul să facă ceea ce își dorește, în mare parte din cauza arsenalului lor nuclear.
Unii analiști au sugerat că progresele IA ar putea pune sub semnul întrebării această dinamică. Pentru a submina descurajarea nucleară, IA ar trebui să dărâme pilonul său central: capacitatea unui stat de a răspunde la un atac nuclear cu un atac nuclear devastator propriu, ceea ce este cunoscut sub numele de capacitate de ripostă. Tehnologia IA ar putea, în mod plauzibil, să faciliteze distrugerea de către un stat a întregului arsenal nuclear al unui rival într-o singură „primă lovitură reușită”, prin identificarea locațiilor submarinelor nucleare și ale lansatoarelor mobile. De asemenea, ar putea împiedica un rival să lanseze un atac de represalii prin dezactivarea rețelelor de comandă și control. Și ar putea consolida apărarea antirachetă astfel încât un rival să nu mai poată amenința în mod credibil cu represalii. Dacă IA ar putea în acest fel să ajute un stat să scape de perspectiva distrugerii reciproce asigurate, tehnologia ar face ca acel stat să fie de neegalat în capacitatea sa de a amenința și constrânge adversarii – un rezultat în conformitate cu viziunile din ce în ce mai populare ale dominației bazate pe IA.
Însă subminarea echilibrului puterii în domeniul nuclear nu va fi ușoară. Tehnologiile emergente încă se confruntă cu constrângeri foarte reale în domeniul nuclear. Chiar și cele mai sofisticate sisteme de țintire și senzori bazate pe inteligență artificială s-ar putea confrunta cu dificultăți în a localiza un lansator nuclear mobil ascuns sub un pod, a izola semnătura unui submarin înarmat cu arme nucleare de zgomotul de fundal al oceanului și a orchestra distrugerea simultană a sute de ținte pe uscat, în aer și pe mare – fără nicio marjă de eroare. Iar concurenții vor răspunde la utilizarea de către adversari a noilor tehnologii cu propriile mișcări pentru a-și apăra sistemele, așa cum au făcut-o la fiecare pas de la începuturile erei atomice.
Totuși, chiar dacă nu pune la îndoială descurajarea nucleară, IA poate încuraja neîncrederea și acțiunile periculoase în rândul statelor înarmate nuclear. Multe dintre măsurile pe care guvernele le-ar putea lua pentru a-și proteja și consolida capacitățile de ripostă riscă să alarmeze rivalii și ar putea stimula o cursă a înarmărilor costisitoare și periculoasă. De asemenea, rămâne posibil ca sistemele de IA să depășească un prag crucial și să prezinte îmbunătățiri extrem de rapide ale capacităților. Dacă s-ar întâmpla acest lucru, avantajele lor pentru țara care le posedă ar putea deveni mai pronunțate și mai dificil de gestionat pentru rivali. Factorii de decizie politică ar trebui să monitorizeze un astfel de scenariu și să faciliteze comunicarea regulată între IA și experții nucleari. În același timp, ar trebui să ia măsuri pentru a reduce probabilitatea accidentelor și a escaladării, inclusiv evaluarea sistemelor nucleare pentru vulnerabilitățile legate de IA și menținerea canalelor de comunicare între puterile nucleare. Astfel de măsuri vor contribui la asigurarea faptului că stabilitatea nucleară – și nu doar descurajarea nucleară – dăinuie în era IA.
PRIMA LOVITURĂ
Descurajarea nucleară depinde, în mod fundamental, de capacitatea statelor de a riposta după absorbția unui atac nuclear: atâta timp cât două puteri nucleare mențin în mod credibil o capacitate de ripostă care poate provoca daune inacceptabile adversarului lor, o primă lovitură este sinucigașă. Această înțelegere a menținut timp de decenii un echilibru relativ stabil. Dar capacitățile de ripostă nu sunt invulnerabile. Statele pot elimina platformele de lansare, cum ar fi lansatoarele de rachete mobile rutiere și submarinele nucleare, cu condiția să le poată găsi. Dificultatea de a găsi și dezactiva aceste platforme este unul dintre principalele obstacole în calea lansării unei prime lovituri reușite. Dimensiunea enormă a Chinei, Rusiei, Statelor Unite, Oceanului Atlantic și Oceanului Pacific – cele mai importante domenii pentru competiția nucleară de astăzi – face ca o astfel de lovitură să fie dificil de realizat.
Apariția unor sisteme puternice de inteligență artificială, însă, ar putea rezolva această problemă. Capabilă să proceseze și să analizeze cantități vaste de date, o armată echipată cu astfel de tehnologii ar putea viza mai bine activele nucleare ale rivalilor săi. Luați în considerare rachetele mobile lansate de la sol, una dintre platformele care stau la baza capacităților de ripostă ale Rusiei și Chinei. Aceste rachete, care sunt transportate pe vehicule care se pot ascunde sub plase de camuflaj, poduri sau tuneluri și pot circula dintr-o locație ascunsă în alta, sunt probabil cel mai dificil element de eliminat de forțele nucleare rusești și chineze. (Rachetele balistice bazate pe silozuri, prin contrast, sunt mult mai vulnerabile la atacuri.) Viteza și amploarea îmbunătățite ale procesării informațiilor bazate pe inteligență artificială pot facilita desfășurarea operațiunilor împotriva acestor vehicule. Sistemele de inteligență artificială pot scana și integra cantități uriașe de date de la sateliți, aeronave de recunoaștere, interceptări de informații de semnal, drone stealth, senzori tereștri și inteligență umană pentru a găsi și urmări mai eficient forțele nucleare mobile.
În ceea ce privește marea, potențiala convergență a inteligenței artificiale cu tehnologiile de detectare ar putea face oceanele „transparente”, permițând guvernelor să urmărească submarinele cu rachete balistice în timp real. Aceasta este o preocupare deosebită pentru Statele Unite, care păstrează un procent mult mai mare din focoasele sale pe submarine decât Rusia sau China. Inteligența artificială ar putea facilita urmărirea submarinelor prin automatizarea recunoașterii tiparelor de la mai multe tipuri de senzori pe zone oceanice extinse și pe perioade lungi de timp. De asemenea, ar putea ajuta un stat să pirateze sistemele pe care adversarii săi le folosesc pentru a-și urmări propriile arme.
Totuși, chiar și cu asistența inteligenței artificiale, statele nu vor fi absolut sigure că o primă lovitură reușită poate distruge capacitatea unui rival de a riposta. Pe uscat, de exemplu, China și Rusia ar putea răspunde la îmbunătățirile sistemelor de urmărire ale SUA cu propriile contramăsuri. Ar putea investi în arme antisatelit și capacități de bruiaj. Ar putea adopta soluții demodate, low-tech, cum ar fi acoperirea drumurilor cu plase sau construirea de capcane, pentru a crește numărul de ținte pe care un atacator ar trebui să le lovească. Ar putea ordona lansatoarelor lor să emită mai puține semnale, îngreunând urmărirea lor de către Statele Unite. Ar putea modifica lansatoarele pentru a se mișca mai repede, lărgind zona țintă pe care atacurile SUA ar trebui să o lovească. Ar putea chiar să folosească propriile sisteme de inteligență artificială pentru a injecta informații false în canalele monitorizate de comunitatea de informații a SUA.
Și în domeniul maritim, este puțin probabil ca inteligența artificială să facă marea complet transparentă. Orice sistem se va chinui să identifice, să urmărească și să monitorizeze continuu mai multe ținte pe distanțe lungi și în mijlocul zgomotului de fundal oceanic, mai ales pe măsură ce submarinele devin mai liniștite și oceanele mai zgomotoase. Submarinele rămân extraordinar de dificil de detectat atunci când sunt scufundate la adâncime și funcționează la viteze mici, din cauza modului în care sunetul se deplasează sub apă, a condițiilor oceanice schimbătoare și a zgomotului inerent al mediului marin. În mări, alarmele false sunt frecvente; contactul fiabil este rar. Și pe mare, ca și pe uscat, marile puteri pot înclina balanța în favoarea lor prin diverse contramăsuri: pot bruia semnale, pot manipula datele senzorilor, pot utiliza senzori submarini și vehicule fără echipaj pentru a detecta activele adverse și își pot opera propriile submarine în bastioane protejate aproape de țărmurile lor. Detectarea va rămâne, așadar, o chestiune de probabilitate, chiar și cu introducerea IA – și este puțin probabil ca statele să dorească să riște un prim atac reușit pe ceva mai puțin decât un pariu sigur.
COMANDĂ ȘI CONTROL
Pe lângă facilitarea găsirii și distrugerii armelor nucleare ale unui adversar, IA ar putea amenința în mod plauzibil sistemele nucleare de comandă și control care ar fi necesare pentru a lansa un atac de represalii. Sistemele de comandă și control sunt responsabile pentru detectarea atacurilor, raportarea acestora către autoritatea relevantă și transmiterea ordinelor de represalii către forțele nucleare. Aceste sisteme trebuie să fie capabile să identifice o gamă largă de rachete, să evalueze daunele la sol; să trimită mesaje scurte pe mii de kilometri, inclusiv în adâncurile apei și să protejeze liderii responsabili de luarea deciziilor nucleare. Statele care doresc să dezactiveze un sistem de comandă și control trebuie să procedeze cu prudență, deoarece mișcările evidente de a distruge sistemul unui rival pot fi văzute ca preludiul unui atac nuclear, justificând potențiale represalii preventive. Ca majoritatea elementelor unui prim atac decisiv, dezarmarea unui sistem de comandă și control necesită, după cum spune cercetătorul James Acton, distrugerea „cât mai mult posibil din fiecare componentă cu cât mai puțin avertisment posibil”.
Multe părți ale unui sistem nuclear de comandă și control sunt deja vulnerabile la atacuri și vor deveni din ce în ce mai vulnerabile odată cu noile descoperiri tehnologice. Atacurile nucleare și convenționale pot deja distruge echipamente fixe, cum ar fi radarele și emițătoarele de înaltă frecvență. Între timp, odată cu îmbunătățirile aduse inteligenței artificiale, ar putea deveni mai ușor să se urmărească posturile de comandă mobile de pe uscat, precum și să se țintească mai precis cele din aer. Sateliții care oferă avertizări rapide cu privire la atacurile nucleare viitoare pot deveni din ce în ce mai vulnerabili la armele antisatelit îmbunătățite prin inteligență artificială. Iar operațiunile cibernetice sofisticate, supraalimentate de inteligența artificială, ar putea permite statelor să pătrundă în rețelele de comandă și control ale unui rival, să dezactiveze sistemele de avertizare timpurie și să perturbe transmiterea ordinelor – un risc care ar putea crește pe măsură ce statele își modernizează sistemele, îndepărtându-se de capacitățile analogice și cablate în favoarea celor digitale.
Însă distrugerea unui întreg sistem de comandă și control dintr-o singură lovitură nu va fi niciodată simplă, nici măcar cu tehnologie avansată. Statele au depus eforturi mari pentru a-și face sistemele rezistente, încorporând rețele redundante și contramăsuri elaborate. Pe uscat, unele buncăre de comandă din China, Rusia și Statele Unite sunt îngropate la cel puțin 700 de metri sub pământ în rocă dură, suficient de adânc pentru a supraviețui chiar și unei lovituri directe a unei arme nucleare mari. În spațiu, fiecare putere nucleară majoră a trimis fie sute, fie mii de sateliți pe orbită, fie este aproape de a face acest lucru, ceea ce face dificilă distrugerea tuturor sistemelor de avertizare și comunicații ale unei țări. În aer, curbura Pământului limitează distanța la care radarul de supraveghere poate urmări posturile de comandă din aer. Iar în spațiul cibernetic, capacitatea de a lansa un atac de dezarmare va necesita acces persistent la sistemele unui adversar, riscând detectarea și posibile represalii. Statele vor depune, de asemenea, eforturi enorme încercând să prevină astfel de intruziuni, cel mai probabil cu ajutorul propriilor apărări prin inteligență artificială, în timp ce operează mai multe rețele redundante. Ca urmare a acestor provocări, pare puțin probabil ca IA să amenințe în mod credibil eliminarea sistemelor de comandă și control.
APĂRARE, Și IAR APĂRARE
O ultimă teamă este că IA ar putea slăbi descurajarea nucleară prin îmbunătățirea apărării antirachetă, reducând astfel la minimum posibilitatea unei riposte reușite și făcând primele atacuri mai tentante. Stabilirea unei apărări puternice împotriva atacurilor cu rachete nucleare a fost întotdeauna o sarcină extrem de dificilă. Rusia și China au puține astfel de capacități, iar sistemele de apărare ale SUA sunt predispuse la erori, dispersate și incapabile să prevină complet un atac din partea unei puteri nucleare majore. Aceste sisteme trebuie să facă aproape imposibilul: să detecteze o lansare, să urmărească sute de rachete care călătoresc prin spațiu cu o viteză de 20 de ori mai mare decât cea a sunetului, să estimeze traiectoriile lor viitoare și să le distrugă cu interceptoare – toate în mai puțin de 30 de minute, timpul aproximativ de zbor pentru majoritatea rachetelor terestre care călătoresc între Statele Unite și Rusia sau China. Oficialii din domeniul securității naționale au comparat acest proces cu încercarea de a trage un glonț cu un alt glonț. Și trebuie să fie capabile să facă toate acestea economic și la scară largă, astfel încât un atacator să nu poată copleși un sistem defensiv cu multe rachete mai ieftine.
IA ar putea îmbunătăți unele dintre aceste capacități. Algoritmii de învățare automată ar putea, de exemplu, să analizeze rapid datele de la mai mulți senzori pentru a deosebi focoasele reale de momelile sofisticate și pentru a accelera procesul decizional odată ce un adversar își lansează rachetele. Progresele software pot facilita prezicerea traiectoriei unei rachete. În plus, prin progresele înregistrate în știința materialelor, inteligența artificială ar putea ajuta la producerea de interceptoare mai ușoare și mai agile, făcând armele mai ieftine și mai ușor de manevrat în zbor.
Însă niciuna dintre aceste evoluții nu va avea loc peste noapte: structurile defensive necesită ani de zile pentru a se dezvolta, iar adversarii americani nu vor sta deoparte și vor privi. Atacatorii mențin avantaje semnificative: pot lansa din direcții neașteptate, pot copleși apărarea cu atacuri coordonate cu salve folosind un număr mare de capcane sau pot viza direct sisteme-cheie de apărare. În cazul extrem de puțin probabil în care apărarea antirachetă devine atât de puternică încât este insurmontabilă, statele ar putea recurge la metode de lansare mai creative, cum ar fi contrabanda și prepoziționarea unor dispozitive nucleare mici în teritoriul inamic. Un sistem de apărare antirachetă consolidat de inteligența artificială ar depinde de algoritmi de învățare automată care sunt antrenați pe seturi de date mari și fiabile privind măsurile de capcane și sistemele de rachete – date pe care adversarii americani au toate motivele să le ascundă. Într-adevăr, rivalii americani ar putea încerca să deruteze algoritmii inteligenței artificiale prin manipularea testelor cu rachete. Pe scurt, chiar și apărarea îmbunătățită cu inteligență artificială se confruntă cu constrângeri fizice și economice pe care puterile nucleare sofisticate le pot exploata.
NIMIC NU ESTE GARANTAT
Chiar și în fața schimbărilor tehnologice conduse de IA, descurajarea nucleară ar trebui să rămână puternică. Totuși, acest lucru nu înseamnă că IA nu prezintă riscuri pentru stabilitatea nucleară globală. Chiar dacă predicțiile privind puterea IA supraestimează capacitățile reale ale tehnologiei, statele pot percepe amenințări mai mari și pot lua măsuri potențial destabilizatoare. Dacă un stat consideră că un rival bazat pe IA îi poate descoperi mai ușor rachetele, de exemplu, poate decide să construiască mai multe focoase, să amplaseze mai multe dintre armele sale pe vehicule mobile mai greu de detectat, să direcționeze aceste vehicule ca să se miște mai repede și să delege mai multă autoritate de lansare șoferilor de vehicule pentru a reduce nevoia de comunicare la distanță care ar putea fi interceptată. Dacă statele consideră că sistemele lor de comandă și control sunt vulnerabile la atacurile bazate pe IA, acestea ar putea dori să reducă numărul de pași necesari pentru a lansa un contraatac. Toate acestea sunt mișcări care cresc probabilitatea escaladării și a lansărilor accidentale, în special în ceea ce privește statele cu mai puține resurse și mai puțină experiență în gestionarea armelor nucleare, cum ar fi India și Pakistan.
Dincolo de o astfel de incertitudine destabilizatoare, rămâne posibil ca țările să dezvolte sisteme de inteligență artificială semnificativ mai puternice, care ar putea amenința metodele de descurajare nucleară în moduri care nu pot fi încă anticipate, mai ales dacă – așa cum sugerează unii experți că este posibil – cercetarea și dezvoltarea în domeniul inteligenței artificiale devine complet automatizată, stimulând o creștere bruscă a capabilităților. Experții în securitate națională nu ar trebui să ignore această eventualitate și ar trebui să monitorizeze continuu dovezile de creșteri rapide ale capabilităților de inteligență artificială în rândul rivalilor.
Însă, chiar dacă inteligența artificială este un atu puternic, nu este magică, iar statele care doresc să utilizeze IA pentru a-și dezarma adversarii se vor confrunta cu limite fizice, practice și instituționale reale. Un stat dotat cu sisteme de IA transformatoare va trebui totuși să rezolve un număr enorm de probleme extrem de dificile înainte de a putea lua în considerare decapitarea unui competitor nuclear: va trebui să integreze IA avansată în birocrații militare la scară largă, o sarcină deloc ușoară, și să descopere cum să testeze aceste sisteme în avans – o sarcină dificilă, având în vedere nevoia atât de a evita declanșarea unui răspuns preventiv, cât și de a repeta mii de pași cu puțin loc de eroare. Indiferent cât de inteligente sunt, sistemele puternice de IA nu vor putea eluda legile fizicii. Și niciun instrument sau capacitate nu garantează că un stat își poate impune preferințele asupra altuia: Statele Unite, la urma urmei, dețineau o putere militară și economică copleșitoare asupra talibanilor din Afganistan, dar au suferit o înfrângere fără echivoc după două decenii de război.
Nimic din toate acestea nu ar trebui să încurajeze automulțumirea. Chiar dacă descurajarea nucleară persistă, IA va transforma în continuare securitatea națională în multe feluri, inclusiv prin a ajuta statele să dezvolte noi arme autonome și prin consolidarea capacităților cibernetice ofensive și defensive. Aceste evoluții vor avea consecințe semnificative, chiar dacă nu oferă niciunui stat capacitatea de a-și impune voința asupra adversarilor înarmați nuclear. IA ar putea, de asemenea, democratiza accesul la capabilități periculoase, reducând barierele pentru actorii nestatali și indivizi în construirea și desfășurarea de arme biologice, chimice și radiologice devastatoare. Acestea sunt doar câteva dintre problemele cu care factorii de decizie politică vor trebui să se confrunte pe măsură ce IA continuă să se îmbunătățească.
În domeniul nuclear, oficialii americani nu ar trebui să aștepte să vadă ce progrese aduce IA. Aceștia ar trebui să se asigure că procesele de elaborare a politicilor includ experți în IA alături de cei nucleari, încurajând un dialog care până acum a lipsit în comunitatea de securitate națională. Ar trebui să efectueze revizuiri riguroase ale sistemelor nucleare pentru a verifica vulnerabilitățile care ar putea fi exploatate de IA avansată, în special în spațiul cibernetic, și să consolideze numărul experților în IA din cadrul guvernului SUA. Ar trebui să calibreze cu atenție orice afirmații despre necesitatea de a ne grăbi spre inteligența artificială generală sau importanța de a fi primii care dezvoltă o armă-minune decisivă, pentru a nu exacerba competiția nucleară riscantă și costisitoare. Și prin dialoguri privind controlul armelor, ar trebui să acționeze pentru a consolida constrângerile etice, politice și juridice semnificative asupra capacității unui stat de a lansa o primă lovitură decisivă sau de a lua alte măsuri de escaladare. Sistemul de descurajare nucleară care a fost în vigoare de la sfârșitul celui de-al Doilea Război Mondial nu poate fi considerat de la sine înțeles. Pe măsură ce rivalitățile politice și competiția tot mai mare pentru supremația inteligenței artificiale se intensifică între marile puteri ale lumii, este mai important ca niciodată să se mențină canalele și căile de comunicare pentru a reduce riscul de escaladare accidentală și catastrofe.
Laboratoarele ultra-secrete care construiesc armele nucleare ale Americii
Articolul Cum ar putea contribui inteligența artificială la sfârșitul distrugerii reciproce asigurate? apare prima dată în Universul.net.