Experții în securitate din Statele Unite și China propun implementarea unor măsuri urgente pentru a reduce riscurile generate de utilizarea inteligenței artificiale în domeniul nuclear. Recomandările vizează stabilirea unor linii roșii și menținerea controlului uman asupra operațiunilor cibernetice pentru a preveni incidentele care ar putea duce la un conflict major. Această inițiativă de securitate națională vine într-un moment în care viteza de reacție a sistemelor autonome ar putea lăsa liderii cu doar câteva minute pentru a evalua natura unui atac.
Melanie Sisson, cercetătoare la Brookings Institution, susține că autoritatea de a iniția atacuri cibernetice bazate pe AI împotriva infrastructurilor strategice sau a sistemelor de comandă și control trebuie să rămână exclusiv în mâinile oamenilor. Un sistem autonom ar putea funcționa defectuos sau ar putea fi compromis, ceea ce ar putea duce la interpretarea greșită a unui incident accidental drept un atac ordonat. Această problemă este critică pentru siguranța sistemelor de comunicații nucleare și a infrastructurilor de bază ale ambelor puteri.
Tianjiao, profesor asociat la Universitatea Fudan, propune stabilirea unor linii roșii care să interzică sistemelor AI să ia decizii independente privind utilizarea armelor nucleare. Pe lângă protejarea sistemelor de comandă, Jiang recomandă măsuri similare pentru infrastructurile critice din sectoarele energiei, sănătății și finanțelor. Un obiectiv central este definirea comună a conceptului de „control uman semnificativ”, astfel încât cele două națiuni să nu folosească terminologii diferite pentru a justifica niveluri de autonomie diferite ale tehnologiei.
O altă propunere majoră vizează crearea unei linii telefonice militare directe între SUA și China pentru gestionarea incidentelor cauzate de AI. Jiang avertizează că schimburile cibernetice automate pot fi atât de rapide încât intervenția umană ar putea fi imposibilă în timp util. O linie directă ar permite clarificarea rapidă a faptului că o operațiune este accidentală sau neautorizată, prevenind astfel o ripostă prematură bazată pe o interpretare eronată a unei activități suspecte.
Carla Freeman, de la Școala de Studii Internaționale Avansate Johns Hopkins, a subliniat dificultățile comunicării în crize, invocând incidentul balonului spion din februarie 2023. Ea a explicat faptul că structura ierarhică a birocrației chineze poate întârzia răspunsul, deoarece conducerea superioară trebuie să consulte actori relevanți înainte de a decide o poziție. Acest proces poate dura zile întregi, ceea ce contrazice necesitatea de o comunicare instantanee în cazul unui incident provocat de un sistem autonom.
Problematica AI este deja integrată în structurile de control ale Chinei, fiind inclusă în portofoliul Departamentului de Control al Armelor din cadrul Ministerului de Externe. La o reuniune de la Geneva, ambasadorul chinez Shen Jian a avertizat că AI militară poate crește riscul de calcule greșite și de escaladare a conflictelor. În același timp, ambele guverne rămân prudente în adoptarea unor măsuri care ar putea limita dezvoltarea tehnologică în contextul competiției strategice dintre Washington și Beijing.
