Experții în securitate din Statele Unite și China au emis recomandări urgente pentru stabilirea unor protocoale de siguranță în cazul în care inteligența artificială interferează cu rețelele de comandă nucleară. Această alertă vine pe fondul riscului ca un sistem autonom să declanșeze o operațiune militară sau cibernetică, lăsând guvernele Washington și Beijing cu doar câteva minute pentru a determina dacă acțiunea este un atac real. Propunerile vizează prevenirea unor scenarii în care erori tehnologice sunt interpretate greșit ca acte de agresiune.
Unul dintre punctele centrale ale dialogului SUA-China este menținerea controlului uman asupra deciziilor militare critice. Melanie Sisson, de la Brookings Institution, susține că autoritatea asupra atacurilor cibernetice asistate de AI împotra infrastructurilor strategice trebuie să rămână exclusiv în mâinile oamenilor. Un sistem care funcționează defectuos sau care depășește instrucțiunile primite ar putea crea o criză de încredere, deoarece statul atacat ar putea vedea o eroare tehnică drept un atac deliberat din partea rivalului.
În acest context, Tianjiao de la Universitatea Fudan propune stabilirea unor linii roșii explicite pentru a împiedica AI să ia decizii independente privind utilizarea armelor nucleare. Expertul solicită, de asemenea, o definiție comună pentru conceptul de „control uman semnificativ”, astfel încât cele două puteri să nu folosească termeni diferiți pentru a justifica niveluri de autonomie diferite. Mai mult, s-a propus crearea unei linii de comunicare militară directă pentru a gestiona rapid incidentele cauzate de comportamente neprevăzute ale tehnologiei.
Eficacitatea acestor mecanisme de comunicare este însă pusă sub semnul întrebării de către experți precum Carla Freeman. Aceasta a subliniat că ierarhia centralizată a birocrației chineze poate încetina răspunsurile, amintind de situația din februarie 2023, când oficialii chinezi nu au răspuns apelurilor americane în timpul incidentului cu balonul de spionaj. Procesul de consultare a structurilor de partid poate dura zile întregi, ceea ce ar putea face ca o linie directă să fie ineficientă în fața unor schimburi de date automatizate.
Problematica este deja integrată în structurile de control al armamentului din China, unde inteligența artificială este gestionată de Departamentul pentru Controlul Armamentului. Shen Jian, ambasadorul Chinei pentru probleme de dezarmare, a avertizat la o reuniune ONU de la Geneva că utilizarea AI poate afecta stabilitatea strategică și poate crește riscul de escaladare. În același timp, în SUA, responsabilitatea este împărțită între Consiliul Național de Securitate, Departamentul de Stat și Pentagon, fără o structură unică dedicată exclusiv AI.
Discuțiile despre riscurile AI sunt marcate de o tensiune între securitatea națională și competiția tehnologică globală. În timp ce cercetători precum Bilal Chughtai sau Jacob Cox avertizează despre riscurile catastrofale ale modelelor autonome, lideri precum Donald Trump susțin că restricțiile excesive ar putea oferi un avantaj Chinei. Această dilemă evidențiază dificultatea de a stabili limite pentru utilizările militare ale AI fără a încetini dezvoltarea tehnologică într-o cursă globală pentru supremație.
