Armata SUA s-a aflat în pragul unei acțiuni militare directe împotriva unei nave chineze, bazată pe informații eronate furnizate de un sistem de inteligență artificială. Potrivit unor surse familiarizate cu incidentul, oficialii militari au pregătit planuri de interceptare, iar unități de infanterie înarmată se pregăteau pentru abordarea navei. În acest moment critic, avioanele militare americane erau deja în aer, fiind gata să execute misiunea planificată de comandamentul militar.
Incidentul a fost oprit doar după ce oficialii au analizat cu o atenție sporită raportul întocmit de un analist al Comandamentului pentru Operațiuni Speciale. S-a descoperit că documentul fusese realizat cu ajutorul unui chatbot, care identificase în mod greșit natura încărcăturii transportate de vasul chinezesc. Deși natura reală a materialelor transportate nu a fost clarificată, raportul a fost descris de o sursă drept fiind „complet fals”, dar capabil să declanșeze un război.
Analistul implicat a utilizat un chatbot pentru a procesa documente privind încărcătura navei, date provenite de la Comandamentul pentru Operațiuni Speciale al SUA din Pacific, situat în Hawaii. Sistemul de inteligență artificială a combinat date din surse deschise cu informații secrete obținute prin interceptarea semnalelor din bazele de date guvernamentale. Această combinație a dus la o concluzie decisivă, dar eronată, pe care analistul a folosit-o ulterior pentru a genera un raport standard de informații.
Utilizarea acestor tehnologii ridică semne de întrebare privind siguranța operațiunilor militare, deoarece instrumentele interne sunt descrise de un fost oficial american ca fiind, în mare parte, copii cosmetizate ale celor comerciale. Există temeri că dependența de date de slabă calitate poate duce la erori de calcul catastrofale. În prezent, întreaga armată americană și comunitatea de informații încearcă să integreze AI în procese precum selectarea țintelor, logistica sau gestionarea bugetelor.
Erorile de identificare prin inteligență artificială reprezintă un risc major de escaladare a tensiunilor geopolitice. Dacă operațiunea ar fi fost executată, atacul asupra unei nave chineze ar fi putut transforma un incident de securitate maritimă într-un conflict armat direct între Statele Unite și China. Acest caz subliniază vulnerabilitatea proceselor de luare a deciziilor militare atunci când acestea se bazează pe algoritmi care pot interpreta greșit datele de interceptare sau cele din surse deschise.
Integrarea inteligenței artificiale în aparatul de apărare este un proces în desfășurare, vizând optimizarea volumelor uriașe de informații brute colectate de serviciile de informații ale SUA. Totuși, capacitatea acestor sisteme de a procesa datele de la Comandamentul pentru Operațiuni Speciale rămâne un punct critic de control. În absența unor protocoale de verificare riguroase, riscul ca un chatbot să transforme informații parțiale în rapoarte de intelligence oficiale rămâne o amenințare constantă pentru stabilitatea internațională.
