Un raport de intelligence, elaborat eronat cu ajutorul inteligenței artificiale, a pus armata SUA în pragul unui conflict cu China. Evenimentul a avut loc în contextul tensiunilor cu Iranul, când un document a indicat în mod fals că o navă chineză transportă componente ale unui program de arme nucleare în Orientul Mijlociu. Din cauza acestei informații, oficialii americani pregăteau deja interceptarea navei, iar de la sol au fost ridicate avioane militare pentru operațiune.
Documentul a fost analizat în detaliu de oficialii americani abia în momentul în care aceștia pregăteau urcarea la bordul navei respective. Analiza a dezvăluit că raportul fusese întocmit de un analist din cadrul Comandamentului pentru Operații Speciale al SUA din Pacific. Acesta utilizase un chatbot pentru a interoga informații despre manifestul navei, instrument care a combinat date din surse deschise cu date secrete obținute prin interceptarea semnalelor, ajungând la o concluzie greșită.
Raportul a fost descris de surse ca fiind „în întregime fals”, însă a fost suficient de convingător pentru a risca un război între cele două națiuni. Chatbotul a procesat datele și a generat un raport de informații standard, tipul celor care beneficiază de încrederea oficialilor militari. Nu a fost clar dacă instrumentul utilizat de analist era un chatbot comercial sau un produs specific al guvernului american, însă eroarea a fost critică.
Problema nu este un incident izolat în cadrul comunității de intelligence, de când instrumentele de AI au început să fie utilizate la nivel guvernamental. Implementarea AI în armată are scopul de a accelera deciziile pe câmpul de luptă, precum alegerea țintelor, dar oficialii cu vechime avertizează asupra riscurilor. Se observă că analiștii tineri, utilizatori nativi ai tehnologiei, tind să aibă o încredere nejustificată în aceste rezultate, fără a aplica o analiză critică.
Erorile de tip „halucinație” ale acestor instrumente pot pune în pericol securitatea globală prin generarea de informații false care par autentice. Presiunea de a transmite informațiile tot mai rapid către structurile de comandă favorizează astfel erorile de interpretare. În acest caz specific, eroarea a fost identificată abia înainte de lansarea operațiunii militare planificate împotriva navei chineze, evitând astfel un incident diplomatic și militar major.
Evoluția tehnologiei în domeniul deținerii și procesării datelor de intelligence reflectă o tendință de digitalizare accelerată a conflictelor moderne. În timp ce armatele caută eficiență prin automatizare, riscul de erori de calcul rămâne ridicat, în special în scenariile de înaltă tensiune. Această vulnerabilitate tehnologică apare într-un context în care procesarea datelor de semnal și a manifestelor de încărcare devine un element central în monitorizarea mișcărilor navale internaționale.
