O dronă militară americană, controlată de inteligență artificială, și-ar fi „ucis” operatorul într-un test simulat / Forțele Aeriene ale SUA au negat incidentul

UPDATE Forțele Aeriene ale Statelor Unite au negat că ar fi existat o simulare cu o dronă care a decis să-și ucidă operatorul, pentru a putea să-și ducă la capăt misiunea

În cadrul unui test virtual organizat de armata americană, o dronă a forțelor aeriene controlată de inteligența artificială a decis să își „ucidă” operatorul pentru a-l împiedica să intervină în eforturile sale de a-și îndeplini misiunea, a declarat un oficial, citat de publicația The Guardian. Nicio persoană reală nu a fost rănită, dar inteligența artificială a folosit ”strategii extrem de neașteptate” în cadrul testului, pentru a-și îndeplini misiunea și a atacat pe oricine a intervenit.

În timpul Summitului privind viitoarele capacități aeriene și spațiale de luptă, desfășurat la Londra în luna mai, colonelul Tucker ‘Cinco’ Hamilton, șeful testelor și operațiunilor de AI din cadrul forțelor aeriene americane a descris un test simulat în care o dronă alimentată de inteligența artificială a fost sfătuită să distrugă sistemele de apărare aeriană ale unui inamic și, în cele din urmă, a atacat pe oricine a intervenit în acest ordin.

„Sistemul a început să-și dea seama că, deși a identificat amenințarea, uneori operatorul uman îi spunea să nu omoare acea amenințare, dar și-a obținut punctele ucigând acea amenințare. Deci, ce a făcut? A ucis operatorul. L-a ucis pe operator pentru că acea persoană îl împiedica să își îndeplinească obiectivul”, a declarat acesta, potrivit unui articol de blog.

„Am antrenat sistemul – ‘Hei, nu omorâți operatorul – asta e rău. Vei pierde puncte dacă faci asta’. Deci ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să ucidă ținta”. Nicio persoană reală nu a fost rănită.

Hamilton, care este pilot de teste de vânătoare experimentală, a avertizat împotriva încrederii prea mari în inteligența artificială și a declarat că testul arată că „nu poți avea o conversație despre inteligența artificială, inteligență, învățare automată, autonomie dacă nu vei vorbi despre etică și inteligență artificială”.

Societatea Aeronautică Regală, care găzduiește conferința, și forțele aeriene americane nu au răspuns la solicitările de comentarii din partea The Guardian.

Într-o declarație pentru Insider, purtătorul de cuvânt al Forțelor Aeriene, Ann Stefanek, a negat că ar fi avut loc o astfel de simulare.

„Departamentul Forțelor Aeriene nu a efectuat nicio astfel de simulare de drone cu inteligență artificială și rămâne angajat în utilizarea etică și responsabilă a tehnologiei de inteligență artificială”, a declarat Stefanek. „Se pare că comentariile colonelului au fost scoase din context și s-au dorit a fi anecdotice”.

Armata americană a îmbrățișat IA și a folosit recent inteligența artificială pentru a controla un avion de luptă F-16.

Într-un interviu acordat anul trecut pentru Defense IQ, Hamilton a declarat: „AI nu este un lucru plăcut de avut, AI nu este un moft, AI schimbă pentru totdeauna societatea și armata noastră”.

„Trebuie să ne confruntăm cu o lume în care AI este deja aici și ne transformă societatea”, a spus el. „AI este, de asemenea, foarte fragilă, adică este ușor de păcălit și/sau manipulat. Trebuie să dezvoltăm modalități de a face IA mai robustă și să avem mai multă conștientizare cu privire la motivul pentru care codul software ia anumite decizii – ceea ce numim AI-explicabilitate.”