Demisii la Google în urma contractelor militare legate de AI

Mai mulți angajați ai Google sunt nemulțumiți de utilizarea tehnologiilor de inteligență artificială ale companiei în scopuri militare.

BBC a vorbit cu mai mulți specialiști din domeniul tehnologiei, care fie au demisionat recent de la Google DeepMind, compania de inteligență artificială a Google, fie se pregătesc să plece, din cauza îngrijorărilor legate de contractele militare ale companiei.

Printre ei se numără și Sofia Liguori, o cercetătoare din domeniul ingineriei, stabilită la Londra.

Ea a demisionat săptămâna aceasta de la Google DeepMind și a vorbit în exclusivitate cu BBC despre preocupările sale, deși contractul său îi restricționează posibilitatea de a face acest lucru.

„Faptul că îmi dau seama că firma pentru care lucrez promovează tot mai mult utilizarea sistemelor de inteligență artificială în operațiuni militare mă face să mă simt rușinată că lucrez la Google”, a spus Liguori, subliniind că își exprimă o opinie personală, vorbind în nume propriu.

Ca răspuns, un purtător de cuvânt al Google a declarat pentru BBC: „Colaborăm cu organizații din sectorul public din întreaga lume și urmăm un proces consecvent pentru evaluarea și încheierea acestor contracte, inclusiv respectarea politicilor noastre privind utilizarea acceptabilă și a principiilor noastre privind AI.”

„De asemenea, avem canale dedicate prin care angajații își pot exprima în siguranță orice îngrijorare, de la etica afacerilor până la comportamentul necorespunzător, și avem politici stricte la locul de muncă pentru a preveni represaliile de orice fel.”

Google se numără printre companiile de tehnologie care au încheiat, la începutul acestui an, contracte cu armata Statelor Unite pentru utilizarea inteligenței artificiale în medii militare clasificate.

Secretarul american al Apărării, Pete Hegseth, a făcut din integrarea AI în forțele armate o prioritate și a declarat că administrația Trump transformă armata SUA într-o „forță de luptă orientată în primul rând către AI”.

Tehnologia AI evoluează însă rapid, iar criticii se întreabă dacă este suficient de fiabilă pentru a fi utilizată în război fără teste suplimentare, fără măsuri de siguranță mai stricte și fără supraveghere umană.

Liguori a lucrat la companie timp de trei ani. Ea a spus că a decis să plece deoarece Google colaborează tot mai strâns cu armatele Statelor Unite și Israelului.

„Nu sunt de acord cu această direcție, iar acest lucru m-a făcut să-mi pierd încrederea că firma mea respectă cu adevărat valorile etice pe care susține că le are”, a spus ea.

Conform Principiilor AI ale Google, aceste valori includ implementarea inteligenței artificiale cu „supraveghere umană” și alinierea tehnologiei la „dreptul internațional și drepturile omului”. Cu toate acestea, foști și actuali angajați ai companiei, precum și experți intervievați de BBC, au declarat că sunt îngrijorați de nivelul de supraveghere umană în momentele critice.

Angajații din domeniul tehnologiei spun că sunt deosebit de îngrijorați de contractele militare privind AI semnate în acest an, deoarece acestea extind în mod semnificativ gama de sarcini pentru care Pentagonul poate utiliza tehnologia.

Andreas Kirsch, cercetător în domeniul AI, și-a dat și el demisia de la Google DeepMind la începutul acestei luni din cauza preocupărilor sale.

Kirsch a declarat pentru BBC că, în opinia sa, „sistemul de guvernare și de supraveghere al Google nu este suficient sau destul de robust pentru a utiliza AI în mod sigur și responsabil în contexte militare și clasificate” și nici pentru „a dezvolta în viitor superinteligența artificială în condiții de siguranță”.

„Se pare că Google nu are dreptul să controleze sau să blocheze modul în care Pentagonul își folosește tehnologia AI și pare să aibă doar o vizibilitate limitată asupra modului în care aceasta este utilizată”, a adăugat el.

Armata Statelor Unite a introdus în ultimii ani mai multe tehnologii bazate pe AI pentru a-și îmbunătăți capacitățile de luptă.

Cel mai cunoscut exemplu este Maven Smart Systems, principala platformă software a Pentagonului, care este utilizată pentru organizarea informațiilor și a datelor.

Sistemul, dezvoltat de compania americană din industria apărării Palantir, folosește AI pentru a ajuta personalul să selecteze și să identifice ținte de atac. Palantir a integrat în Maven tehnologia mai multor companii importante din domeniul AI, iar acest lucru a permis accelerarea semnificativă a unor procese.

Generalul-locotenent în retragere Jack Shanahan, fost director al proiectului Maven, a spus că „filozofia” pare să fie următoarea: „Să implementăm [tehnologia AI] cât mai repede posibil și pe o scară cât mai largă, chiar dacă asta se face în detrimentul rigurozității și a disciplinei de testare și de evaluare.”

Pentagonul insistă însă că adoptarea tehnologiilor AI este esențială pentru câștigarea războaielor.

„Viteza decide cine câștigă în era AI”, a declarat Emil Michael, subsecretar în Departamentul american al Apărării, într-un comunicat publicat în acest an.

Contractul încheiat la începutul anului între Google și Pentagon permite utilizarea tehnologiei AI a companiei pentru misiuni militare clasificate. Acordul prevede că modelele AI ale Google pot fi folosite în „orice scop guvernamental legal” și „nu ar trebui utilizate pentru supraveghere internă în masă sau pentru arme autonome (inclusiv selectarea țintelor) fără supraveghere și control uman adecvat”.

Contracte similare au fost semnate și de OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia și Reflection, pentru a permite implementarea tehnologiei AI într-o gamă largă de contexte militare, precum transportul, planificarea și operațiunile de pe câmpul de luptă.

Pe măsură ce tehnologia evoluează rapid, cresc și îngrijorările privind utilizarea AI în teatrele de război.

„AI reduce timpul pe care îl are la dispoziție un operator pentru a lua o decizie, deoarece funcționează mult mai rapid decât oamenii, iar acest lucru este deosebit de riscant într-un mediu cu un nivel ridicat de stres”, a declarat Sarah Shoker, fostă membră a echipei de geopolitică a OpenAI.

„Atunci când AI selectează sute de ținte și timpul disponibil este foarte scurt, este aproape imposibil ca un operator uman să verifice în mod semnificativ dacă există erori în rezultatele generate de AI.”

Angajați ai Google au declarat pentru BBC că se tem să vorbească public despre siguranța AI și despre utilizarea acesteia în război, deoarece contractele lor de muncă le interzic să critice public compania.

„În principiu, nu am voie să critic Google pentru tot restul vieții mele”, a declarat Sofia Liguori pentru BBC. Dar ea a decis să facă acest lucru „pentru că cred că este important ca aceste lucruri să fie cunoscute și cred, de asemenea, că a vorbi despre fapte nu înseamnă să critici”.

Liguori a adăugat că, la Google, „oamenii se tem de represalii și de faptul că își pun cariera în pericol. Simți că ești supravegheat, că nu poți vorbi”.

Un angajat actual al Google DeepMind, care a cerut să rămână anonim de teama represaliilor, a declarat pentru BBC că „mulți angajați motivați, care au fost atrași de misiunea inițială [a companiei] ar putea pleca, dar mulți oameni aflați la începutul carierei sunt pregătiți să ocupe aceste posturi. Ar putea fi vorba despre o schimbare de generație”.

Un alt angajat Google DeepMind, care, de asemenea, a dorit să rămână anonim, a declarat pentru BBC: „Mulți dintre cei care au convingeri puternice despre acest subiect [modul în care Google DeepMind și-a schimbat poziția etică] au părăsit compania.”

„Unii încearcă să lupte, alții se gândesc: «Este o companie mare. Ce te aștepți să se schimbe?»”, a spus angajatul.

Acordurile companiei Google cu Israelul au stârnit și ele controverse. În 2024, compania a fost criticată de propriii angajați pentru contractul Project Nimbus, în valoare de 1,2 miliarde de dolari, încheiat împreună cu Amazon, care furnizează tehnologie AI și infrastructură de cloud computing guvernului și armatei israeliene. La acea vreme, Google a spus că Project Nimbus „nu este destinat unor activități extrem de sensibile, clasificate sau militare, legate de arme sau de servicii de informații”.

Capacitățile AI utilizate de Israel în război au devenit și ele subiect de dezbatere după apariția recentă a documentarului Naza, care examinează rolul sistemelor de selectare a țintelor bazate pe AI în bombardamentele din Fâșia Gaza, soldate cu numeroase victime civile. Un ministru al guvernului israelian a declarat că afirmațiile prezentate în film sunt false și denaturate.

Andreas Kirsch, fost angajat al Google, consideră că tehnologia AI utilizată în război nu este încă pregătită pentru desfășurare pe câmpul de luptă. „Modelele actuale de AI nu sunt suficient de robuste și nici nu cred că au fost antrenate pentru astfel de sarcini”, a spus el.

Reportaj suplimentar de Rosa Rahimi.

Acest articol a fost scris și revizuit de jurnaliști BBC, folosind inteligența artificială pentru a ajuta în procesul de localizare, ca parte a unui proiect pilot.

Editat de Andreea Gheorghe.