A Google-nél felmondási hullámot váltott ki az MI katonai célú alkalmazása

A Google-nél több alkalmazott is tiltakozik amiatt, hogy a vállalat katonai célokra használja MI-technológiáját.

A BBC több technológiai szakemberrel is beszélt, akik nemrég mondtak fel a Google MI-fejlesztő vállalatánál, a Google DeepMindnál, vagy éppen távozni készülnek, mert aggályaik vannak a technológiai cég katonai szerződéseivel kapcsolatban.

Közéjük tartozik Sofia Liguori londoni kutatómérnök is. Ezen a héten mondott fel a Google DeepMindnál, és kizárólag a BBC-nek beszélt aggályairól, annak ellenére, hogy szerződése ezt korlátozza.

„Amikor rájöttem, hogy a vállalatom egyre inkább szorgalmazza az MI-rendszerek alkalmazását katonai műveletekben, szégyellni kezdtem, hogy a Google-nél dolgozom" – mondta Liguori, hangsúlyozva, hogy a saját nevében nyilatkozik.

A BBC megkeresésére a Google szóvivője azt mondta: „Világszerte együttműködünk közszférabeli szervezetekkel, és egységes eljárást követünk e szerződések felülvizsgálatakor és megkötésekor. Ennek része az elfogadható használatra vonatkozó szabályzataink és MI-alapelveink betartása is."

„Külön csatornákat is biztosítunk alkalmazottainknak, amelyeken biztonságosan jelezhetik bármilyen aggályukat, az üzleti etikától kezdve a szabálytalanságokig. Emellett szigorú munkahelyi szabályokkal akadályozzuk meg a megtorlás minden formáját."

A Google egyike annak a több technológiai vállalatnak, amely az év elején szerződést kötött az amerikai hadsereggel MI-technológia titkosított katonai környezetekben történő alkalmazásáról. Pete Hegseth amerikai védelmi miniszter kiemelt céllá tette az MI integrálását a fegyveres erőkbe, és azt mondta, hogy a Trump-kormányzat „elsősorban MI-re épülő harcoló erővé" alakítja az amerikai hadsereget.

Az MI-technológia azonban gyorsan fejlődik, bírálói pedig megkérdőjelezik, hogy további tesztelés, szigorúbb biztonsági korlátok és emberi felügyelet nélkül elég megbízható-e a hadviselésben való alkalmazáshoz.

Liguori három évig dolgozott a vállalatnál. Mint mondta, azért döntött a felmondás mellett, mert a Google egyre szorosabban működik együtt az amerikai és az izraeli hadsereggel. „Nem értek egyet ezzel az iránnyal, és emiatt elvesztettem a hitemet abban, hogy a vállalatom valóban követi az általa megfogalmazott etikai értékeket" – mondta.

A Google MI-alapelvei szerint ezen értékek közé tartozik, hogy az MI-t „emberi felügyelet" mellett alkalmazzák, a technológiát pedig összhangba hozzák „a nemzetközi joggal és az emberi jogokkal". A vállalat jelenlegi és korábbi alkalmazottai, valamint a BBC által megkérdezett szakértők azonban azt mondták, hogy aggódnak a kritikus pillanatokban biztosított emberi felügyelet mértéke miatt.

A technológiai szakemberek szerint különösen aggasztják őket az idén megkötött katonai MI-szerződések, mert azok jelentősen kibővítik azoknak a feladatoknak a körét, amelyekre a Pentagon felhasználhatja a technológiát.

Andreas Kirsch MI-kutató szintén az aggályai miatt mondott fel a Google DeepMindnál a hónap elején.

Kirsch azt mondta a BBC-nek, szerinte „a Google irányítási és felügyeleti rendszere nem elégséges és nem eléggé érdemi ahhoz, hogy katonai és titkosított környezetekben biztonságosan és felelősen alkalmazza az MI-t", illetve ahhoz, hogy „a jövőben biztonságosan fejlesszen mesterséges szuperintelligenciát".

„Úgy tűnik, a Google-nek nincs joga ellenőrizni vagy megvétózni, hogy a Pentagon miként használja az MI-technológiáját, és a jelek szerint abba is csak korlátozottan lát bele, hogyan alkalmazzák azt" – tette hozzá.

Az amerikai hadsereg az elmúlt néhány évben több, MI-t alkalmazó technológiát is rendszerbe állított harci képességeinek fejlesztése érdekében.

Ezek közül a legismertebb a Maven Smart Systems, a Pentagon legfontosabb szoftverplatformja, amelyet hírszerzési információk és adatok rendszerezésére használnak.

Az amerikai Palantir hadiipari vállalat által kifejlesztett rendszer az MI segítségével támogatja a személyzetet a megtámadandó célpontok kiválasztásában és azonosításában. A Palantir több vezető MI-vállalat technológiáját is integrálta a Mavenbe, ami lehetővé tette egyes folyamatok jelentős felgyorsítását.

Jack Shanahan nyugalmazott altábornagy, a Maven projekt korábbi igazgatója szerint úgy tűnik, a követett „filozófia" a következő: „A lehető leggyorsabban és legszélesebb körben kell alkalmazni [az MI-technológiát], akár a tesztelés és az értékelés alaposságának és fegyelmének rovására is."

A Pentagon ugyanakkor kitart amellett, hogy az MI-technológiák alkalmazása elengedhetetlen a háborúk megnyeréséhez. „Az MI korszakában a gyorsaság dönti el, ki győz" – mondta Emil Michael, az amerikai védelmi minisztérium helyettes államtitkára egy idén kiadott közleményben.

A Google és a Pentagon között az év elején megkötött szerződés lehetővé teszi, hogy a vállalat MI-technológiáját titkosított katonai feladatokra használják. A megállapodás szerint a Google MI-modelljei „bármilyen jogszerű kormányzati célra" alkalmazhatók, és „megfelelő emberi felügyelet és ellenőrzés nélkül nem használhatók belföldi tömeges megfigyelésre vagy autonóm fegyverekhez, beleértve a célpontok kiválasztását is".

Hasonló szerződést kötött az OpenAI, az Amazon, a Microsoft, a SpaceX, az Oracle, az Nvidia és a Reflection nevű induló vállalkozás is. Ezek lehetővé teszik az MI-technológia alkalmazását különböző katonai területeken, például a szállításban, a tervezésben és a harctéri műveletekben.

A technológia gyors fejlődésével párhuzamosan egyre nagyobbak az aggodalmak az MI háborús hadszíntereken való alkalmazásával kapcsolatban.

„Az MI lerövidíti azt az időt, amely alatt egy kezelőnek döntést kell hoznia, mert sokkal gyorsabban működik az embernél, ez pedig különösen kockázatos nagy stresszel járó környezetben" – mondta Sarah Shoker, aki korábban az OpenAI geopolitikai csapatát vezette.

„Amikor az MI több száz célpontot választ ki, és csak rövid idő áll rendelkezésre, szinte lehetetlen, hogy egy emberi kezelő érdemben ellenőrizze, vannak-e hibák az MI eredményeiben."

A Google alkalmazottai azt mondták a BBC-nek, hogy a munkatársak félnek nyilvánosan megszólalni az MI biztonságáról és hadviselésben való alkalmazásáról, mert munkaszerződésük tiltja, hogy nyilvánosan bírálják a vállalatot.

„Elvileg életem végéig nem bírálhatom a Google-t" – mondta Sofia Liguori a BBC-nek. Mégis úgy döntött, hogy megszólal, „mert fontosnak tartom, hogy ezek a dolgok nyilvánosságra kerüljenek, és azt is gondolom, hogy a tények ismertetése nem bírálat".

Liguori hozzátette, hogy a Google-nél „az emberek félnek a megtorlástól és attól, hogy veszélybe sodorják a karrierjüket. Úgy érzed, hogy figyelnek, és nem beszélhetsz."

A Google DeepMind egyik jelenlegi alkalmazottja, aki a megtorlástól tartva neve elhallgatását kérte, azt mondta a BBC-nek: „Sok elkötelezett munkatárs távozhat, akik [a vállalat] eredeti küldetése miatt csatlakoztak, de a pályájuk elején járók közül sokan készen állnak arra, hogy betöltsék ezeket az állásokat. Ez akár generációváltást is jelenthet."

A Google DeepMind egy másik munkatársa, aki szintén névtelenséget kért, azt mondta a BBC-nek: „Sokan távoztak a vállalattól azok közül, akik határozott véleményt fogalmaztak meg erről [arról, hogy miként változtatta meg a Google DeepMind az etikai álláspontját]."

„Vannak, akik felveszik a harcot, mások pedig azt gondolják: 'Ez egy nagy vállalat. Mit vársz, mi fog megváltozni?'" – mondta az alkalmazott.

A Google Izraellel kötött megállapodásai szintén vitát váltottak ki. A vállalatot 2024-ben alkalmazottai bírálták az Amazonnal közösen kötött, 1,2 milliárd dollár (körülbelül 393 milliárd forint) értékű Project Nimbus nevű szerződés miatt, amely MI-technológiát és felhőalapú számítástechnikai infrastruktúrát biztosít az izraeli kormánynak és hadseregnek. A Google akkor azt mondta, hogy a Project Nimbus „nem irányul fegyverekkel vagy hírszerző szolgálatokkal kapcsolatos, fokozottan érzékeny, titkosított vagy katonai feladatokra".

Izrael hadviselésben alkalmazott MI-képességeiről azután is vita bontakozott ki, hogy egy nemrég megjelent, Naza című dokumentumfilm bemutatta az MI-alapú célkijelölési rendszerek szerepét a Gázai övezet bombázásában, amely sok civil áldozatot követelt. Egy izraeli miniszter azt mondta, hogy a filmben bemutatott állítások hamisak és elferdítik a valóságot.

Andreas Kirsch, a Google korábbi alkalmazottja szerint a hadviselésben alkalmazott MI-technológia még nem áll készen a harctéri bevetésre. „A jelenlegi MI-modellek nem elég megbízhatóak, és szerintem nem is képezték ki őket ilyen feladatokra" – mondta.

Közreműködött: Rosa Rahimi

Ezt a cikket újságíróink írták és lektorálták, a fordításhoz mesterséges intelligencia által támogatott eszközök segítségét használták, egy kísérleti projekt részeként.

Szerkesztette: Kárász Palkó