Pracownicy Google rezygnują w proteście przeciw współpracy z wojskiem

Byli i obecni pracownicy Google opowiedzieli BBC o obawach związanych z wykorzystaniem przez wojsko opracowanych przez firmę technologii opartych na sztucznej inteligencji.

Rozmawialiśmy z kilkorgiem osób, które odeszły lub rozważają odejście z Google DeepMind - oddziału firmy zajmującego się sztuczną inteligencją - w geście sprzeciwu wobec niedawnych kontraktów z Pentagonem i władzami Izraela.

Jedną z nich jest Sofia Liguori, inżynierka badawcza mieszkająca w Londynie. W tym tygodniu złożyła wypowiedzenie i wytłumaczyła przyczyny w ekskluzywnym wywiadzie z BBC - mimo że zabraniała jej tego umowa o pracę.

„Gdy uświadomiłam sobie, że moja firma coraz bardziej naciska na wykorzystywanie systemów opartych na sztucznej inteligencji w operacjach wojskowych, zaczęłam wstydzić się, że pracuję w Google," stwierdziła.

Rzecznik Google przekazał BBC: „Współpracujemy z organizacjami sektora publicznego na całym świecie. Przestrzegamy spójnych procedur, jeśli chodzi o przegląd i zawieranie umów, by zapewnić m.in. ich zgodność z naszą polityką dozwolonego użytku i wytycznymi dotyczącymi sztucznej inteligencji”.

„Mamy również specjalne kanały, dzięki którym pracownicy mogą bezpiecznie zgłaszać obawy, od kwestii etyki biznesowej po przypadki niewłaściwego zachowania w miejscu pracy. Wdrożyliśmy też surowe zasady, by zapobiec wszelkim formom działań odwetowych".

Google i kilka innych firm technologicznych podpisało w tym roku kontrakty z amerykańskim wojskiem dotyczące wykorzystania systemów AI w operacjach objętych tajemnicą państwową.

Sekretarz obrony USA Pete Hegseth uznał wdrażanie w wojsku technologii opartych na sztucznej inteligencji za kluczowy priorytet. Stwierdził, że za administracji Donalda Trumpa Stany Zjednoczone staną się „siłą bojową, która stawia na pierwszym miejscu AI".

Technologie oparte na sztucznej inteligencji rozwijają się w zawrotnym tempie. Krytycy przekonują jednak, że nie powinny być wykorzystywane na wojnie bez dodatkowych testów, silniejszych zabezpieczeń i stałego nadzoru człowieka.

Liguori pracowała w Google trzy lata. Powiedziała, że do odejścia skłoniła ją coraz bliższa współpraca firmy z amerykańskim i izraelskim wojskiem.

„Nie zgadzam się z kierunkiem [obranym przez Google]. Straciłam wiarę w to, że moja firma jest wierna głoszonym wartościom," powiedziała.

Według wytycznych Google technologie oparte na sztucznej inteligencji powinny być nadzorowane przez ludzi i „dopasowane do przepisów prawa międzynarodowego i praw człowieka”.

Jednak byli i obecni pracownicy - a także eksperci, z którymi rozmawiało BBC - kwestionują, czy technologie są objęte wystarczającym nadzorem w krytycznych momentach.

Pracownicy Google powiedzieli nam, że szczególnie niepokoją ich podpisane w tym roku umowy z Pentagonem, które znacznie rozszerzają zakres zastosowań sztucznej inteligencji.

Andreas Kirsch, który pracował w Google DeepMind na stanowisku badawczym, również złożył w tym miesiącu wypowiedzenie.

Powiedział BBC, że jego zdaniem „zarządzanie i nadzór ze strony Google nie idą wystarczająco daleko, by można było bezpiecznie i odpowiedzialnie wykorzystywać sztuczną inteligencję w działaniach wojskowych i objętych oficjalną tajemnicą".

Dodał, że z tych samych powodów nie uważa, by Google mogło w przyszłości bezpiecznie pracować nad rozwojem tzw. superinteligencji.

„Wydaje się, że Google nie ma prawa kontroli ani weta wobec sposobu, w jaki Pentagon używa systemów AI. Wygląda też na to, że ma ograniczony wgląd w to, jak są wykorzystywane," powiedział Kirsch.

Amerykańskie wojsko wdrożyło w ostatnich latach wiele technologii opartych na sztucznej inteligencji.

Najbardziej znanym przykładem jest Maven Smart Systems - flagowy system dowodzenia i kontroli, który służy Pentagonowi do organizacji informacji wywiadowczych i innych danych.

Opracowany przez firmę Palantir system używa AI, by pomóc personelowi wojskowemu w identyfikacji i wyborze potencjalnych celów ataku. System wykorzystuje rozwiązania kilku wiodących firm technologicznych, co pozwala znacznie przyspieszyć niektóre procesy.

Były dyrektor projektu, emerytowany generał porucznik Jack Shanahan, powiedział BBC, że system wydaje się oparty na następującym podejściu: „Należy działać jak najszybciej, by wdrożyć [technologie oparte na sztucznej inteligencji] na jak najszerszą skalę - potencjalnie kosztem rygoru i dyscypliny testów i analiz”.

Pentagon utrzymuje, że nie sposób dziś wygrywać wojen bez rozwiązań opartych na AI.

„W erze sztucznej inteligencji o zwycięstwie decyduje prędkość," stwierdził Emil Michael, podsekretarz stanu w Departamencie Obrony USA, w oświadczeniu z początku roku.

Podpisana w kwietniu umowa Google z Pentagonem zezwala na wykorzystywanie technologii firmy w objętych tajemnicą państwową operacjach wojskowych.

Stanowi, że opracowane przez Google modele sztucznej inteligencji mogą być wykorzystywane do „wszelkich zgodnych z prawem celów rządowych".

„Nie powinny być używane do masowej inwigilacji wewnątrz kraju ani do produkcji broni autonomicznej - w tym do wyboru celów - bez odpowiedniego nadzoru i kontroli ze strony człowieka," czytamy w umowie.

Podobne umowy umożliwiające wykorzystanie AI do celów wojskowych - w tym w zakresie planowania, transportu i działań bojowych - podpisały firmy OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia oraz start-up Reflection.

W miarę rozwoju technologii rosną obawy dotyczące jej wojskowych zastosowań.

„Sztuczna inteligencja skraca czas, jaki ma operator na podjęcie decyzji, ponieważ działa znacznie szybciej niż człowiek. To szczególnie ryzykowne w stresujących okolicznościach,” powiedziała Sarah Shoker, była szefowa zespołu ds. geopolityki w OpenAI.

„Jeśli sztuczna inteligencja wskazuje setki celów, a czasu jest niewiele, praktycznie niemożliwe jest, by człowiek sensownie przeanalizował, czy model nie popełnił błędów."

Pracownicy Google powiedzieli BBC, że ich koledzy i koleżanki boją się mówić o swoich obawach, gdyż ich umowy o pracę zabraniają im publicznej krytyki firmy.

„W zasadzie do końca życia nie mam prawa krytykować Google,” stwierdziła Sofia Liguori.

„Zdecydowałam się podjąć to ryzyko, bo uważam, że bardzo ważne jest, by takie rzeczy wychodziły na jaw. Myślę też, że mówienie o faktach nie stanowi krytyki."

Liguori dodała, że pracownicy Google „boją się represji i tego, że narażą swoją karierę. Czujesz, że jesteś obserwowana i nie możesz się wypowiadać”.

Rozmawialiśmy też z obecnym pracownikiem Google DeepMind. Poprosił, byśmy nie ujawniali jego nazwiska, mówiąc, że obawia się odwetu ze strony firmy.

„Wielu zmotywowanych pracowników, którzy zaangażowali się w pierwotną misję [Google], może odejść. Jednak jest też wiele osób na początku kariery, które mogłyby przejąć ich stanowiska. Może nastąpić zmiana warty”.

Inny pracownik Google DeepMind, który również chciał pozostać anonimowy, powiedział: „Wiele osób odeszło z firmy z powodu silnego sprzeciwu [wobec współpracy z wojskiem]".

„Niektórzy stawiają opór. Inni myślą: 'To duża firma. Co możemy zmienić'?”, dodał.

Kontrowersje wywołały też umowy Google z Izraelem.

W 2024 roku Google i Amazon podpisały wspólny kontrakt o wartości 1,2 mld dolarów (około 4,71 mld złotych) na dostarczanie izraelskiemu rządowi i wojsku technologii opartych na sztucznej inteligencji i usług przetwarzania w chmurze. „Projekt Nimbus" wywołał protesty pracowników.

Google oświadczyło wówczas, że projekt „nie jest ukierunkowany na zadania o wysokim stopniu poufności lub tajne, a także na zadania wojskowe dotyczące broni lub służb wywiadowczych".

Debatę wokół wykorzystania sztucznej inteligencji przez izraelskie wojsko podsyciła niedawna premiera filmu dokumentalnego „Naza”.

Dokument analizuje rolę opartych na AI systemów namierzania w bombardowaniu Strefy Gazy, które doprowadziło do śmierci wielu cywilów. Członek izraelskiego rządu przekonywał, że film fałszuje rzeczywistość.

Andreas Kirsch - były badacz Google DeepMind - uważa, że sztuczna inteligencja jest dziś zbyt zawodna, by używać jej na wojnie.

„Obecne modele AI nie są wystarczająco wiarygodne. Nie sądzę, by zostały przeszkolone do takich zadań," powiedział.

Dodatkowy reportaż: Rosy Rahimi

Przy tłumaczeniu tego artykułu, który oryginalnie był napisany w języku angielskim, użyto narzędzi AI. Dziennikarz BBC sprawdził tłumaczenie przed publikacją. Więcej o tym, jak używamy AI.

Edycja: Joanna Kozłowska