Veštačka inteligencija pomaže u identifikovanju ruskih vojnika, potrazi za metama ili presretanju neprijateljskih komunikacija. To je takođe sastavni deo propagandnih i dezinformacionih kampanja. Ova višenamenski alat izaziva mnogo kontroverzi u vezi sa njegovom upotrebom u ratnim vremenima. Posebno, upotreba AI u ratu postavlja mnoga pitanja o međunarodnom humanitarnom pravu tokom oružanih sukoba.
„U jednoj od ukrajinskih bolnica pronađen je čovek koji je tvrdio da je naš vojnik. Prema njegovim rečima, on je patio od šoka izazvanog bombaškim napadom. Rekao je da je doživeo traumu i da je sve zaboravio. Doktor nam je poslao fotografiju, i uspeli smo da ga identifikujemo za samo nekoliko minuta. Našli smo njegov profil na društvenoj mreži i saznali da je Rus. Naravno, smatran je odgovornim“, hvali se Mikailo Fedorov, ukrajinski ministar za digitalnu transformaciju, na sajtu američke kompanije Clearview AI. Od početka ruske agresije traži načine da koristi moderne tehnologije u službi svoje zemlje. Očajnički tražeći podršku, Ukrajina je postala teren za testiranje digitalnih rešenja. Naročito, proizvodi koji su kontroverzni u mirnijim delovima sveta ovde imaju svoje krštenje vatrom.
Želimo da obavestimo majke da su izgubile sinove
Sam Clearview AI je pomogao da se utvrdi identitet vojnika o kome je Fedorov govorio. Njen alat za prepoznavanje lica ima impresivne mogućnosti – sve što treba da uradite je da otpremite fotografiju u aplikaciju, a zahvaljujući naprednim algoritmima, ona će je uskladiti sa jednom od 10 milijardi slika u bazi podataka. Da bi ga kreirala, kompanija je, uz pomoć specijalnih kompjuterskih programa, automatski skidala fotografije sa servisa: sa američkog Fejsbuka ili Instagrama, kao i sa ruskih VKontakte i Odnoklasniki. Kako se kompanija hvali, jedna od pet slika u svom inventaru dolazi sa poslednje dve društvene mreže.
Tehnologija koju je obezbedio Clearview AI brzo je postala jedan od najvažnijih digitalnih alata u Ukrajini. Danas ga koristi sedam različitih agencija, uključujući vojsku i graničare, a više od 900 korisnika ima pristup bazi podataka. Ukupno je u sistemu već dovršeno 125.000 upita pretrage. Prema navodima ukrajinskih vlasti, 7.500 osumnjičenih kriminalaca identifikovano je uz pomoć ove tehnologije, a 125 ruskih vojnika je optuženo. Clearview AI je pomogao da se porodice ponovo ujedine, pronađu nestale osobe, otkriju dezinformacije, pojačaju bezbednost na kontrolnim punktovima i razotkriju špijune. Takođe je postala osnova jedne od najneverovatnijih operacija u informacionom ratovanju.
Zahvaljujući algoritmima veštačke inteligencije Clearview AI može čak i da prepozna lica sa značajnim povredama. Tako su Ukrajinci počeli da ga koriste za identifikaciju tela ubijenih ruskih vojnika, a zatim da kontaktiraju svoje porodice. „Mi razmnoћavali informacije preko druљtvenih mreža. Ovo je ljubaznost prema majkama, želimo bar da obavestimo porodicu da su izgubile sinove, a onda da im pružimo priliku da dođu i pokupe svoja tela“, prokomentarisao je Fedorov. Drugi članovi njegovog tima tvrdili su da je to moglo da utiče na spor napredak mobilizacije u Rusiji.
Svi to rade
Kako Clearview AI završio u Ukrajini? Sama kompanija je ponudila svoje usluge. Početkom marta 2022. godine, njen generalni direktor Goan Ton-Tat ponudio je ukrajinskoj vladi ne samo slobodan pristup tehnologiji, već i obuku o tome kako da je koristi. „Moje srce je sa Ukrajincima, nadam se da naša tehnologija može da se koristi za sprečavanje povređivanja, spasavanje nevinih ljudi i zaštitu života“, uverava on.
Iako Ukrajinci, prema zvaničnim informacijama, nisu platili napredni sistem, u stvarnosti, ništa nije besplatno. Na kraju sve, ovaj sluиaj je postao neka vrsta. CSR-rat (korporativna društvena odgovornost – korporativna društvena odgovornost), ili paket sporazum u kome jedna strana dobija pomoć od kompanije, a sama kompanija dobija poboljšanje svog imidža. Uzgred, sa sajta kompanije su uzeti svi citati ukrajinskih zvaničnika koji su korišćeni u ovom članku. Za Clearview AI Ovo je bilo neophodno jer kada Ton-That Ona je ponudila svoju pomoć ukrajinskoj vladi i bila je pod istragom evropskih i američkih regulatornih tela, koja su je optužila za grubo kršenje privatnosti korisnika interneta. Podaci o njima prikupljeni su kršenjem pravila i propisa na društvenim mrežama. Ton-That tvrdio je u medijima da „svi to rade“.
Ubrzo nakon predloga, koji Ton-That koju je napravila ukrajinska vlada, italijanska uprava za zaštitu podataka nametnuta Clearview AI kazna od 20 miliona EUR. Ovo je najveća moguća kazna za GDPR (Opšta uredba o zaštiti podataka – Opšta uredba o zaštiti podataka). Britansko regulatorno telo je u maju dodalo još 8 miliona, a slede Grčka i Francuska – po 20 miliona. To je mnogo za kompaniju, piše portal industrije CB Uvidi, ukupna vrednost izdatih akcija kompanije bila je 38 miliona dolara.
I to nije sve – takođe joj je naređeno da ukloni fotografije stanovnika tih zemalja iz svoje baze podataka i zabranjeno joj je da ih prikuplja u budućnosti. U Ilinoisu, kompanije Clearview AI zabranio prodaju svojih proizvoda – i usluga i preduzeća – u narednih pet godina.
Šta vidiš unutra Palantir
Još jedna tehnološka kompanija koja pruža usluge ukrajinskoj vojsci je Palantir. Kompanija, čije se ime odnosi na magičnu „kristalnu kuglu“ iz „Gospodara prstenova“ Džej Ar Tolkina, bavi se analitikom podataka. Među njenim klijentima su Ministarstvo odbrane SAD, CIA i FBI.
U Ukrajini Palantir Ona postaje od kritičnog značaja za rešavanje sve većeg broja zadataka – od pružanja humanitarne pomoći do sprovođenja neprijateljstava. Koji su neki primeri? Ubrzo posle ruske potpune invazije na Ukrajinu, postojala je hitna potreba da se pronađu domovi za one koji beže od rata. Velika Britanija se okrenula američkoj kompaniji za pomoć. Gradeći na svom softveru, lansirala je Domovi za Ukrajinu – zahtev za rešavanje bezbednog raseljavanja izbeglica. U roku od 24 sata od njegovog pokretanja, program je dobio više od 120.000 ponuda za stanovanje.
Palantir On takođe pomaže u dokumentovanju ruskih ratnih zločina – obezbedio je glavnom tužiocu zemlje softver koji povezuje navodne zločine sa ruskim vojnim jedinicama. U budućnosti će rešenja koja je razvio biti ključna za obnovu zemlje. Za očekivati je da će, na primer, analizom podataka o raspodeli učenika pomoći u utvrđivanju lokacije novih škola. Investitori ne sumnjaju da će to biti profitabilan biznis za kompaniju: Partnerstvo je upravo najavljeno, vrednost akcija Palantir skočio za više od 10 odsto.
I tu se ne zaustavlja: u februaru 2023, CEO Palantir Aleks Karp je priznao da Ukrajinci koriste njegovu tehnologiju u čisto vojne svrhe – oni sa njom prate ciljeve. Sistem koji Ukrajinci koriste za ovo se zove MetaConstellation. Zasnovan je na podacima prikupljenim od komercijalnih satelita, termalnih senzora ili izviđačkih bespilotnih letelica, kao i tradicionalnijih izvora, odnosno jednostavno špijuna. Koliko je efikasna ova tehnologija? Kako je general Ričard Belons, koji je komandovao britanskim jedinicama u Iraku i Avganistanu, priznao u intervjuu Tajmsu, ako bi pre dve decenije vojna komanda mogla da prati 10 ciljeva dnevno, danas ista jedinica može da prati 300.
Aleks Karp sve više poredi posedovanje naprednih sistema veštačke inteligencije sa nuklearnim oružjem. I nije jedini. U februaru ove godine holandska vlada je sazvala prvi međunarodni samit o odgovornoj upotrebi veštačke inteligencije u vojnoj sferi. Na inauguraciji sa istom izjavom kao i CEO Palantir, govorio je potpredsednik vlade i ministar spoljnih poslova Holandije Wopke Hoekstra. Samitu je prisustvovalo 50 zemalja, uključujući Kinu (Rusija nije pozvana). Učesnici su potpisali deklaraciju u kojoj su obećali da će zajedno raditi na obezbeđivanju adekvatnih mera zaštite i ljudskog nadzora nad korišćenjem sistema zasnovanih na AI.
Poljska takođe razgovara o upotrebi AI u vojsci. U aprilu ove godine, predsednik Andrzej Duda potpisao je dekret o glavnim pravcima razvoja Oružanih snaga Poljske za period 2025-2039. Među sistemima kojima vojska treba da bude opremljena, zajedno sa sistemima protivraketne odbrane, nalaze se II i analitički programi velikih podataka.
Zelenski „kapitulira“, Putin „proglasio“ vanredno stanje
Međutim, AI borbe u Ukrajini nisu samo veliki sistemi koje su razvile specijalizovane kompanije. To su takođe gerilci informacija koji koriste generativne AI alate, kao što su ChatGPTpropagiranje munjevitom brzinom. Posle novembra 2022. OpenAI učinio ga univerzalno dostupnimUkrajina je provela skoro pola godine da bi usluga bila dostupna na svojoj teritoriji (u početku je bila blokirana, kao u Rusiji i Iranu).
Modeli velikog jezika (LLM – Modeli velikog jezika) su napredni sistemi veštačke inteligencije. Sposobni su da generišu tekstove iz ogromne količine podataka o obuci i mogu se koristiti za različite zadatke, kao što su razumevanje prirodnog jezika, prevođenje i generisanje sadržaja. Chatbotovi zasnovani na njima mogu postati moćno sredstvo u informacionom ratu. Oni će lako kreirati tekstove na bilo kom jeziku, pa čak i u stilu određene osobe. Oni će napraviti sajtove. Dokumenti će biti analizirani. Naravno, oni takođe imaju tamnu stranu: podatke koje unosimo u njih prikupljaju proizvođači i pomažu u obuci sledeće generacije algoritama. Zato mnoge kompanije – na primer, Samsung – zabraniti njihovu upotrebu: rizik od otkrivanja kompanijih tajni je prevelik. Da ne spominjem vojne tajne.
Upotreba veštačke inteligencije u propagandi je delo obe strane sukoba. Algoritmi pomažu u stvaranju, na primer, video zapisa, takozvanih dubokih lažnjaka, koji prikazuju političare. Još u martu 2022. godine, Rusi su postavili video na internet u kojem ukrajinski predsednik Volodymyr Zelensky poziva svoje sunarodnike da polože oružje. Brzo je utvrđeno da je lažan i uklonjen sa platformi kao što su YouTube I Facebook. Međutim, početkom juna ove godine na ruskoj televiziji pojavio se video u kojem Vladimir Putin proglašava vanredno stanje i upozorava da će narediti opštu mobilizaciju. Ovo je takođe izmišljeno. Međutim, autori ove akcije nikada nisu pronađeni.
Iako širenje dezinformacija nije ništa novo, AI nudi mogućnosti bez presedana da se takve kampanje razmere. Naročito kada se kombinuje sa dosegom koji nude platforme društvenih medija. Samo jedan Telegram, gde se, zahvaljujući liberalnoj politici modekcije sadržaja, informacije o ratu raspliće, ima milijardu korisnika. U takvom okruženju, lako je staviti u opticaj laži nastale uz pomoć veštačke inteligencije.
Kad dron zbuni mete
Upotreba algoritama u donošenju vojnih odluka je izuzetno kontroverzna. To je zato što su AI sistemi – čak i u civilnim aplikacijama – obavijeni misterijom. Iako su opšti principi njihovog rada poznati, teško je čak i samim stvaraocima da uđu u trag zašto donose određene odluke. Objašnjenje algoritama je i dalje interesantno za istraživače. Ove godine, profesor Pjotr Sankovski sa Univerziteta u Varšavi dobio je pomoć Evropskog istraživačkog saveta za sprovođenje takve analize. Po njegovom mišljenju, ako ljudi ne znaju zašto računar nudi određena rešenja, to neće zadobiti njihovo poverenje.
„U vojnim poslovima to je takođe važno. Veštačka inteligencija se ovde može koristiti na dva načina: da sama podrži ljudske odluke ili kao entitet donošenja odluka. Slučaj prve upotrebe je mnogo manje kontroverzan. Veštačka inteligencija se godinama koristi na ovaj način – obrađuje satelitske podatke, podatke o inteligenciji i slike sa kamera. Stvarni problemi počeće ako vojske odluče da delegira donošenje odluka algoritmima“, kaže dr Kaja Kovalčevska, advokat na Univerzitetu u Vroclavu i autor publikacije „Veštačka inteligencija u ratu. Osvrt na Međunarodno humanitarno pravo oružanih sukoba“.
Šta ovo znači? Na primer, upotreba bespilotnih letelica koje traže, a zatim same uništavaju metu. To je to, ubili su osobu. „Ako vojnik donese pogrešnu odluku, može da odgovara sudu. Njen komandant takođe može biti krivično gonjen. A šta će se desiti ako uređaj napravi grešku? Država koja ga je koristila mora biti odgovorna. Ali ko lično – kupac, proizvođač, ili, možda, programer koji je kreirao nesavršen algoritam?“ – Kovalčevska misli naglas. Međutim, ona dodaje da su, bez obzira na tehnologiju koja se koristi, sve strane u sukobima vezane za međunarodno humanitarno pravo. „Pravila koja su tamo opisana moraju da primenjuju sve strane“, tvrdi ona.
Prema rečima gospođe Kovalčevske, biće teško regulisati upotrebu veštačke inteligencije na međunarodnom nivou. „Zemlje su podeljene na one koji kažu da tu tehnologiju treba zabraniti, one koje kažu da treba razvijati opšta pravila, i Kinu, čije je mišljenje da AI ne može da se koristi u ratu, ali takva rešenja mogu da se proizvedu i prodaju“, kaže advokat i dodaje da bi, prema njenom mišljenju, najvažnije bilo da se uvede pravilo da svaku odluku AI kontroliše čovek.
Prevedeno sa poljskog
Tekst je objavljen u sklopu projekta saradnje između nas i poljskog časopisa Newa Europa Wschodnia.
Prethodni članakProjektno ogledalo: Ukrajina – EU: Vruća završnica pregovora, Ukrajina – Bežanje od izbora, Istočno partnerstvo posle arapskih revolucija, u iskrivljenom ogledalu, prezreno, Lukašenka ide u rat sa Putinom, Između Moskve i Kijeva, Kobasica je kobasica, Moj Lviv, Putin u galijama, Poluostrvo straha, Ukrajina izmišljena na Istoku, Novo otkriće Da popričamo o istoriji, zastoju u Minsku
Originalni naslov članka: Sztuczna inteligencja walczy w Ukrainie
