Umjetna inteligencija pomaže identificirati ruske vojnike, tražiti ciljeve ili presresti neprijateljske komunikacije. Također je sastavni dio propagandnih kampanja i kampanja dezinformiranja. Ovaj višenamjenski alat izaziva mnogo kontroverzi u vezi s njegovom uporabom u ratno vrijeme. Konkretno, upotreba umjetne inteligencije u ratu postavlja mnoga pitanja o međunarodnom humanitarnom pravu tijekom oružanih sukoba.
“U jednoj od ukrajinskih bolnica pronađen je čovjek koji je tvrdio da je naš vojnik. Prema njegovim riječima, pretrpio je šok uzrokovan bombaškim napadom. Rekao je da je doživio traumu i da je sve zaboravio. Liječnik nam je poslao fotografiju i uspjeli smo ga identificirati u samo nekoliko minuta. Pronašli smo njegov profil na društvenoj mreži i saznali da je Rus. Naravno, odgovarao je”, hvali se Mykhailo Fedorov, ukrajinski ministar digitalne transformacije, na web stranici američke tvrtke Clearview AI. Od početka ruske agresije tražio je načine za korištenje modernih tehnologija u službi svoje zemlje. Očajna za potporom, Ukrajina je postala poligon za digitalna rješenja. Konkretno, proizvodi koji su kontroverzni u mirnijim dijelovima svijeta ovdje imaju vatreno krštenje.
Želimo majkama dati do znanja da su izgubile sinove.
Sam Clearview AI pomogao je utvrditi identitet vojnika o kojem je Fedorov govorio. Njegov alat za prepoznavanje lica ima impresivne mogućnosti – sve što trebate učiniti je prenijeti fotografiju u aplikaciju, a zahvaljujući naprednim algoritmima, uskladit će je s jednom od 10 milijardi slika u bazi podataka. Da bi ga stvorila, tvrtka je, uz pomoć posebnih računalnih programa, automatski preuzela fotografije s usluga: s američkog Facebooka ili Instagrama, kao i s ruskog VKontaktea i Odnoklassnikija. Kako se tvrtka hvali, svaka peta slika u svom inventaru dolazi s posljednje dvije društvene mreže.
Tehnologija koju pruža Clearview AI brzo je postala jedan od najvažnijih digitalnih alata u Ukrajini. Danas ga koristi sedam različitih agencija, uključujući vojne i graničare, a više od 900 korisnika ima pristup bazi podataka. Ukupno je u sustavu već dovršeno 125 tisuća upita za pretraživanje. Prema ukrajinskim vlastima, 7.500 osumnjičenih kriminalaca identificirano je uz pomoć ove tehnologije, a 125 ruskih vojnika je optuženo. Clearview AI pomogao je ujediniti obitelji, pronaći nestale osobe, otkriti dezinformacije, ojačati sigurnost na kontrolnim točkama i razotkriti špijune. Također je postao temelj jedne od najnevjerojatnijih operacija u informacijskom ratovanju.
Zahvaljujući algoritmima umjetne inteligencije Clearview AI može čak prepoznati lica sa značajnim ozljedama. Tako su ga Ukrajinci počeli koristiti kako bi identificirali tijela ubijenih ruskih vojnika, a zatim kontaktirali svoje obitelji. “Informacije širimo putem društvenih mreža. To je ljubaznost prema majkama, želimo barem obavijestiti obitelj da su izgubile svoje sinove, a zatim im pružiti priliku da dođu po svoja tijela”, komentirao je Fedorov. Drugi članovi njegovog tima tvrdili su da je to moglo utjecati na spor napredak mobilizacije u Rusiji.
Svi to rade
Kako Clearview AI završio u Ukrajini? Sama tvrtka ponudila je svoje usluge. Početkom ožujka 2022. njegov izvršni direktor Goan Ton-Tat ponudio je ukrajinskoj vladi ne samo slobodan pristup tehnologiji, već i obuku o tome kako je koristiti. “Moje srce je s Ukrajincima, nadam se da se naša tehnologija može koristiti za sprječavanje štete, za spašavanje nevinih ljudi i zaštitu života”, uvjeravao je.
Iako Ukrajinci, prema službenim informacijama, nisu platili napredni sustav, u stvarnosti ništa nije besplatno. Uostalom, ovaj slučaj je postao neka vrsta DOP– rat (Društveno odgovorno poslovanje – društveno odgovorno poslovanje), odnosno paket ugovor u kojem jedna strana dobiva pomoć od tvrtke, a sama tvrtka dobiva poboljšanje svog imidža. Usput, s web stranice tvrtke uzimaju se svi citati ukrajinskih dužnosnika korišteni u ovom članku. Za Clearview AI To je bilo neophodno jer kada Ton-To Ponudila je pomoć ukrajinskoj vladi i bila je pod istragom europskih i američkih regulatora, koji su je optužili za grubo kršenje privatnosti korisnika Interneta. Podaci o njima prikupljeni su protivno pravilima i propisima na društvenim mrežama. Ton-To U medijima je tvrdio da “svi to rade”.
Ubrzo nakon prijedloga, koji Ton-To koje je izradila ukrajinska vlada, talijansko tijelo za zaštitu podataka nametnulo je Clearview AI novčanu kaznu u iznosu od 20 milijuna EUR. Ovo je najviša moguća kazna predviđena GDPR (Opća uredba o zaštiti podataka – Opća uredba o zaštiti podataka). U svibnju je britanski regulator dodao još 8 milijuna, a slijede Grčka i Francuska – po 20 milijuna. To je puno za tvrtku, prema industrijskom portalu CB uvidi, ukupna vrijednost izdanih dionica tvrtke iznosila je 38 milijuna dolara.
I to nije sve – također joj je naređeno da ukloni fotografije stanovnika tih zemalja iz svoje baze podataka i zabranjeno joj je njihovo prikupljanje u budućnosti. U Illinoisu, tvrtke Clearview AI zabranili su prodaju svojih proizvoda – i usluga i poduzeća – sljedećih pet godina.
Što vidite u Palantir
Još jedna tehnološka tvrtka koja pruža usluge ukrajinskoj vojsci je Palantir. Tvrtka, čije se ime odnosi na čarobnu “kristalnu kuglu” iz Gospodara prstenova J.R.R. Tolkiena, bavi se analitikom podataka. Njezini klijenti su Ministarstvo obrane SAD-a, CIA i FBI.
U Ukrajini Palantir Postaje od ključne važnosti za rješavanje sve većeg broja zadaća – od pružanja humanitarne pomoći do provođenja neprijateljstava. Koji su neki primjeri? Ubrzo nakon ruske potpune invazije na Ukrajinu, postojala je hitna potreba za pronalaženjem domova za one koji bježe od rata. Velika Britanija se obratila američkoj kompaniji za pomoć. Nadovezujući se na svoj softver, pokrenula je Domovi za Ukrajinu – zahtjev za rješavanje sigurnog preseljenja izbjeglica. U roku od 24 sata od pokretanja, program je dobio više od 120.000 stambenih ponuda.
Palantir Također pomaže u dokumentiranju ruskih ratnih zločina – glavnom državnom tužitelju pružio je softver koji povezuje navodne zločine s ruskim vojnim postrojbama. U budućnosti će rješenja koja je razvio biti ključna za obnovu zemlje. Očekuje se da će, na primjer, analizom podataka o raspodjeli učenika, oni pomoći u određivanju lokacije novih škola. Ulagači ne sumnjaju da će to biti profitabilan posao za tvrtku: partnerstvo je upravo najavljeno, vrijednost dionica Palantir skočio za više od 10%.
I tu se ne zaustavlja: u veljači 2023. izvršni direktor Palantir Alex Karp priznao je da Ukrajinci koriste njegovu tehnologiju u čisto vojne svrhe – s njom prate ciljeve. Sustav koji Ukrajinci koriste za to naziva se Metakonstelacija. Temelji se na podacima prikupljenim s komercijalnih satelita, toplinskih senzora ili izviđačkih bespilotnih letjelica, kao i na tradicionalnijim izvorima, odnosno jednostavno špijunima. Koliko je učinkovita ova tehnologija? Kao što je general Richard Barrons, koji je zapovijedao britanskim jedinicama u Iraku i Afganistanu, priznao u intervjuu za The Times, ako je prije dva desetljeća vojno zapovjedništvo moglo pratiti 10 ciljeva dnevno, danas ista jedinica može pratiti 300.
Alex Karp sve više uspoređuje posjedovanje naprednih sustava umjetne inteligencije s nuklearnim oružjem. I nije jedini. U veljači ove godine nizozemska vlada sazvala je prvi međunarodni summit o odgovornoj uporabi umjetne inteligencije u vojnoj sferi. Na inauguraciji s istom izjavom kao i izvršni direktor Palantir, govorio je potpredsjednik vlade i nizozemski ministar vanjskih poslova Wopke Hoekstra. Na summitu je sudjelovalo 50 zemalja, uključujući Kinu (Rusija nije bila pozvana). Sudionici su potpisali izjavu u kojoj su se obvezali surađivati kako bi osigurali odgovarajuće zaštitne mjere i ljudski nadzor nad upotrebom sustava temeljenih na umjetnoj inteligenciji.
Poljska također raspravlja o uporabi umjetne inteligencije u vojsci. U travnju ove godine predsjednik Andrzej Duda potpisao je uredbu o glavnim smjerovima razvoja poljskih oružanih snaga za razdoblje 2025.-2039. Među sustavima kojima bi vojska trebala biti opremljena, zajedno sa sustavima protuzračne obrane, nalaze se programi umjetne inteligencije i analize Veliki podaci.
Zelensky “kapitulira”, Putin “proglašava” izvanredno stanje
Međutim, borba umjetne inteligencije u Ukrajini nisu samo veliki sustavi koje su razvile specijalizirane tvrtke. Oni su također informacijski gerilci koji koriste generativne alate umjetne inteligencije, kao što su ChatGPTrazmnožava se brzinom munje. Nakon studenog 2022. OpenAI učinio ga univerzalno dostupnimUkrajina je provela gotovo pola godine kako bi uslugu učinila dostupnom na svom teritoriju (isprva je bila blokirana, kao u Rusiji i Iranu).
Veliki jezični modeli (LLM – veliki jezični modeli) su napredni sustavi umjetne inteligencije. Sposobni su generirati tekstove iz ogromnih količina podataka o obuci i mogu se koristiti za razne zadatke, poput razumijevanja prirodnog jezika, prevođenja i generiranja sadržaja. Chatbotovi temeljeni na njima mogu postati moćan alat u informacijskom ratu. Lako će stvoriti tekstove na bilo kojem jeziku, pa čak iu stilu određene osobe. Oni će stvoriti web stranice. Dokumenti će se analizirati. Naravno, oni također imaju tamnu stranu: podatke koje unosimo u njih prikupljaju proizvođači i pomažu u obuci sljedeće generacije algoritama. Zato mnoge tvrtke – na primjer, Samsung – zabraniti njihovu uporabu: rizik od otkrivanja tajni tvrtke je previsok. Da ne spominjem vojne tajne.
Korištenje umjetne inteligencije u propagandi djelo je obiju strana sukoba. Algoritmi pomažu u stvaranju, na primjer, videozapisa, takozvanih dubokih krivotvorina, koje prikazuju političare. Rusi su još u ožujku 2022. na internetu objavili video u kojem ukrajinski predsjednik Volodimir Zelenski poziva svoje sunarodnjake da polože oružje. Brzo je utvrđeno da je lažan i uklonjen s platformi kao što su YouTube i Facebook. Međutim, početkom lipnja ove godine na ruskoj televiziji pojavio se video u kojem Vladimir Putin proglašava izvanredno stanje i upozorava da će narediti opću mobilizaciju. Ovo je također izmišljeno. Međutim, autori ove akcije nikada nisu pronađeni.
Iako širenje dezinformacija nije ništa novo, umjetna inteligencija nudi dosad nezabilježene mogućnosti za širenje takvih kampanja. Pogotovo u kombinaciji s dosegom koji nude platforme društvenih medija. Samo jedan Telegram, gdje se, zahvaljujući liberalnoj politici moderiranja sadržaja, šire informacije o ratu, ima milijardu korisnika. U takvom okruženju lako je staviti u optjecaj laži stvorene uz pomoć umjetne inteligencije.
Kada dron zbuni mete
Korištenje algoritama u donošenju vojnih odluka izuzetno je kontroverzno. To je zato što su sustavi umjetne inteligencije – čak i u civilnim primjenama – obavijeni velom tajne. Iako su poznata opća načela njihovog rada, čak je i samim kreatorima teško pratiti zašto donose određene odluke. Objašnjivost algoritama i dalje je zanimljiva istraživačima. Ove je godine profesor Piotr Sankowski sa Sveučilišta u Varšavi dobio bespovratna sredstva Europskog istraživačkog vijeća za provedbu takve analize. Po njegovom mišljenju, ako ljudi ne znaju zašto računalo nudi određena rješenja, neće steći njihovo povjerenje.
“U vojnim poslovima to je također važno. Umjetna inteligencija ovdje se može koristiti na dva načina: za potporu ljudskim odlukama ili kao samostalno tijelo koje donosi odluke. Slučaj prve uporabe mnogo je manje kontroverzan. Umjetna inteligencija koristi se na ovaj način već godinama – obrađuje satelitske podatke, obavještajne podatke i slike s kamera. Pravi problemi započet će ako vojske odluče delegirati donošenje odluka algoritmima”, kaže dr. Kaja Kowalczewska, odvjetnica sa Sveučilišta u Wroclawu i autorica publikacije “Umjetna inteligencija u ratu. Pogled na međunarodno humanitarno pravo oružanog sukoba”.
Što to znači? Na primjer, korištenje bespilotnih letjelica koje traže, a zatim sami uništavaju metu. To jest, ubiju osobu. “Ako vojnik donese pogrešnu odluku, može odgovarati sudu. Njegov zapovjednik također može biti kazneno gonjen. A što se događa ako uređaj napravi pogrešku? Država koja ga je koristila mora biti odgovorna. Ali tko osobno – kupac, proizvođač ili, možda, programer koji je stvorio nesavršeni algoritam?” – naglas razmišlja Kovalchevska. Međutim, dodaje kako su, bez obzira na korištenu tehnologiju, sve sukobljene strane vezane međunarodnim humanitarnim pravom. “Tamo opisana pravila moraju primjenjivati sve strane”, tvrdi ona.
Prema gospođi Kovalchevskoj, bit će teško regulirati uporabu umjetne inteligencije na međunarodnoj razini. “Zemlje su podijeljene na one koji kažu da bi ovu tehnologiju trebalo zabraniti, one koji kažu da bi trebalo razviti opća pravila i Kinu, čije je mišljenje da se umjetna inteligencija ne može koristiti u ratu, ali se takva rješenja mogu proizvesti i prodati”, kaže odvjetnik, dodajući da bi, po njezinu mišljenju, najvažnije bilo uvesti pravilo da svaku odluku o umjetnoj inteligenciji kontrolira čovjek.
Prevedeno s poljskog
Tekst je objavljen u sklopu projekta suradnje između nas i poljskog časopisa Newa Europa Wschodnia.
Prethodni članci projekta: Ukrajina – EU: Vrući završetak pregovora, Ukrajina – Bježanje od izbora, Istočno partnerstvo nakon arapskih revolucija, U iskrivljenom ogledalu, Prezren, Lukašenka ide u rat s Putinom, Između Moskve i Kijeva, Kobasica je kobasica, Moj Lavov, Putin u galijama, Poluotok straha, Ukrajina izumljena na Istoku, Novo staro otkriće, I trebalo je biti tako lijepo, novogodišnji dar za Rusiju, Hoćemo li razgovarati o povijesti, zastoju u Minsku
Izvorni naslov članka: Sztuczna inteligencja walczy w Ukrainie
