Umetna inteligenca pomaga identificirati ruske vojake, iskati cilje ali prestrezati sovražne komunikacije. Je tudi sestavni del propagandnih in dezinformacijskih kampanj. To večnamensko orodje povzroča veliko polemik glede njegove uporabe v vojnem času. Zlasti uporaba umetne inteligence v vojni sproža številna vprašanja o mednarodnem humanitarnem pravu med oboroženimi spopadi.
“V eni od ukrajinskih bolnišnic so našli moškega, ki je trdil, da je naš vojak. Po njegovem mnenju je trpel zaradi šoka, ki ga je povzročilo bombardiranje. Rekel je, da je doživel travmo in pozabil vse. Zdravnik nam je poslal fotografijo in v samo nekaj minutah smo ga lahko identificirali. Njegov profil smo našli na družbenem omrežju in ugotovili, da je Rus. Seveda je bil odgovoren,” se ponaša z ukrajinskim ministrom za digitalno preobrazbo Mykhailo Fedorov na spletni strani ameriškega podjetja Clearview AI. Od začetka ruske agresije išče načine za uporabo sodobnih tehnologij v službi svoje države. Ukrajina, obupana za podporo, je postala poligon za preizkušanje digitalnih rešitev. Zlasti izdelki, ki so sporni v tišjih delih sveta, imajo tukaj svoj ognjeni krst.
Materam želimo sporočiti, da so izgubile sinove
Clearview AI je sam pomagal ugotoviti identiteto vojaka Fedorova, o katerem je govoril. Njegovo orodje za prepoznavanje obrazov ima impresivne zmogljivosti – vse, kar morate storiti, je, da naložite fotografijo v aplikacijo, zahvaljujoč naprednim algoritmom pa jo bo ujemala z eno od 10 milijard slik v bazi podatkov. Da bi ga ustvarili, je podjetje s pomočjo posebnih računalniških programov samodejno preneslo fotografije iz storitev: iz ameriškega Facebooka ali Instagrama, pa tudi iz ruskih VKontakte in Odnoklassnikov. Kot se podjetje hvali, vsaka peta slika v svojem inventarju prihaja iz zadnjih dveh socialnih omrežij.
Tehnologija, ki jo ponuja Clearview AI, je hitro postala eno najpomembnejših digitalnih orodij v Ukrajini. Danes ga uporablja sedem različnih agencij, vključno z vojsko in mejno stražo, dostop do podatkovne zbirke pa ima več kot 900 uporabnikov. Skupaj je bilo v sistemu že zaključenih 125 tisoč iskalnih poizvedb. Po podatkih ukrajinskih oblasti je bilo s pomočjo te tehnologije identificiranih 7.500 osumljencev kaznivih dejanj, obtoženih pa je bilo 125 ruskih vojakov. Clearview AI je pomagal združiti družine, najti pogrešane osebe, odkriti dezinformacije, okrepiti varnost na kontrolnih točkah in razkriti vohune. Postala je tudi osnova ene najbolj neverjetnih operacij v informacijskem vojskovanju.
Zahvaljujoč algoritmom umetne inteligence Clearview AI lahko celo prepozna obraze s pomembnimi poškodbami. Tako so ga Ukrajinci začeli uporabljati za identifikacijo trupel ubitih ruskih vojakov in nato stik z njihovimi družinami. “Informacije razširjamo prek družbenih omrežij. To je vljudnost do mater, želimo vsaj obvestiti družino, da so izgubili svoje sinove, in jim nato dati priložnost, da pridejo in poberejo svoja telesa,” je komentiral Fedorov. Drugi člani njegove ekipe so trdili, da bi to lahko vplivalo na počasen napredek mobilizacije v Rusiji.
Vsi to počnejo
Kako Clearview AI končal v Ukrajini? Podjetje je samo ponudilo svoje storitve. V začetku marca 2022 je njegov izvršni direktor Goan Ton-Tat, ukrajinski vladi ponudil ne le prost dostop do tehnologije, temveč tudi usposabljanje o tem, kako jo uporabljati. “Moje srce je z Ukrajinci, upam, da se bo naša tehnologija lahko uporabila za preprečevanje škode, reševanje nedolžnih ljudi in zaščito življenj,” je zagotovil.
Čeprav Ukrajinci, po uradnih informacijah, niso plačali za napredni sistem, v resnici nič ni brezplačno. Navsezadnje je ta primer postal nekakšen DOP-vojna (Družbena odgovornost podjetij – družbena odgovornost gospodarskih družb), tj. paketna pogodba, v kateri ena stranka prejme pomoč podjetja, podjetje pa samo izboljša svojo podobo. Mimogrede, s spletne strani podjetja so vzeti vsi citati ukrajinskih uradnikov, uporabljeni v tem članku. Za Clearview AI To je bilo potrebno, ker, ko Ton-to Ponudila je pomoč ukrajinski vladi, preiskovali pa so jo evropski in ameriški regulatorji, ki so jo obtožili hudih kršitev zasebnosti uporabnikov interneta. Podatki o njih so bili zbrani v nasprotju s pravili in predpisi o socialnih omrežjih. Ton-to V medijih so trdili, da “to počnejo vsi”.
Kmalu po predlogu, ki Ton-to italijanski organ za varstvo podatkov, ki ga je vložila ukrajinska vlada, je naložil Clearview AI globo v višini 20 milijonov EUR. To je najvišja možna predvidena kazen GDPR (Splošna uredba o varstvu podatkov – Splošna uredba o varstvu podatkov). Maja je britanski regulator dodal še dodatnih 8 milijonov, sledili sta Grčija in Francija – po 20 milijonov. To je za podjetje veliko, poroča industrijski portal CB vpogledi, je bila skupna vrednost izdanih delnic družbe 38 milijonov dolarjev.
In to še ni vse – ukazano ji je bilo tudi, da iz svoje baze podatkov odstrani fotografije prebivalcev teh držav in ji v prihodnosti prepove njihovo zbiranje. V Illinoisu, podjetja Clearview AI prepovedala prodajo svojih izdelkov – tako storitev kot podjetij – za naslednjih pet let.
Kaj vidite v Palantir
Drugo tehnološko podjetje, ki opravlja storitve ukrajinski vojski, je Palantir. Podjetje, katerega ime se nanaša na čarobno “kristalno kroglo” iz Gospodarja prstanov J.R.R. Tolkiena, se ukvarja z analizo podatkov. Njene stranke so ameriško ministrstvo za obrambo, CIA in FBI.
V Ukrajini Palantir Postaja ključnega pomena za reševanje vse večjega števila nalog – od zagotavljanja humanitarne pomoči do izvajanja sovražnosti. Kateri so nekateri primeri? Kmalu po ruski invaziji na Ukrajino je bilo nujno najti dom za tiste, ki so bežali pred vojno. Velika Britanija se je za pomoč obrnila na ameriško podjetje. Na podlagi svoje programske opreme je lansirala Domovi za Ukrajino – prošnjo za poravnavo varne ponovne naselitve beguncev. V 24 urah po uvedbi je program prejel več kot 120.000 stanovanjskih ponudb.
Palantir Pomaga tudi pri dokumentiranju ruskih vojnih zločinov – državnemu tožilcu je priskrbel programsko opremo, ki domnevne zločine povezuje z ruskimi vojaškimi enotami. V prihodnosti bodo rešitve, ki jih je razvil, ključne za obnovo države. Pričakuje se, da bodo na primer z analizo podatkov o porazdelitvi učencev pomagali določiti lokacijo novih šol. Vlagatelji ne dvomijo, da bo to za podjetje donosen posel: partnerstvo je bilo pravkar napovedano, vrednost delnic Palantir poskočil za več kot 10%.
In tu se ne ustavi: februarja 2023 je izvršni direktor Palantir Alex Karp je priznal, da Ukrajinci uporabljajo njegovo tehnologijo izključno v vojaške namene – z njo sledijo tarčam. Sistem, ki ga Ukrajinci uporabljajo za to, se imenuje Metakonstelacija. Temelji na podatkih, zbranih iz komercialnih satelitov, termičnih senzorjev ali izvidniških brezpilotnih letal, pa tudi bolj tradicionalnih virov, tj. preprosto vohunov. Kako učinkovita je ta tehnologija? General Richard Barrons, ki je poveljeval britanskim enotam v Iraku in Afganistanu, je v intervjuju za The Times priznal, da če bi pred dvema desetletjema vojaško poveljstvo lahko sledilo 10 ciljem na dan, lahko danes ista enota sledi 300.
Alex Karp vse bolj primerja posedovanje naprednih sistemov umetne inteligence z jedrskim orožjem. In on ni edini. Februarja letos je nizozemska vlada sklicala prvi mednarodni vrh o odgovorni uporabi umetne inteligence na vojaškem področju. Na svoji otvoritvi z enako izjavo kot generalni direktor Palantir, je govoril podpredsednik vlade in minister za zunanje zadeve Nizozemske Wopke Hoekstra. Vrha se je udeležilo 50 držav, vključno s Kitajsko (Rusija ni bila povabljena). Udeleženci so podpisali izjavo, v kateri so se zavezali, da bodo sodelovali pri zagotavljanju ustreznih zaščitnih ukrepov in človeškega nadzora nad uporabo sistemov, ki temeljijo na umetni inteligenci.
Poljska razpravlja tudi o uporabi umetne inteligence v vojski. Aprila letos je predsednik Andrzej Duda podpisal odlok o glavnih usmeritvah razvoja poljskih oboroženih sil za obdobje 2025–2039. Med sistemi, s katerimi bi morala biti vojska opremljena, skupaj s sistemi zračne obrambe, so AI in analitični programi velepodatki.
Zelenski “kapitulira”, Putin “razglasi” vojno pravo
Vendar pa boj proti AI v Ukrajini niso le veliki sistemi, ki so jih razvila specializirana podjetja. So tudi informacijski gverilci, ki uporabljajo generativna orodja umetne inteligence, kot so ChatGPTširjenje s svetlobno hitrostjo. Po novembru 2022 OpenAI omogočil univerzalno razpoložljivostUkrajina je porabila skoraj pol leta, da bi bila storitev na voljo na svojem ozemlju (sprva je bila blokirana, kot v Rusiji in Iranu).
Veliki jezikovni modeli (LLM – Veliki jezikovni modeli) so napredni sistemi umetne inteligence. Sposobni so ustvarjati besedila iz ogromnih količin podatkov o usposabljanju in jih je mogoče uporabiti za različne naloge, kot so razumevanje naravnega jezika, prevajanje in ustvarjanje vsebin. Chatboti, ki temeljijo na njih, lahko postanejo močno orodje v informacijski vojni. Z lahkoto bodo ustvarili besedila v katerem koli jeziku in celo v slogu določene osebe. Ustvarili bodo spletne strani. Dokumenti bodo analizirani. Seveda imajo tudi temno plat: podatke, ki jih vnesemo, zbirajo proizvajalci in pomagajo pri usposabljanju naslednje generacije algoritmov. Zato je veliko podjetij – na primer, Samsung – prepovedati njihovo uporabo: tveganje za razkritje skrivnosti podjetja je preveliko. Da ne omenjam vojaških skrivnosti.
Uporaba umetne inteligence v propagandi je delo obeh strani konflikta. Algoritmi pomagajo ustvarjati, na primer, videoposnetke, tako imenovane globoke ponaredke, ki prikazujejo politike. Marca 2022 so Rusi na internetu objavili video, v katerem ukrajinski predsednik Volodimir Zelenski poziva svoje rojake, naj odložijo orožje. Hitro je bilo ugotovljeno, da je napačen in odstranjen s platform, kot so YouTube in Velika Britanija. Vendar pa se je v začetku junija letos na ruski televiziji pojavil video, v katerem Vladimir Putin razglasi vojno stanje in opozarja, da bo naročil splošno mobilizacijo. To je bilo tudi izdelano. Vendar avtorjev te akcije nikoli ni bilo mogoče najti.
Čeprav širjenje napačnih informacij ni nič novega, umetna inteligenca ponuja izjemne priložnosti za razširitev takšnih kampanj. Še posebej v kombinaciji z dosegom, ki ga ponujajo platforme družbenih medijev. Samo ena Telegramom, kjer se zaradi liberalne politike moderiranja vsebin širijo informacije o vojni, ima milijardo uporabnikov. V takšnem okolju je enostavno dati v obtok laži, ustvarjene s pomočjo umetne inteligence.
Ko dron zmede cilje
Uporaba algoritmov pri vojaškem odločanju je izjemno sporna. To je zato, ker so sistemi umetne inteligence – tudi v civilnih aplikacijah – zaviti v skrivnost. Čeprav so splošna načela njihovega dela znana, je celo ustvarjalcem težko izslediti, zakaj sprejemajo določene odločitve. Razložljivost algoritmov je še vedno zanimiva za raziskovalce. Letos je profesor Piotr Sankowski z Univerze v Varšavi prejel nepovratna sredstva Evropskega raziskovalnega sveta za izvedbo takšne analize. Po njegovem mnenju, če ljudje ne vedo, zakaj računalnik ponuja določene rešitve, ne bo pridobil njihovega zaupanja.
“V vojaških zadevah je to pomembno tudi. Umetna inteligenca se lahko tukaj uporablja na dva načina: za podporo človeškim odločitvam ali kot subjekt odločanja sam. Prvi primer uporabe je veliko manj sporen. Umetna inteligenca se na ta način uporablja že leta – obdeluje satelitske podatke, inteligenčne podatke in slike iz kamer. Pravi problemi se bodo začeli, če se bodo vojske odločile, da bodo odločanje prenesle na algoritme,” pravi dr. Kaja Kowalczewska, odvetnica na Univerzi v Wroclawu in avtorica publikacije “Umetna inteligenca v vojni. pogled na mednarodno humanitarno pravo oboroženih spopadov”.
Kaj to pomeni? Na primer, uporaba brezpilotnih letal, ki sami iščejo in nato uničijo tarčo. To pomeni, da ubijejo osebo. “Če vojak sprejme napačno odločitev, lahko odgovori sodišču. Njegov poveljnik je lahko tudi kazensko preganjan. In kaj se zgodi, če naprava naredi napako? Država, ki ga je uporabljala, mora biti odgovorna. Toda kdo osebno – kupec, proizvajalec ali morda programer, ki je ustvaril nepopoln algoritem?” – Kovalčevska misli na glas. Vendar dodaja, da so ne glede na uporabljeno tehnologijo vse strani v konfliktih vezane na mednarodno humanitarno pravo. “Opisana pravila morajo uporabljati vse strani,” trdi.
Po besedah Kovalčevske bo težko urediti uporabo umetne inteligence na mednarodni ravni. “Države so razdeljene na tiste, ki pravijo, da bi bilo treba to tehnologijo prepovedati, tiste, ki pravijo, da bi bilo treba razviti splošna pravila, in Kitajsko, ki meni, da umetne inteligence ni mogoče uporabiti v vojni, vendar je takšne rešitve mogoče proizvesti in prodati,” pravi odvetnica in dodaja, da bi bilo po njenem mnenju najpomembnejše uvesti pravilo, da vsako odločitev AI nadzoruje človek.
Prevedeno iz poljščine
Besedilo je bilo objavljeno v okviru projekta sodelovanja med nami in poljsko revijo Newa Europa Wschodnia.
Prejšnji članki projekta: Ukrajina – EU: vroč zaključek pogajanj, Ukrajina – beg pred izbiro, vzhodno partnerstvo po arabskih revolucijah, v izkrivljenem ogledalu, preziran Lukašenko gre v vojno s Putinom, Med Moskvo in Kijevom, klobasa je klobasa, Moj Lviv, Putin v galejah, Polotok strahu, Ukrajina izumljena na vzhodu, Novo staro odkritje, In naj bi bilo tako lepo, novoletno darilo za Rusijo, Če bi razpravljali o zgodovini, je zastoj v Minsku
Izvirni naslov članka: Sztuczna inteligencja walczy w Ukrainie
