Umetna inteligenca pomaga identificirati ruske vojake, iskati cilje ali prestrezati sovra\u017ene komunikacije. Je tudi sestavni del propagandnih in dezinformacijskih kampanj. To ve\u010dnamensko orodje povzro\u010da veliko polemik glede njegove uporabe v vojnem \u010dasu. Zlasti uporaba umetne inteligence v vojni spro\u017ea \u0161tevilna vpra\u0161anja o mednarodnem humanitarnem pravu med oboro\u017eenimi spopadi.<\/p>\n
“V eni od ukrajinskih bolni\u0161nic so na\u0161li mo\u0161kega, ki je trdil, da je na\u0161 vojak. Po njegovem mnenju je trpel zaradi \u0161oka, ki ga je povzro\u010dilo bombardiranje. Rekel je, da je do\u017eivel travmo in pozabil vse. Zdravnik nam je poslal fotografijo in v samo nekaj minutah smo ga lahko identificirali. Njegov profil smo na\u0161li na dru\u017ebenem omre\u017eju in ugotovili, da je Rus. Seveda je bil odgovoren,” se pona\u0161a z ukrajinskim ministrom za digitalno preobrazbo Mykhailo Fedorov na spletni strani ameri\u0161kega podjetja Clearview AI. Od za\u010detka ruske agresije i\u0161\u010de na\u010dine za uporabo sodobnih tehnologij v slu\u017ebi svoje dr\u017eave. Ukrajina, obupana za podporo, je postala poligon za preizku\u0161anje digitalnih re\u0161itev. Zlasti izdelki, ki so sporni v ti\u0161jih delih sveta, imajo tukaj svoj ognjeni krst.<\/p>\n
Materam \u017eelimo sporo\u010diti, da so izgubile sinove<\/strong><\/p>\n Clearview AI je sam pomagal ugotoviti identiteto vojaka Fedorova, o katerem je govoril. Njegovo orodje za prepoznavanje obrazov ima impresivne zmogljivosti – vse, kar morate storiti, je, da nalo\u017eite fotografijo v aplikacijo, zahvaljujo\u010d naprednim algoritmom pa jo bo ujemala z eno od 10 milijard slik v bazi podatkov. Da bi ga ustvarili, je podjetje s pomo\u010djo posebnih ra\u010dunalni\u0161kih programov samodejno preneslo fotografije iz storitev: iz ameri\u0161kega Facebooka ali Instagrama, pa tudi iz ruskih VKontakte in Odnoklassnikov. Kot se podjetje hvali, vsaka peta slika v svojem inventarju prihaja iz zadnjih dveh socialnih omre\u017eij.<\/p>\n Tehnologija, ki jo ponuja Clearview AI, je hitro postala eno najpomembnej\u0161ih digitalnih orodij v Ukrajini. Danes ga uporablja sedem razli\u010dnih agencij, vklju\u010dno z vojsko in mejno stra\u017eo, dostop do podatkovne zbirke pa ima ve\u010d kot 900 uporabnikov. Skupaj je bilo v sistemu \u017ee zaklju\u010denih 125 tiso\u010d iskalnih poizvedb. Po podatkih ukrajinskih oblasti je bilo s pomo\u010djo te tehnologije identificiranih 7.500 osumljencev kaznivih dejanj, obto\u017eenih pa je bilo 125 ruskih vojakov. Clearview AI je pomagal zdru\u017eiti dru\u017eine, najti pogre\u0161ane osebe, odkriti dezinformacije, okrepiti varnost na kontrolnih to\u010dkah in razkriti vohune. Postala je tudi osnova ene najbolj neverjetnih operacij v informacijskem vojskovanju.<\/p>\n Zahvaljujo\u010d algoritmom umetne inteligence Clearview AI<\/em> lahko celo prepozna obraze s pomembnimi po\u0161kodbami. Tako so ga Ukrajinci za\u010deli uporabljati za identifikacijo trupel ubitih ruskih vojakov in nato stik z njihovimi dru\u017einami. “Informacije raz\u0161irjamo prek dru\u017ebenih omre\u017eij. To je vljudnost do mater, \u017eelimo vsaj obvestiti dru\u017eino, da so izgubili svoje sinove, in jim nato dati prilo\u017enost, da pridejo in poberejo svoja telesa,” je komentiral Fedorov. Drugi \u010dlani njegove ekipe so trdili, da bi to lahko vplivalo na po\u010dasen napredek mobilizacije v Rusiji.<\/p>\n Vsi to po\u010dnejo <\/strong><\/p>\n Kako Clearview AI<\/em> kon\u010dal v Ukrajini? Podjetje je samo ponudilo svoje storitve. V za\u010detku marca 2022 je njegov izvr\u0161ni direktor Goan Ton-Tat, ukrajinski vladi ponudil ne le prost dostop do tehnologije, temve\u010d tudi usposabljanje o tem, kako jo uporabljati. “Moje srce je z Ukrajinci, upam, da se bo na\u0161a tehnologija lahko uporabila za prepre\u010devanje \u0161kode, re\u0161evanje nedol\u017enih ljudi in za\u0161\u010dito \u017eivljenj,” je zagotovil.<\/p>\n \u010ceprav Ukrajinci, po uradnih informacijah, niso pla\u010dali za napredni sistem, v resnici ni\u010d ni brezpla\u010dno. Navsezadnje je ta primer postal nekak\u0161en DOP<\/em>-vojna (Dru\u017ebena odgovornost podjetij<\/em> \u2013 dru\u017ebena odgovornost gospodarskih dru\u017eb), tj. paketna pogodba, v kateri ena stranka prejme pomo\u010d podjetja, podjetje pa samo izbolj\u0161a svojo podobo. Mimogrede, s spletne strani podjetja so vzeti vsi citati ukrajinskih uradnikov, uporabljeni v tem \u010dlanku. Za Clearview AI<\/em> To je bilo potrebno, ker, ko Ton-to<\/em> Ponudila je pomo\u010d ukrajinski vladi, preiskovali pa so jo evropski in ameri\u0161ki regulatorji, ki so jo obto\u017eili hudih kr\u0161itev zasebnosti uporabnikov interneta. Podatki o njih so bili zbrani v nasprotju s pravili in predpisi o socialnih omre\u017ejih. Ton-to<\/em> V medijih so trdili, da “to po\u010dnejo vsi”.<\/p>\n Kmalu po predlogu, ki Ton-to<\/em> italijanski organ za varstvo podatkov, ki ga je vlo\u017eila ukrajinska vlada, je nalo\u017eil Clearview AI<\/em> globo v vi\u0161ini 20 milijonov EUR. To je najvi\u0161ja mo\u017ena predvidena kazen GDPR<\/em> (Splo\u0161na uredba o varstvu podatkov<\/em> \u2013 Splo\u0161na uredba o varstvu podatkov). Maja je britanski regulator dodal \u0161e dodatnih 8 milijonov, sledili sta Gr\u010dija in Francija – po 20 milijonov. To je za podjetje veliko, poro\u010da industrijski portal CB vpogledi<\/em>, je bila skupna vrednost izdanih delnic dru\u017ebe 38 milijonov dolarjev.<\/p>\n In to \u0161e ni vse \u2013 ukazano ji je bilo tudi, da iz svoje baze podatkov odstrani fotografije prebivalcev teh dr\u017eav in ji v prihodnosti prepove njihovo zbiranje. V Illinoisu, podjetja Clearview AI<\/em> prepovedala prodajo svojih izdelkov \u2013 tako storitev kot podjetij \u2013 za naslednjih pet let.<\/p>\n Kaj vidite v Palantir<\/em><\/strong><\/p>\n Drugo tehnolo\u0161ko podjetje, ki opravlja storitve ukrajinski vojski, je Palantir<\/em>. Podjetje, katerega ime se nana\u0161a na \u010darobno “kristalno kroglo” iz Gospodarja prstanov J.R.R. Tolkiena, se ukvarja z analizo podatkov. Njene stranke so ameri\u0161ko ministrstvo za obrambo, CIA in FBI.<\/p>\n V Ukrajini Palantir <\/em>Postaja klju\u010dnega pomena za re\u0161evanje vse ve\u010djega \u0161tevila nalog \u2013 od zagotavljanja humanitarne pomo\u010di do izvajanja sovra\u017enosti. Kateri so nekateri primeri? Kmalu po ruski invaziji na Ukrajino je bilo nujno najti dom za tiste, ki so be\u017eali pred vojno. Velika Britanija se je za pomo\u010d obrnila na ameri\u0161ko podjetje. Na podlagi svoje programske opreme je lansirala Domovi za Ukrajino<\/em> \u2013 pro\u0161njo za poravnavo varne ponovne naselitve beguncev. V 24 urah po uvedbi je program prejel ve\u010d kot 120.000 stanovanjskih ponudb.<\/p>\n Palantir <\/em>Pomaga tudi pri dokumentiranju ruskih vojnih zlo\u010dinov \u2013 dr\u017eavnemu to\u017eilcu je priskrbel programsko opremo, ki domnevne zlo\u010dine povezuje z ruskimi voja\u0161kimi enotami. V prihodnosti bodo re\u0161itve, ki jih je razvil, klju\u010dne za obnovo dr\u017eave. Pri\u010dakuje se, da bodo na primer z analizo podatkov o porazdelitvi u\u010dencev pomagali dolo\u010diti lokacijo novih \u0161ol. Vlagatelji ne dvomijo, da bo to za podjetje donosen posel: partnerstvo je bilo pravkar napovedano, vrednost delnic Palantir <\/em>posko\u010dil za ve\u010d kot 10%.<\/p>\n In tu se ne ustavi: februarja 2023 je izvr\u0161ni direktor Palantir <\/em>Alex Karp je priznal, da Ukrajinci uporabljajo njegovo tehnologijo izklju\u010dno v voja\u0161ke namene – z njo sledijo tar\u010dam. Sistem, ki ga Ukrajinci uporabljajo za to, se imenuje Metakonstelacija<\/em>. Temelji na podatkih, zbranih iz komercialnih satelitov, termi\u010dnih senzorjev ali izvidni\u0161kih brezpilotnih letal, pa tudi bolj tradicionalnih virov, tj. preprosto vohunov. Kako u\u010dinkovita je ta tehnologija? General Richard Barrons, ki je poveljeval britanskim enotam v Iraku in Afganistanu, je v intervjuju za The Times priznal, da \u010de bi pred dvema desetletjema voja\u0161ko poveljstvo lahko sledilo 10 ciljem na dan, lahko danes ista enota sledi 300.<\/p>\n Alex Karp vse bolj primerja posedovanje naprednih sistemov umetne inteligence z jedrskim oro\u017ejem. In on ni edini. Februarja letos je nizozemska vlada sklicala prvi mednarodni vrh o odgovorni uporabi umetne inteligence na voja\u0161kem podro\u010dju. Na svoji otvoritvi z enako izjavo kot generalni direktor Palantir<\/em>, je govoril podpredsednik vlade in minister za zunanje zadeve Nizozemske Wopke Hoekstra. Vrha se je udele\u017eilo 50 dr\u017eav, vklju\u010dno s Kitajsko (Rusija ni bila povabljena). Udele\u017eenci so podpisali izjavo, v kateri so se zavezali, da bodo sodelovali pri zagotavljanju ustreznih za\u0161\u010ditnih ukrepov in \u010dlove\u0161kega nadzora nad uporabo sistemov, ki temeljijo na umetni inteligenci.<\/p>\n Poljska razpravlja tudi o uporabi umetne inteligence v vojski. Aprila letos je predsednik Andrzej Duda podpisal odlok o glavnih usmeritvah razvoja poljskih oboro\u017eenih sil za obdobje 2025\u20132039. Med sistemi, s katerimi bi morala biti vojska opremljena, skupaj s sistemi zra\u010dne obrambe, so AI in analiti\u010dni programi velepodatki.<\/em><\/p>\n Zelenski “kapitulira”, Putin “razglasi” vojno pravo<\/strong><\/p>\n Vendar pa boj proti AI v Ukrajini niso le veliki sistemi, ki so jih razvila specializirana podjetja. So tudi informacijski gverilci, ki uporabljajo generativna orodja umetne inteligence, kot so ChatGPT<\/em>\u0161irjenje s svetlobno hitrostjo. Po novembru 2022 OpenAI<\/em> omogo\u010dil univerzalno razpolo\u017eljivostUkrajina je porabila skoraj pol leta, da bi bila storitev na voljo na svojem ozemlju (sprva je bila blokirana, kot v Rusiji in Iranu).<\/p>\n Veliki jezikovni modeli (LLM – Veliki jezikovni modeli)<\/em> so napredni sistemi umetne inteligence. Sposobni so ustvarjati besedila iz ogromnih koli\u010din podatkov o usposabljanju in jih je mogo\u010de uporabiti za razli\u010dne naloge, kot so razumevanje naravnega jezika, prevajanje in ustvarjanje vsebin. Chatboti, ki temeljijo na njih, lahko postanejo mo\u010dno orodje v informacijski vojni. Z lahkoto bodo ustvarili besedila v katerem koli jeziku in celo v slogu dolo\u010dene osebe. Ustvarili bodo spletne strani. Dokumenti bodo analizirani. Seveda imajo tudi temno plat: podatke, ki jih vnesemo, zbirajo proizvajalci in pomagajo pri usposabljanju naslednje generacije algoritmov. Zato je veliko podjetij \u2013 na primer, Samsung <\/em>\u2013 prepovedati njihovo uporabo: tveganje za razkritje skrivnosti podjetja je preveliko. Da ne omenjam voja\u0161kih skrivnosti.<\/p>\n Uporaba umetne inteligence v propagandi je delo obeh strani konflikta. Algoritmi pomagajo ustvarjati, na primer, videoposnetke, tako imenovane globoke ponaredke, ki prikazujejo politike. Marca 2022 so Rusi na internetu objavili video, v katerem ukrajinski predsednik Volodimir Zelenski poziva svoje rojake, naj odlo\u017eijo oro\u017eje. Hitro je bilo ugotovljeno, da je napa\u010den in odstranjen s platform, kot so YouTube <\/em>in Velika Britanija<\/em>. Vendar pa se je v za\u010detku junija letos na ruski televiziji pojavil video, v katerem Vladimir Putin razglasi vojno stanje in opozarja, da bo naro\u010dil splo\u0161no mobilizacijo. To je bilo tudi izdelano. Vendar avtorjev te akcije nikoli ni bilo mogo\u010de najti.<\/p>\n \u010ceprav \u0161irjenje napa\u010dnih informacij ni ni\u010d novega, umetna inteligenca ponuja izjemne prilo\u017enosti za raz\u0161iritev tak\u0161nih kampanj. \u0160e posebej v kombinaciji z dosegom, ki ga ponujajo platforme dru\u017ebenih medijev. Samo ena Telegramom<\/em>, kjer se zaradi liberalne politike moderiranja vsebin \u0161irijo informacije o vojni, ima milijardo uporabnikov. V tak\u0161nem okolju je enostavno dati v obtok la\u017ei, ustvarjene s pomo\u010djo umetne inteligence.<\/p>\n Ko dron zmede cilje<\/strong><\/p>\n Uporaba algoritmov pri voja\u0161kem odlo\u010danju je izjemno sporna. To je zato, ker so sistemi umetne inteligence \u2013 tudi v civilnih aplikacijah \u2013 zaviti v skrivnost. \u010ceprav so splo\u0161na na\u010dela njihovega dela znana, je celo ustvarjalcem te\u017eko izslediti, zakaj sprejemajo dolo\u010dene odlo\u010ditve. Razlo\u017eljivost algoritmov je \u0161e vedno zanimiva za raziskovalce. Letos je profesor Piotr Sankowski z Univerze v Var\u0161avi prejel nepovratna sredstva Evropskega raziskovalnega sveta za izvedbo tak\u0161ne analize. Po njegovem mnenju, \u010de ljudje ne vedo, zakaj ra\u010dunalnik ponuja dolo\u010dene re\u0161itve, ne bo pridobil njihovega zaupanja.<\/p>\n “V voja\u0161kih zadevah je to pomembno tudi. Umetna inteligenca se lahko tukaj uporablja na dva na\u010dina: za podporo \u010dlove\u0161kim odlo\u010ditvam ali kot subjekt odlo\u010danja sam. Prvi primer uporabe je veliko manj sporen. Umetna inteligenca se na ta na\u010din uporablja \u017ee leta \u2013 obdeluje satelitske podatke, inteligen\u010dne podatke in slike iz kamer. Pravi problemi se bodo za\u010deli, \u010de se bodo vojske odlo\u010dile, da bodo odlo\u010danje prenesle na algoritme,” pravi dr. Kaja Kowalczewska, odvetnica na Univerzi v Wroclawu in avtorica publikacije “Umetna inteligenca v vojni. pogled na mednarodno humanitarno pravo oboro\u017eenih spopadov”.<\/p>\n Kaj to pomeni? Na primer, uporaba brezpilotnih letal, ki sami i\u0161\u010dejo in nato uni\u010dijo tar\u010do. To pomeni, da ubijejo osebo. “\u010ce vojak sprejme napa\u010dno odlo\u010ditev, lahko odgovori sodi\u0161\u010du. Njegov poveljnik je lahko tudi kazensko preganjan. In kaj se zgodi, \u010de naprava naredi napako? Dr\u017eava, ki ga je uporabljala, mora biti odgovorna. Toda kdo osebno – kupec, proizvajalec ali morda programer, ki je ustvaril nepopoln algoritem?” – Koval\u010devska misli na glas. Vendar dodaja, da so ne glede na uporabljeno tehnologijo vse strani v konfliktih vezane na mednarodno humanitarno pravo. “Opisana pravila morajo uporabljati vse strani,” trdi.<\/p>\n Po besedah Koval\u010devske bo te\u017eko urediti uporabo umetne inteligence na mednarodni ravni. “Dr\u017eave so razdeljene na tiste, ki pravijo, da bi bilo treba to tehnologijo prepovedati, tiste, ki pravijo, da bi bilo treba razviti splo\u0161na pravila, in Kitajsko, ki meni, da umetne inteligence ni mogo\u010de uporabiti v vojni, vendar je tak\u0161ne re\u0161itve mogo\u010de proizvesti in prodati,” pravi odvetnica in dodaja, da bi bilo po njenem mnenju najpomembnej\u0161e uvesti pravilo, da vsako odlo\u010ditev AI nadzoruje \u010dlovek.<\/p>\n<\/p>\n Prevedeno iz polj\u0161\u010dine<\/em><\/p>\n Besedilo je bilo objavljeno v okviru projekta sodelovanja med nami in poljsko revijo Newa Europa Wschodnia<\/a>.<\/em><\/p>\n Prej\u0161nji \u010dlanki projekta: Ukrajina \u2013 EU: vro\u010d zaklju\u010dek pogajanj, Ukrajina \u2013 beg pred izbiro, vzhodno partnerstvo po arabskih revolucijah, v izkrivljenem ogledalu, preziran Luka\u0161enko gre v vojno s Putinom, Med Moskvo in Kijevom, klobasa je klobasa, Moj Lviv, Putin v galejah, Polotok strahu, Ukrajina izumljena na vzhodu, Novo staro odkritje, In naj bi bilo tako lepo, novoletno darilo za Rusijo, \u010ce bi razpravljali o zgodovini, je zastoj v Minsku<\/em><\/p>\n