Ve\u0161ta\u010dka inteligencija poma\u017ee u identifikovanju ruskih vojnika, potrazi za metama ili presretanju neprijateljskih komunikacija. To je tako\u0111e sastavni deo propagandnih i dezinformacionih kampanja. Ova vi\u0161enamenski alat izaziva mnogo kontroverzi u vezi sa njegovom upotrebom u ratnim vremenima. Posebno, upotreba AI u ratu postavlja mnoga pitanja o me\u0111unarodnom humanitarnom pravu tokom oru\u017eanih sukoba.<\/p>\n
„U jednoj od ukrajinskih bolnica prona\u0111en je \u010dovek koji je tvrdio da je na\u0161 vojnik. Prema njegovim re\u010dima, on je patio od \u0161oka izazvanog bomba\u0161kim napadom. Rekao je da je do\u017eiveo traumu i da je sve zaboravio. Doktor nam je poslao fotografiju, i uspeli smo da ga identifikujemo za samo nekoliko minuta. Na\u0161li smo njegov profil na dru\u0161tvenoj mre\u017ei i saznali da je Rus. Naravno, smatran je odgovornim“, hvali se Mikailo Fedorov, ukrajinski ministar za digitalnu transformaciju, na sajtu ameri\u010dke kompanije Clearview AI. Od po\u010detka ruske agresije tra\u017ei na\u010dine da koristi moderne tehnologije u slu\u017ebi svoje zemlje. O\u010dajni\u010dki tra\u017ee\u0107i podr\u0161ku, Ukrajina je postala teren za testiranje digitalnih re\u0161enja. Naro\u010dito, proizvodi koji su kontroverzni u mirnijim delovima sveta ovde imaju svoje kr\u0161tenje vatrom.<\/p>\n
\u017delimo da obavestimo majke da su izgubile sinove<\/strong><\/p>\n Sam Clearview AI je pomogao da se utvrdi identitet vojnika o kome je Fedorov govorio. Njen alat za prepoznavanje lica ima impresivne mogu\u0107nosti \u2013 sve \u0161to treba da uradite je da otpremite fotografiju u aplikaciju, a zahvaljuju\u0107i naprednim algoritmima, ona \u0107e je uskladiti sa jednom od 10 milijardi slika u bazi podataka. Da bi ga kreirala, kompanija je, uz pomo\u0107 specijalnih kompjuterskih programa, automatski skidala fotografije sa servisa: sa ameri\u010dkog Fejsbuka ili Instagrama, kao i sa ruskih VKontakte i Odnoklasniki. Kako se kompanija hvali, jedna od pet slika u svom inventaru dolazi sa poslednje dve dru\u0161tvene mre\u017ee.<\/p>\n Tehnologija koju je obezbedio Clearview AI brzo je postala jedan od najva\u017enijih digitalnih alata u Ukrajini. Danas ga koristi sedam razli\u010ditih agencija, uklju\u010duju\u0107i vojsku i grani\u010dare, a vi\u0161e od 900 korisnika ima pristup bazi podataka. Ukupno je u sistemu ve\u0107 dovr\u0161eno 125.000 upita pretrage. Prema navodima ukrajinskih vlasti, 7.500 osumnji\u010denih kriminalaca identifikovano je uz pomo\u0107 ove tehnologije, a 125 ruskih vojnika je optu\u017eeno. Clearview AI je pomogao da se porodice ponovo ujedine, prona\u0111u nestale osobe, otkriju dezinformacije, poja\u010daju bezbednost na kontrolnim punktovima i razotkriju \u0161pijune. Tako\u0111e je postala osnova jedne od najneverovatnijih operacija u informacionom ratovanju.<\/p>\n Zahvaljuju\u0107i algoritmima ve\u0161ta\u010dke inteligencije Clearview AI<\/em> mo\u017ee \u010dak i da prepozna lica sa zna\u010dajnim povredama. Tako su Ukrajinci po\u010deli da ga koriste za identifikaciju tela ubijenih ruskih vojnika, a zatim da kontaktiraju svoje porodice. „Mi razmno\u045bavali informacije preko dru\u0459tvenih mre\u017ea. Ovo je ljubaznost prema majkama, \u017eelimo bar da obavestimo porodicu da su izgubile sinove, a onda da im pru\u017eimo priliku da do\u0111u i pokupe svoja tela“, prokomentarisao je Fedorov. Drugi \u010dlanovi njegovog tima tvrdili su da je to moglo da uti\u010de na spor napredak mobilizacije u Rusiji.<\/p>\n Svi to rade <\/strong><\/p>\n Kako Clearview AI<\/em> zavr\u0161io u Ukrajini? Sama kompanija je ponudila svoje usluge. Po\u010detkom marta 2022. godine, njen generalni direktor Goan Ton-Tat ponudio je ukrajinskoj vladi ne samo slobodan pristup tehnologiji, ve\u0107 i obuku o tome kako da je koristi. „Moje srce je sa Ukrajincima, nadam se da na\u0161a tehnologija mo\u017ee da se koristi za spre\u010davanje povre\u0111ivanja, spasavanje nevinih ljudi i za\u0161titu \u017eivota“, uverava on.<\/p>\n Iako Ukrajinci, prema zvani\u010dnim informacijama, nisu platili napredni sistem, u stvarnosti, ni\u0161ta nije besplatno. Na kraju sve, ovaj slu\u0438aj je postao neka vrsta. CSR<\/em>-rat (korporativna dru\u0161tvena odgovornost<\/em> \u2013 korporativna dru\u0161tvena odgovornost), ili paket sporazum u kome jedna strana dobija pomo\u0107 od kompanije, a sama kompanija dobija pobolj\u0161anje svog imid\u017ea. Uzgred, sa sajta kompanije su uzeti svi citati ukrajinskih zvani\u010dnika koji su kori\u0161\u0107eni u ovom \u010dlanku. Za Clearview AI<\/em> Ovo je bilo neophodno jer kada Ton-That<\/em> Ona je ponudila svoju pomo\u0107 ukrajinskoj vladi i bila je pod istragom evropskih i ameri\u010dkih regulatornih tela, koja su je optu\u017eila za grubo kr\u0161enje privatnosti korisnika interneta. Podaci o njima prikupljeni su kr\u0161enjem pravila i propisa na dru\u0161tvenim mre\u017eama. Ton-That<\/em> tvrdio je u medijima da „svi to rade“.<\/p>\n Ubrzo nakon predloga, koji Ton-That<\/em> koju je napravila ukrajinska vlada, italijanska uprava za za\u0161titu podataka nametnuta Clearview AI<\/em> kazna od 20 miliona EUR. Ovo je najve\u0107a mogu\u0107a kazna za GDPR<\/em> (Op\u0161ta uredba o za\u0161titi podataka<\/em> \u2013 Op\u0161ta uredba o za\u0161titi podataka). Britansko regulatorno telo je u maju dodalo jo\u0161 8 miliona, a slede Gr\u010dka i Francuska \u2013 po 20 miliona. To je mnogo za kompaniju, pi\u0161e portal industrije CB Uvidi<\/em>, ukupna vrednost izdatih akcija kompanije bila je 38 miliona dolara.<\/p>\n I to nije sve \u2013 tako\u0111e joj je nare\u0111eno da ukloni fotografije stanovnika tih zemalja iz svoje baze podataka i zabranjeno joj je da ih prikuplja u budu\u0107nosti. U Ilinoisu, kompanije Clearview AI<\/em> zabranio prodaju svojih proizvoda \u2013 i usluga i preduze\u0107a \u2013 u narednih pet godina.<\/p>\n \u0160ta vidi\u0161 unutra Palantir<\/em><\/strong><\/p>\n Jo\u0161 jedna tehnolo\u0161ka kompanija koja pru\u017ea usluge ukrajinskoj vojsci je Palantir<\/em>. Kompanija, \u010dije se ime odnosi na magi\u010dnu „kristalnu kuglu“ iz „Gospodara prstenova“ D\u017eej Ar Tolkina, bavi se analitikom podataka. Me\u0111u njenim klijentima su Ministarstvo odbrane SAD, CIA i FBI.<\/p>\n U Ukrajini Palantir <\/em>Ona postaje od kriti\u010dnog zna\u010daja za re\u0161avanje sve ve\u0107eg broja zadataka \u2013 od pru\u017eanja humanitarne pomo\u0107i do sprovo\u0111enja neprijateljstava. Koji su neki primeri? Ubrzo posle ruske potpune invazije na Ukrajinu, postojala je hitna potreba da se prona\u0111u domovi za one koji be\u017ee od rata. Velika Britanija se okrenula ameri\u010dkoj kompaniji za pomo\u0107. Grade\u0107i na svom softveru, lansirala je Domovi za Ukrajinu<\/em> \u2013 zahtev za re\u0161avanje bezbednog raseljavanja izbeglica. U roku od 24 sata od njegovog pokretanja, program je dobio vi\u0161e od 120.000 ponuda za stanovanje.<\/p>\n Palantir <\/em>On tako\u0111e poma\u017ee u dokumentovanju ruskih ratnih zlo\u010dina \u2013 obezbedio je glavnom tu\u017eiocu zemlje softver koji povezuje navodne zlo\u010dine sa ruskim vojnim jedinicama. U budu\u0107nosti \u0107e re\u0161enja koja je razvio biti klju\u010dna za obnovu zemlje. Za o\u010dekivati je da \u0107e, na primer, analizom podataka o raspodeli u\u010denika pomo\u0107i u utvr\u0111ivanju lokacije novih \u0161kola. Investitori ne sumnjaju da \u0107e to biti profitabilan biznis za kompaniju: Partnerstvo je upravo najavljeno, vrednost akcija Palantir <\/em>sko\u010dio za vi\u0161e od 10 odsto.<\/p>\n I tu se ne zaustavlja: u februaru 2023, CEO Palantir <\/em>Aleks Karp je priznao da Ukrajinci koriste njegovu tehnologiju u \u010disto vojne svrhe \u2013 oni sa njom prate ciljeve. Sistem koji Ukrajinci koriste za ovo se zove MetaConstellation<\/em>. Zasnovan je na podacima prikupljenim od komercijalnih satelita, termalnih senzora ili izvi\u0111a\u010dkih bespilotnih letelica, kao i tradicionalnijih izvora, odnosno jednostavno \u0161pijuna. Koliko je efikasna ova tehnologija? Kako je general Ri\u010dard Belons, koji je komandovao britanskim jedinicama u Iraku i Avganistanu, priznao u intervjuu Tajmsu, ako bi pre dve decenije vojna komanda mogla da prati 10 ciljeva dnevno, danas ista jedinica mo\u017ee da prati 300.<\/p>\n Aleks Karp sve vi\u0161e poredi posedovanje naprednih sistema ve\u0161ta\u010dke inteligencije sa nuklearnim oru\u017ejem. I nije jedini. U februaru ove godine holandska vlada je sazvala prvi me\u0111unarodni samit o odgovornoj upotrebi ve\u0161ta\u010dke inteligencije u vojnoj sferi. Na inauguraciji sa istom izjavom kao i CEO Palantir<\/em>, govorio je potpredsednik vlade i ministar spoljnih poslova Holandije Wopke Hoekstra. Samitu je prisustvovalo 50 zemalja, uklju\u010duju\u0107i Kinu (Rusija nije pozvana). U\u010desnici su potpisali deklaraciju u kojoj su obe\u0107ali da \u0107e zajedno raditi na obezbe\u0111ivanju adekvatnih mera za\u0161tite i ljudskog nadzora nad kori\u0161\u0107enjem sistema zasnovanih na AI.<\/p>\n Poljska tako\u0111e razgovara o upotrebi AI u vojsci. U aprilu ove godine, predsednik Andrzej Duda potpisao je dekret o glavnim pravcima razvoja Oru\u017eanih snaga Poljske za period 2025-2039. Me\u0111u sistemima kojima vojska treba da bude opremljena, zajedno sa sistemima protivraketne odbrane, nalaze se II i analiti\u010dki programi velikih podataka.<\/em><\/p>\n Zelenski „kapitulira“, Putin „proglasio“ vanredno stanje<\/strong><\/p>\n Me\u0111utim, AI borbe u Ukrajini nisu samo veliki sistemi koje su razvile specijalizovane kompanije. To su tako\u0111e gerilci informacija koji koriste generativne AI alate, kao \u0161to su ChatGPT<\/em>propagiranje munjevitom brzinom. Posle novembra 2022. OpenAI<\/em> u\u010dinio ga univerzalno dostupnimUkrajina je provela skoro pola godine da bi usluga bila dostupna na svojoj teritoriji (u po\u010detku je bila blokirana, kao u Rusiji i Iranu).<\/p>\n Modeli velikog jezika (LLM \u2013 Modeli velikog jezika)<\/em> su napredni sistemi ve\u0161ta\u010dke inteligencije. Sposobni su da generi\u0161u tekstove iz ogromne koli\u010dine podataka o obuci i mogu se koristiti za razli\u010dite zadatke, kao \u0161to su razumevanje prirodnog jezika, prevo\u0111enje i generisanje sadr\u017eaja. Chatbotovi zasnovani na njima mogu postati mo\u0107no sredstvo u informacionom ratu. Oni \u0107e lako kreirati tekstove na bilo kom jeziku, pa \u010dak i u stilu odre\u0111ene osobe. Oni \u0107e napraviti sajtove. Dokumenti \u0107e biti analizirani. Naravno, oni tako\u0111e imaju tamnu stranu: podatke koje unosimo u njih prikupljaju proizvo\u0111a\u010di i poma\u017eu u obuci slede\u0107e generacije algoritama. Zato mnoge kompanije \u2013 na primer, Samsung <\/em>\u2013 zabraniti njihovu upotrebu: rizik od otkrivanja kompanijih tajni je prevelik. Da ne spominjem vojne tajne.<\/p>\n Upotreba ve\u0161ta\u010dke inteligencije u propagandi je delo obe strane sukoba. Algoritmi poma\u017eu u stvaranju, na primer, video zapisa, takozvanih dubokih la\u017enjaka, koji prikazuju politi\u010dare. Jo\u0161 u martu 2022. godine, Rusi su postavili video na internet u kojem ukrajinski predsednik Volodymyr Zelensky poziva svoje sunarodnike da polo\u017ee oru\u017eje. Brzo je utvr\u0111eno da je la\u017ean i uklonjen sa platformi kao \u0161to su YouTube <\/em>I Facebook<\/em>. Me\u0111utim, po\u010detkom juna ove godine na ruskoj televiziji pojavio se video u kojem Vladimir Putin progla\u0161ava vanredno stanje i upozorava da \u0107e narediti op\u0161tu mobilizaciju. Ovo je tako\u0111e izmi\u0161ljeno. Me\u0111utim, autori ove akcije nikada nisu prona\u0111eni.<\/p>\n Iako \u0161irenje dezinformacija nije ni\u0161ta novo, AI nudi mogu\u0107nosti bez presedana da se takve kampanje razmere. Naro\u010dito kada se kombinuje sa dosegom koji nude platforme dru\u0161tvenih medija. Samo jedan Telegram<\/em>, gde se, zahvaljuju\u0107i liberalnoj politici modekcije sadr\u017eaja, informacije o ratu raspli\u0107e, ima milijardu korisnika. U takvom okru\u017eenju, lako je staviti u opticaj la\u017ei nastale uz pomo\u0107 ve\u0161ta\u010dke inteligencije.<\/p>\n Kad dron zbuni mete<\/strong><\/p>\n Upotreba algoritama u dono\u0161enju vojnih odluka je izuzetno kontroverzna. To je zato \u0161to su AI sistemi \u2013 \u010dak i u civilnim aplikacijama \u2013 obavijeni misterijom. Iako su op\u0161ti principi njihovog rada poznati, te\u0161ko je \u010dak i samim stvaraocima da u\u0111u u trag za\u0161to donose odre\u0111ene odluke. Obja\u0161njenje algoritama je i dalje interesantno za istra\u017eiva\u010de. Ove godine, profesor Pjotr Sankovski sa Univerziteta u Var\u0161avi dobio je pomo\u0107 Evropskog istra\u017eiva\u010dkog saveta za sprovo\u0111enje takve analize. Po njegovom mi\u0161ljenju, ako ljudi ne znaju za\u0161to ra\u010dunar nudi odre\u0111ena re\u0161enja, to ne\u0107e zadobiti njihovo poverenje.<\/p>\n „U vojnim poslovima to je tako\u0111e va\u017eno. Ve\u0161ta\u010dka inteligencija se ovde mo\u017ee koristiti na dva na\u010dina: da sama podr\u017ei ljudske odluke ili kao entitet dono\u0161enja odluka. Slu\u010daj prve upotrebe je mnogo manje kontroverzan. Ve\u0161ta\u010dka inteligencija se godinama koristi na ovaj na\u010din \u2013 obra\u0111uje satelitske podatke, podatke o inteligenciji i slike sa kamera. Stvarni problemi po\u010de\u0107e ako vojske odlu\u010de da delegira dono\u0161enje odluka algoritmima“, ka\u017ee dr Kaja Koval\u010devska, advokat na Univerzitetu u Vroclavu i autor publikacije „Ve\u0161ta\u010dka inteligencija u ratu. Osvrt na Me\u0111unarodno humanitarno pravo oru\u017eanih sukoba“.<\/p>\n \u0160ta ovo zna\u010di? Na primer, upotreba bespilotnih letelica koje tra\u017ee, a zatim same uni\u0161tavaju metu. To je to, ubili su osobu. „Ako vojnik donese pogre\u0161nu odluku, mo\u017ee da odgovara sudu. Njen komandant tako\u0111e mo\u017ee biti krivi\u010dno gonjen. A \u0161ta \u0107e se desiti ako ure\u0111aj napravi gre\u0161ku? Dr\u017eava koja ga je koristila mora biti odgovorna. Ali ko li\u010dno \u2013 kupac, proizvo\u0111a\u010d, ili, mo\u017eda, programer koji je kreirao nesavr\u0161en algoritam?“ \u2013 Koval\u010devska misli naglas. Me\u0111utim, ona dodaje da su, bez obzira na tehnologiju koja se koristi, sve strane u sukobima vezane za me\u0111unarodno humanitarno pravo. „Pravila koja su tamo opisana moraju da primenjuju sve strane“, tvrdi ona.<\/p>\n Prema re\u010dima gospo\u0111e Koval\u010devske, bi\u0107e te\u0161ko regulisati upotrebu ve\u0161ta\u010dke inteligencije na me\u0111unarodnom nivou. „Zemlje su podeljene na one koji ka\u017eu da tu tehnologiju treba zabraniti, one koje ka\u017eu da treba razvijati op\u0161ta pravila, i Kinu, \u010dije je mi\u0161ljenje da AI ne mo\u017ee da se koristi u ratu, ali takva re\u0161enja mogu da se proizvedu i prodaju“, ka\u017ee advokat i dodaje da bi, prema njenom mi\u0161ljenju, najva\u017enije bilo da se uvede pravilo da svaku odluku AI kontroli\u0161e \u010dovek.<\/p>\n<\/p>\n Prevedeno sa poljskog<\/em><\/p>\n Tekst je objavljen u sklopu projekta saradnje izme\u0111u nas i poljskog \u010dasopisa Newa Europa Wschodnia<\/a>.<\/em><\/p>\n Prethodni \u010dlanakProjektno ogledalo: Ukrajina \u2013 EU: Vru\u0107a zavr\u0161nica pregovora, Ukrajina \u2013 Be\u017eanje od izbora, Isto\u010dno partnerstvo posle arapskih revolucija, u iskrivljenom ogledalu, prezreno, Luka\u0161enka ide u rat sa Putinom, Izme\u0111u Moskve i Kijeva, Kobasica je kobasica, Moj Lviv, Putin u galijama, Poluostrvo straha, Ukrajina izmi\u0161ljena na Istoku, Novo otkri\u0107e Da popri\u010damo o istoriji, zastoju u Minsku<\/em><\/p>\n