Umelá inteligencia pomáha identifikovať ruských vojakov, hľadať ciele alebo zachytávať nepriateľskú komunikáciu. Je tiež neoddeliteľnou súčasťou propagandy a dezinformačných kampaní. Tento viacúčelový nástroj spôsobuje veľa kontroverzií týkajúcich sa jeho použitia vo vojne. Najmä využívanie umelej inteligencie vo vojne vyvoláva mnohé otázky o medzinárodnom humanitárnom práve počas ozbrojených konfliktov.
„V jednej z ukrajinských nemocníc bol nájdený muž, ktorý tvrdil, že je náš vojak. Podľa neho utrpel šok spôsobený bombardovaním. Povedal, že zažil traumu a na všetko zabudol. Lekár nám poslal fotografiu a my sme ho dokázali identifikovať za pár minút. Našli sme jeho profil na sociálnej sieti a zistili sme, že je Rus. Samozrejme, bol braný na zodpovednosť,“ chváli sa ukrajinský minister digitálnej transformácie Mychajlo Fedorov na webovej stránke americkej spoločnosti Clearview AI. Od začiatku ruskej agresie hľadá spôsoby, ako využiť moderné technológie v službách svojej krajiny. Ukrajina, ktorá zúfalo potrebuje podporu, sa stala testovacím miestom pre digitálne riešenia. Najmä výrobky, ktoré sú kontroverzné v tichších častiach sveta, tu majú svoj krst ohňom.
Chceme dať matkám vedieť, že stratili svojich synov
Samotná Clearview AI pomohla zistiť identitu vojaka, o ktorom Fedorov hovoril. Jeho nástroj na rozpoznávanie tváre má pôsobivé schopnosti – všetko, čo musíte urobiť, je nahrať fotografiu do aplikácie a vďaka pokročilým algoritmom ju priradí k jednému z 10 miliárd obrázkov v databáze. Na jeho vytvorenie spoločnosť pomocou špeciálnych počítačových programov automaticky stiahla fotografie zo služieb: z amerického Facebooku alebo Instagramu, ako aj z ruského VKontakte a Odnoklassniki. Ako sa spoločnosť chváli, jeden z piatich obrázkov v jej inventári pochádza z posledných dvoch sociálnych sietí.
Technológia poskytovaná umelou inteligenciou Clearview sa rýchlo stala jedným z najdôležitejších digitálnych nástrojov v Ukrajine. Dnes ho používa sedem rôznych agentúr vrátane armády a pohraničnej stráže a do databázy má prístup viac ako 900 používateľov. Celkovo bolo v systéme dokončených už 125 tisíc vyhľadávacích dopytov. Podľa ukrajinských úradov bolo pomocou tejto technológie identifikovaných 7 500 podozrivých z trestných činov a 125 ruských vojakov bolo obvinených. Clearview AI pomohla zjednotiť rodiny, nájsť nezvestné osoby, odhaliť dezinformácie, posilniť bezpečnosť na kontrolných stanovištiach a odhaliť špiónov. Stala sa tiež základom jednej z najneuveriteľnejších operácií v informačnej vojne.
Vďaka algoritmom umelej inteligencie Umelá inteligencia Clearview dokáže dokonca rozpoznať tváre s vážnymi zraneniami. Ukrajinci ho teda začali používať na identifikáciu tiel zabitých ruských vojakov a potom kontaktovali ich rodiny. „Informácie šírime prostredníctvom sociálnych sietí. Je to zdvorilosť k matkám, chceme aspoň informovať rodinu, že stratili svojich synov, a potom im dať príležitosť prísť a vyzdvihnúť si svoje telá,“ komentoval Fedorov. Ďalší členovia jeho tímu tvrdili, že to mohlo ovplyvniť pomalý postup mobilizácie v Rusku.
Robia to všetci
Ako Umelá inteligencia Clearview skončili ste v Ukrajine? Samotná spoločnosť ponúkla svoje služby. Začiatkom marca 2022 ponúkol jej generálny riaditeľ Goan Ton-Tat ukrajinskej vláde nielen bezplatný prístup k technológii, ale aj školenie o tom, ako ju používať. „Moje srdce je s Ukrajincami, dúfam, že naša technológia môže byť použitá na predchádzanie škodám, na záchranu nevinných ľudí a ochranu životov,“ ubezpečil.
Hoci Ukrajinci podľa oficiálnych informácií neplatili za pokročilý systém, v skutočnosti nič nie je zadarmo. Koniec koncov, tento prípad sa stal akýmsi druhom CSR– vojna (Spoločenská zodpovednosť podnikov – sociálna zodpovednosť podnikov), t. j. balíková dohoda, v rámci ktorej jedna strana dostane pomoc od spoločnosti a samotná spoločnosť získa zlepšenie svojho imidžu. Mimochodom, je to z webovej stránky spoločnosti, že všetky citácie ukrajinských úradníkov použité v tomto článku sú prevzaté. Za Umelá inteligencia Clearview Bolo to potrebné, pretože keď Tona-to Ponúkla svoju pomoc ukrajinskej vláde a bola vyšetrovaná európskymi a americkými regulačnými orgánmi, ktoré ju obvinili z hrubého porušovania súkromia používateľov internetu. Údaje o nich boli zhromaždené v rozpore s pravidlami a predpismi na sociálnych sieťach. Tona-to v médiách tvrdil, že „to robia všetci“.
Krátko po predložení návrhu, ktorý Tona-to vydané ukrajinskou vládou, taliansky orgán na ochranu údajov uložil Umelá inteligencia Clearview pokuta vo výške 20 miliónov EUR. Ide o najvyšší možný trest GDPR (Všeobecné nariadenie o ochrane údajov – všeobecné nariadenie o ochrane údajov). V máji britský regulátor pridal ďalších 8 miliónov, nasledovaný Gréckom a Francúzskom – po 20 miliónov. To je pre spoločnosť veľa, podľa priemyselného portálu CB Insights, celková hodnota vydaných akcií spoločnosti bola 38 miliónov dolárov.
A to nie je všetko – bolo jej tiež nariadené odstrániť fotografie obyvateľov týchto krajín zo svojej databázy a v budúcnosti jej bolo zakázané ich zbierať. V Illinois, spoločnosti Umelá inteligencia Clearview zakázala predaj svojich výrobkov – služieb aj podnikov – na nasledujúcich päť rokov.
Čo vidíte v Palantir
Ďalšou technologickou spoločnosťou, ktorá poskytuje služby ukrajinskej armáde, je Palantir. Spoločnosť, ktorej názov odkazuje na magickú „krištáľovú guľu“ z Pána prsteňov od J.R.R. Tolkiena, sa zaoberá analýzou údajov. Medzi jej klientov patrí Ministerstvo obrany USA, CIA a FBI.
v Ukrajine Palantir Stáva sa kriticky dôležitou pre riešenie čoraz väčšieho počtu úloh – od poskytovania humanitárnej pomoci až po vedenie nepriateľských akcií. Aké sú niektoré príklady? Krátko po totálnej ruskej invázii na Ukrajinu vznikla naliehavá potreba nájsť domovy pre tých, ktorí utekajú pred vojnou. Veľká Británia sa obrátila o pomoc na americkú spoločnosť. Na základe svojho softvéru spustila Domovy pre Ukrajinu – žiadosť o usadenie sa bezpečného presídlenia utečencov. Do 24 hodín od spustenia dostal program viac ako 120 000 ponúk na bývanie.
Palantir Pomáha tiež dokumentovať ruské vojnové zločiny – poskytol generálnemu prokurátorovi krajiny softvér, ktorý spája údajné zločiny s ruskými vojenskými jednotkami. V budúcnosti budú riešenia, ktoré vyvinul, kľúčom k obnove krajiny. Očakáva sa, že napríklad analýzou údajov o distribúcii študentov pomôžu určiť umiestnenie nových škôl. Investori nepochybujú o tom, že to bude pre spoločnosť ziskový obchod: partnerstvo bolo práve oznámené, hodnota akcií Palantir vyskočil o viac ako 10%.
A tým to nekončí: vo februári 2023 generálny riaditeľ Palantir Alex Karp priznal, že Ukrajinci používajú jeho technológiu na čisto vojenské účely – sledujú s ňou ciele. Systém, ktorý na to Ukrajinci používajú, sa nazýva Metakonštelácia. Je založený na údajoch zozbieraných z komerčných satelitov, tepelných senzorov alebo prieskumných dronov, ako aj z tradičnejších zdrojov, tj jednoducho špiónov. Ako efektívna je táto technológia? Ako pripustil generál Richard Barrons, ktorý velil britským jednotkám v Iraku a Afganistane, v rozhovore pre The Times, ak pred dvoma desaťročiami mohlo armádne velenie sledovať 10 cieľov denne, dnes môže rovnaká jednotka sledovať 300.
Alex Karp čoraz viac prirovnáva vlastníctvo pokročilých systémov umelej inteligencie k jadrovým zbraniam. A nie je jediný. Vo februári tohto roku holandská vláda zvolala prvý medzinárodný samit o zodpovednom využívaní umelej inteligencie vo vojenskej sfére. Pri jeho inaugurácii s rovnakým vyhlásením ako generálny riaditeľ Palantirvystúpil podpredseda vlády a minister zahraničných vecí Holandska Wopke Hoekstra. Na samite sa zúčastnilo 50 krajín vrátane Číny (Rusko nebolo pozvané). Účastníci podpísali vyhlásenie, v ktorom sa zaviazali spolupracovať na zabezpečení primeraných záruk a ľudského dohľadu nad používaním systémov založených na umelej inteligencii.
Poľsko tiež diskutuje o využití AI v armáde. V apríli tohto roku prezident Andrzej Duda podpísal dekrét o hlavných smeroch rozvoja poľských ozbrojených síl na roky 2025-2039. Medzi systémy, ktorými by mala byť armáda vybavená, spolu so systémami protivzdušnej obrany, patria programy AI a analýzy veľké dáta.
Zelenskyj „kapituluje“, Putin „vyhlasuje“ stanné právo
AI bojujúce v Ukrajine však nie sú len veľké systémy vyvinuté špecializovanými spoločnosťami. Sú to tiež informační partizáni, ktorí používajú generatívne nástroje AI, ako napríklad ChatGPTšírenie rýchlosťou blesku. Po novembri 2022 OpenAI Všeobecne dostupnéUkrajina strávila takmer pol roka, aby sprístupnila službu na svojom území (najprv bola zablokovaná, ako v Rusku a Iráne).
Veľké jazykové modely (LLM – veľké jazykové modely) sú pokročilé systémy umelej inteligencie. Sú schopné generovať texty z obrovského množstva tréningových údajov a môžu byť použité na rôzne úlohy, ako je porozumenie prirodzeného jazyka, preklad a generovanie obsahu. Chatboty založené na nich sa môžu stať mocným nástrojom v informačnej vojne. Ľahko vytvoria texty v akomkoľvek jazyku a dokonca aj v štýle konkrétnej osoby. Budú vytvárať webové stránky. Dokumenty budú analyzované. Samozrejme, majú aj temnú stránku: údaje, ktoré do nich zadávame, zhromažďujú výrobcovia a pomáhajú trénovať ďalšiu generáciu algoritmov. To je dôvod, prečo mnohé spoločnosti – napríklad, Samsung – zakázať ich používanie: riziko odhalenia firemného tajomstva je príliš vysoké. Nehovoriac o vojenských tajomstvách.
Využívanie umelej inteligencie v propagande je dielom oboch strán konfliktu. Algoritmy pomáhajú vytvárať napríklad videá, takzvané deep fakes, zobrazujúce politikov. Ešte v marci 2022 Rusi zverejnili na internete video, v ktorom ukrajinský prezident Volodymyr Zelenskyj vyzýva svojich krajanov, aby zložili zbrane. Rýchlo sa zistilo, že je falošný a odstránený z platforiem, ako sú YouTube a Francúzsko. Začiatkom júna tohto roku sa však v ruskej televízii objavilo video, v ktorom Vladimír Putin vyhlasuje stanné právo a varuje, že nariadi všeobecnú mobilizáciu. Aj to bolo vymyslené. Autori tejto akcie sa však nikdy nenašli.
Hoci šírenie dezinformácií nie je ničím novým, umelá inteligencia ponúka bezprecedentné príležitosti na rozšírenie takýchto kampaní. Najmä v kombinácii s dosahom, ktorý ponúkajú platformy sociálnych médií. Iba jeden Telegram, kde sa vďaka liberálnej politike moderovania obsahu šíria informácie o vojne, má miliardu používateľov. V takomto prostredí je ľahké uviesť do obehu lži vytvorené pomocou umelej inteligencie.
Keď dron zamieňa ciele
Používanie algoritmov vo vojenskom rozhodovaní je mimoriadne kontroverzné. Je to preto, že systémy umelej inteligencie – dokonca aj v civilných aplikáciách – sú zahalené tajomstvom. Hoci sú známe všeobecné princípy ich práce, je ťažké aj pre samotných tvorcov vystopovať, prečo robia určité rozhodnutia. Vysvetliteľnosť algoritmov je pre výskumníkov stále zaujímavá. Tento rok získal profesor Piotr Sankowski z Varšavskej univerzity grant od Európskej rady pre výskum na vykonanie takejto analýzy. Podľa jeho názoru, ak ľudia nevedia, prečo počítač ponúka určité riešenia, nezíska si ich dôveru.
„Vo vojenských záležitostiach na tom tiež záleží. Umelú inteligenciu tu možno využiť dvoma spôsobmi: na podporu ľudských rozhodnutí alebo ako samostatný rozhodovací subjekt. Prvý prípad použitia je oveľa menej kontroverzný. Umelá inteligencia sa týmto spôsobom používa už roky – spracováva satelitné údaje, spravodajské údaje a obrázky z kamier. Skutočné problémy začnú, ak sa armády rozhodnú delegovať rozhodovanie na algoritmy,“ hovorí Dr. Kaja Kowalczewska, právnička na Vroclavskej univerzite a autorka publikácie „Umelá inteligencia vo vojne. Pohľad na medzinárodné humanitárne právo ozbrojených konfliktov“.
Čo to znamená? Napríklad použitie dronov, ktoré vyhľadávajú a potom zničia cieľ sami. To znamená, že zabijú človeka. „Ak vojak urobí nesprávne rozhodnutie, môže sa zodpovedať súdu. Jeho veliteľ môže byť tiež trestne stíhaný. A čo sa stane, ak zariadenie urobí chybu? Štát, ktorý ho použil, musí byť zodpovedný. Ale kto osobne – kupujúci, výrobca alebo možno programátor, ktorý vytvoril nedokonalý algoritmus?“ – myslí si nahlas Kovalčevská. Dodáva však, že bez ohľadu na použitú technológiu sú všetky strany konfliktov viazané medzinárodným humanitárnym právom. „Pravidlá, ktoré sú tam opísané, musia uplatňovať všetky strany,“ argumentuje.
Podľa Kovaľčevskej bude ťažké regulovať používanie umelej inteligencie na medzinárodnej úrovni. „Krajiny sú rozdelené na tie, ktoré hovoria, že táto technológia by mala byť zakázaná, na tie, ktoré hovoria, že by sa mali vypracovať všeobecné pravidlá, a na Čínu, ktorej názor je, že AI nemôže byť použitá vo vojne, ale takéto riešenia sa dajú vyrábať a predávať,“ hovorí právnička a dodáva, že podľa jej názoru by najdôležitejšie bolo zaviesť pravidlo, že každé rozhodnutie AI je kontrolované človekom.
Preložené z poľštiny
Text bol publikovaný v rámci projektu spolupráce medzi nami a poľským časopisom Niewa Europa Wschodnia.
Predchádzajúce články projektu: Ukrajina – EÚ: Horúci koniec rokovaní, Ukrajina – Útek pred voľbou, Východné partnerstvo po arabských revolúciách, V skreslenom zrkadle, opovrhovaný, Lukašenko ide do vojny s Putinom, Medzi Moskvou a Kyjevom, Klobása je klobása, Môj Ľvov, Putin na galejach, Polostrov strachu, Ukrajina vynájdená na východe, Nový starý objav, A malo to byť také krásne, Novoročný darček pre Rusko, Ak by sme mali diskutovať o histórii, minská slepá ulička
Pôvodný názov článku: Sztuczna inteligencja walczy w Ukrainie
