Umělá inteligence pomáhá identifikovat ruské vojáky, vyhledávat cíle nebo zachycovat nepřátelskou komunikaci. Je také nedílnou součástí propagandistických a dezinformačních kampaní. Tento víceúčelový nástroj vyvolává mnoho kontroverzí ohledně jeho použití v době války. Zejména využití umělé inteligence ve válce vyvolává mnoho otázek týkajících se mezinárodního humanitárního práva během ozbrojených konfliktů.
„V jedné z ukrajinských nemocnic byl nalezen muž, který tvrdil, že je náš voják. Podle svých slov utrpěl šok způsobený bombardováním. Řekl, že zažil trauma a na všechno zapomněl. Lékař nám poslal fotografii a my jsme byli schopni ho identifikovat během několika minut. Našli jsme jeho profil na sociální síti a zjistili jsme, že je Rus. Samozřejmě, že byl pohnán k odpovědnosti,“ chlubí se ukrajinský ministr pro digitální transformaci Mychajlo Fedorov na webu americké společnosti Clearview AI. Od začátku ruské agrese hledá způsoby, jak využít moderní technologie ve službách své země. Ukrajina, která zoufale potřebuje podporu, se stala testovacím polem pro digitální řešení. Zejména produkty, které jsou v klidnějších částech světa kontroverzní, zde zažívají svůj křest ohněm.
Chceme, aby matky věděly, že ztratily své syny
Samotná umělá inteligence Clearview pomohla zjistit identitu vojáka, o kterém Fedorov mluvil. Jeho nástroj pro rozpoznávání obličeje má působivé schopnosti – stačí do aplikace nahrát fotografii a díky pokročilým algoritmům ji přiřadí k jednomu z 10 miliard obrázků v databázi. K jeho vytvoření společnost pomocí speciálních počítačových programů automaticky stahovala fotografie ze služeb: z amerického Facebooku nebo Instagramu, stejně jako z ruských VKontakte a Odnoklassniki. Jak se společnost chlubí, každý pátý obrázek v jejím inventáři pochází z posledních dvou sociálních sítí.
Technologie poskytovaná společností Clearview AI se rychle stala jedním z nejdůležitějších digitálních nástrojů v Ukrajině. Dnes ji používá sedm různých agentur, včetně armády a pohraniční stráže, a do databáze má přístup více než 900 uživatelů. Celkem bylo v systému vyplněno již 125 tisíc vyhledávacích dotazů. Podle ukrajinských úřadů bylo pomocí této technologie identifikováno 7 500 podezřelých z trestné činnosti a 125 ruských vojáků bylo obviněno. Clearview AI pomohla znovu spojit rodiny, najít pohřešované osoby, odhalit dezinformace, posílit bezpečnost na kontrolních stanovištích a odhalit špiony. Stala se také základem jedné z nejneuvěřitelnějších operací v informační válce.
Díky algoritmům umělé inteligence Clearview AI dokáže rozpoznat i tváře s vážnými zraněními. Ukrajinci ji tedy začali používat k identifikaci těl zabitých ruských vojáků a následnému kontaktování jejich rodin. „Informace šíříme prostřednictvím sociálních sítí. Je to zdvořilost vůči matkám, chceme alespoň informovat rodinu, že ztratili své syny, a pak jim dát možnost přijít a vyzvednout si jejich těla,“ komentoval Fedorov. Další členové jeho týmu tvrdili, že to mohlo ovlivnit pomalý postup mobilizace v Rusku.
Dělá to každý
Jak Clearview AI skončili v Ukrajině? Firma sama nabízela své služby. Na začátku března 2022 nabídl její generální ředitel Goan Ton-Tat ukrajinské vládě nejen bezplatný přístup k technologii, ale také školení, jak ji používat. „Mé srdce je s Ukrajinci, doufám, že naše technologie mohou být použity k prevenci škod, k záchraně nevinných lidí a ochraně životů,“ ujistil.
Přestože Ukrajinci podle oficiálních informací za pokročilý systém neplatili, ve skutečnosti není nic zadarmo. Koneckonců, tento případ se stal jakýmsi druhem CSR-válka (Společenská odpovědnost firem – společenská odpovědnost firem), tj. souhrnná dohoda, ve které jedna strana obdrží pomoc od společnosti a samotná společnost získá zlepšení své image. Mimochodem, právě z webových stránek společnosti jsou převzaty všechny citace ukrajinských představitelů použité v tomto článku. Pro Clearview AI To bylo nutné, protože když Ton-That Nabídla svou pomoc ukrajinské vládě a byla vyšetřována evropskými a americkými regulačními orgány, které ji obvinily z hrubého porušování soukromí uživatelů internetu. Údaje o nich byly shromážděny v rozporu s pravidly a předpisy na sociálních sítích. Ton-That v médiích tvrdil, že „to dělají všichni“.
Krátce po návrhu, který Ton-That ukrajinskou vládou, italský úřad pro ochranu osobních údajů uložil Clearview AI pokutu ve výši 20 milionů EUR. Jedná se o nejvyšší možnou sankci stanovenou Obecné nařízení o ochraně (Obecné nařízení o ochraně osobních údajů – Obecné nařízení o ochraně osobních údajů). V květnu přidal britský regulátor dalších 8 milionů, následovaný Řeckem a Francií – po 20 milionech. To je podle oborového portálu pro společnost hodně CB Přehledyčinila celková hodnota vydaných akcií společnosti 38 milionů USD.
A to není vše – bylo jí také nařízeno, aby ze své databáze odstranila fotografie obyvatel těchto zemí, a do budoucna jí bylo zakázáno je shromažďovat. V Illinois, Společnosti Clearview AI zakázal prodej svých výrobků – služeb i podniků – na příštích pět let.
Co vidíte v Palantir
Další technologickou společností, která poskytuje služby ukrajinské armádě, je Palantir. Společnost, jejíž název odkazuje na kouzelnou „křišťálovou kouli“ z Pána prstenů J. R. R. Tolkiena, se zabývá datovou analytikou. Mezi její klienty patří americké ministerstvo obrany, CIA a FBI.
v Ukrajině Palantir Stává se kriticky důležitým pro řešení rostoucího počtu úkolů – od poskytování humanitární pomoci až po vedení nepřátelských akcí. Jaké jsou příklady? Krátce po totální invazi Ruska na Ukrajinu vyvstala naléhavá potřeba najít domovy pro ty, kteří prchají před válkou. Velká Británie se obrátila o pomoc na americkou společnost. Na základě svého softwaru spustila Domovy pro Ukrajinu – žádost o usazení za účelem bezpečného znovuusídlení uprchlíků. Během 24 hodin od spuštění obdržel program více než 120 000 nabídek bydlení.
Palantir Pomáhá také dokumentovat ruské válečné zločiny – poskytl generálnímu prokurátorovi země, který spojuje údajné zločiny s ruskými vojenskými jednotkami. Řešení, která vyvinul, budou v budoucnu klíčová pro obnovu země. Očekává se, že například analýzou dat o rozložení žáků pomohou určit umístění nových škol. Investoři nepochybují o tom, že to bude pro společnost ziskový obchod: partnerství bylo právě oznámeno, hodnota akcií Palantir vyskočil o více než 10 %.
A tím to nekončí: v únoru 2023 generální ředitel Palantir Alex Karp přiznal, že Ukrajinci používají jeho technologii k čistě vojenským účelům – sledují s ní cíle. Systém, který k tomu Ukrajinci používají, se nazývá MetaConstellation. Vychází z dat získaných z komerčních satelitů, tepelných senzorů nebo průzkumných dronů, ale i z tradičnějších zdrojů, tedy jednoduše špionů. Jak účinná je tato technologie? Jak v rozhovoru pro The Times připustil generál Richard Barrons, který velel britským jednotkám v Iráku a Afghánistánu, pokud před dvěma desetiletími mohlo armádní velení sledovat 10 cílů denně, dnes jich může stejná jednotka sledovat 300.
Alex Karp stále častěji přirovnává vlastnictví pokročilých systémů umělé inteligence k jaderným zbraním. A není jediný. V únoru letošního roku svolala nizozemská vláda první mezinárodní summit o zodpovědném využívání umělé inteligence ve vojenské sféře. Při jeho inauguraci se stejným prohlášením jako generální ředitel Palantirvystoupil místopředseda vlády a ministr zahraničních věcí Nizozemska Wopke Hoekstra. Summitu se zúčastnilo 50 zemí včetně Číny (Rusko pozváno nebylo). Účastníci podepsali prohlášení, v němž se zavázali, že budou spolupracovat na zajištění odpovídajících záruk a lidského dohledu nad používáním systémů založených na umělé inteligenci.
Polsko také diskutuje o využití umělé inteligence v armádě. V dubnu tohoto roku podepsal prezident Andrzej Duda dekret o hlavních směrech rozvoje polských ozbrojených sil na léta 2025-2039. Mezi systémy, kterými by armáda měla být vybavena, spolu se systémy protivzdušné obrany, patří umělá inteligence a analytické programy velké objemy dat.
Zelenskyj „kapituluje“, Putin „vyhlašuje“ stanné právo
Umělá inteligence bojující v Ukrajině však nejsou jen velké systémy vyvinuté specializovanými společnostmi. Jsou to také informační partyzáni, kteří používají nástroje generativní umělé inteligence, jako je např ChatGPTšířící se rychlostí blesku. Po listopadu 2022 OpenAI Učinil ji univerzálně dostupnouUkrajina strávila téměř půl roku, než službu zpřístupnila na svém území (nejprve byla blokována, jako v Rusku a Íránu).
Velké jazykové modely (LLM – Velké jazykové modely) jsou pokročilé systémy umělé inteligence. Jsou schopny generovat texty z obrovského množství trénovacích dat a lze je použít pro různé úkoly, jako je porozumění přirozenému jazyku, překlad a generování obsahu. Chatboti na jejich základě se mohou stát mocným nástrojem v informační válce. Snadno vytvoří texty v jakémkoli jazyce a dokonce i ve stylu konkrétní osoby. Budou vytvářet webové stránky. Dokumenty budou analyzovány. Samozřejmě mají i svou stinnou stránku: data, která do nich zadáváme, shromažďují výrobci a pomáhají trénovat novou generaci algoritmů. To je důvod, proč mnoho společností – například Samsung – zakázat jejich používání: riziko prozrazení firemních tajemství je příliš vysoké. O vojenských tajemstvích ani nemluvě.
Využití umělé inteligence v propagandě je dílem obou stran konfliktu. Algoritmy pomáhají vytvářet například videa, tzv. deep fakes, zobrazující politiky. V březnu 2022 Rusové zveřejnili na internetu video, ve kterém ukrajinský prezident Volodymyr Zelenskyj vyzývá své krajany, aby složili zbraně. Rychle se zjistilo, že je nepravdivý, a byl odstraněn z platforem, jako jsou YouTube (Česky) a Na Facebooku. Začátkem června letošního roku se však v ruské televizi objevilo video, ve kterém Vladimir Putin vyhlašuje stanné právo a varuje, že nařídí všeobecnou mobilizaci. To bylo také vymyšlené. Autoři této akce však nebyli nikdy nalezeni.
Zatímco šíření dezinformací není nic nového, umělá inteligence nabízí bezprecedentní příležitosti k rozšíření takových kampaní. Zvláště v kombinaci s dosahem, který nabízejí platformy sociálních médií. Pouze jeden Telegram, kde se díky liberální politice moderování obsahu šíří informace o válce, má miliardu uživatelů. V takovém prostředí je snadné uvést do oběhu lži vytvořené pomocí umělé inteligence.
Když dron mate cíle
Použití algoritmů ve vojenském rozhodování je extrémně kontroverzní. Je to proto, že systémy umělé inteligence – dokonce i v civilních aplikacích – jsou zahaleny tajemstvím. Přestože jsou obecné principy jejich práce známy, i pro samotné tvůrce je obtížné dohledat, proč se určitá rozhodnutí rozhodují. Vysvětlitelnost algoritmů je pro výzkumníky stále předmětem zájmu. Profesor Piotr Sankowski z Varšavské univerzity letos získal grant od Evropské výzkumné rady na provedení takové analýzy. Podle jeho názoru, pokud lidé nevědí, proč počítač nabízí určitá řešení, nezíská si jejich důvěru.
„Ve vojenských záležitostech na tom také záleží. Umělou inteligenci zde lze využít dvěma způsoby: k podpoře lidských rozhodnutí nebo jako samostatně rozhodující entita. První případ použití je mnohem méně kontroverzní. Umělá inteligence se tímto způsobem používá již léta – zpracovává satelitní data, zpravodajská data a snímky z kamer. Skutečné problémy nastanou, pokud se armády rozhodnou delegovat rozhodování na algoritmy,“ říká Dr. Kaja Kowalczewska, právnička z Vratislavské univerzity a autorka publikace „Umělá inteligence ve válce. Pohled na mezinárodní humanitární právo ozbrojených konfliktů“.
Co to znamená? Například použití dronů, které si cíl samy vyhledají a následně zničí. To znamená, že zabijí člověka. „Pokud se voják rozhodne špatně, může se zodpovídat soudu. Trestně stíhán může být i jeho velitel. A co se stane, když zařízení udělá chybu? Stát, který ji použil, musí nést odpovědnost. Ale kdo osobně – kupující, výrobce nebo možná programátor, který vytvořil nedokonalý algoritmus?“ – přemýšlí Kovalchevska nahlas. Dodává však, že bez ohledu na použitou technologii jsou všechny strany konfliktu vázány mezinárodním humanitárním právem. „Pravidla, která jsou tam popsána, musí být uplatňována všemi stranami,“ tvrdí.
Podle paní Kovalchevské bude obtížné regulovat používání umělé inteligence na mezinárodní úrovni. „Země se dělí na ty, kteří říkají, že by tato technologie měla být zakázána, na ty, kteří říkají, že by se měla vyvinout obecná pravidla, a na Čínu, jejíž názor je, že AI nelze použít ve válce, ale taková řešení lze vyrábět a prodávat,“ říká právnička a dodává, že podle ní by nejdůležitější bylo zavést pravidlo, že každé rozhodnutí AI je řízeno člověkem.
Přeloženo z polštiny
Text byl publikován v rámci projektu spolupráce mezi námi a polským časopisem Newa Europa Wschodnia.
Předchozí články projektu: Ukrajina – EU: Ostrý konec jednání, Ukrajina – útěk před volbou, Východní partnerství po arabských revolucích, V pokřiveném zrcadle, Opovrhovaný, Lukašenko jde do války s Putinem, Mezi Moskvou a Kyjevem, Klobása je klobása, Můj Lvov, Putin na galejích, Poloostrov strachu, Ukrajina vynalezená na východě, Nový starý objev, A mělo to být tak krásné, Novoroční dárek pro Rusko, Kdybychom se měli bavit o historii, slepá ulička v Minsku
Původní název článku: Sztuczna inteligencja walczy w Ukrainie
