Изкуственият интелект помага за идентифицирането на руски войници, търсенето на цели или прихващането на вражеските комуникации. Тя е и неразделна част от пропагандните и дезинформационни кампании. Този многофункционален инструмент предизвиква много противоречия по отношение на използването му във военно време. По-специално, използването на AI във война повдига много въпроси относно международното хуманитарно право по време на въоръжени конфликти.
„В една от украинските болници беше открит мъж, който твърдеше, че е наш войник. По думите му той е пострадал от шока, причинен от бомбардировките. Каза, че е преживял травма и е забравил всичко. Лекарят ни изпрати снимка и успяхме да го идентифицираме само за няколко минути. Намерихме профила му в социалната мрежа и разбрахме, че е руснак. Разбира се, той беше подведен под отговорност“, хвали се Михайло Федоров, министър на цифровата трансформация в Украйна, на уебсайта на американската компания Clearview AI. От началото на руската агресия той търси начини да използва съвременните технологии в услуга на страната си. Отчаяна за подкрепа, Украйна се превърна в тестова площадка за цифрови решения. По-специално, продукти, които са спорни в по-тихите части на света, имат своето бойно кръщение тук.
Искаме майките да знаят, че са загубили синовете си
Самият Clearview AI помогна да се установи самоличността на войника, за когото говореше Федоров. Неговият инструмент за разпознаване на лица има впечатляващи възможности – всичко, което трябва да направите, е да качите снимка в приложението и благодарение на усъвършенстваните алгоритми тя ще я съпостави с едно от 10-те милиарда изображения в базата данни. За да го създаде, компанията, с помощта на специални компютърни програми, автоматично изтегля снимки от услуги: от американския Facebook или Instagram, както и от руските VKontakte и Odnoklassniki. Както компанията се хвали, едно от всеки пет изображения в инвентара й идва от последните две социални мрежи.
Технологията, предоставена от Clearview AI, бързо се превърна в един от най-важните цифрови инструменти в Украйна. Днес тя се използва от седем различни агенции, включително военните и граничната охрана, а повече от 900 потребители имат достъп до базата данни. Общо в системата вече са попълнени 125 хиляди заявки за търсене. Според украинските власти с помощта на тази технология са идентифицирани 7500 заподозрени в престъпления, а на 125 руски войници са повдигнати обвинения. Clearview AI помогна за събирането на семейства, намирането на изчезнали лица, разкриването на дезинформация, засилването на сигурността на контролно-пропускателните пунктове и разкриването на шпиони. Той също така стана основа на една от най-невероятните операции в информационната война.
Благодарение на алгоритмите на изкуствения интелект Clearview AI може дори да разпознава лица със значителни наранявания. Така украинците започнаха да го използват, за да идентифицират телата на убитите руски войници и след това да се свържат със семействата си. „Разпространяваме информация чрез социалните мрежи. Това е учтивост към майките, искаме поне да информираме семейството, че са загубили синовете си, а след това да им дадем възможност да дойдат и да вземат телата си“, коментира Федоров. Други членове на екипа му твърдят, че това е можело да повлияе на бавния напредък на мобилизацията в Русия.
Всички го правят
Как Clearview AI Свърши ли в Украйна? Самата компания предлагаше услугите си. В началото на март 2022 г. нейният главен изпълнителен директор Гоан Тон-Тат предложи на украинското правителство не само свободен достъп до технологията, но и обучение как да я използва. „Сърцето ми е с украинците, надявам се, че нашата технология може да бъде използвана за предотвратяване на вреди, за спасяване на невинни хора и защита на човешки животи“, увери той.
Въпреки че украинците, според официалната информация, не са платили за напредналата система, в действителност нищо не е безплатно. В края на краищата този случай се превърна в един вид КСО-война (Корпоративна социална отговорност – корпоративна социална отговорност), т.е. пакетно споразумение, при което едната страна получава съдействие от дружеството, а самото дружество получава подобряване на имиджа си. Между другото, от уебсайта на компанията са взети всички цитати на украински служители, използвани в тази статия. За Clearview AI Това е необходимо, защото когато Тон-Това Тя предложи помощта си на украинското правителство и беше разследвана от европейски и американски регулатори, които я обвиниха в груби нарушения на неприкосновеността на личния живот на интернет потребителите. Данните за тях са събрани в нарушение на правилата и разпоредбите в социалните мрежи. Тон-Това В медиите се твърди, че „всички го правят“.
Малко след предложението, което Тон-Това от украинското правителство, италианският орган за защита на данните, наложен на Clearview AI глоба от 20 млн. Това е най-високата възможна санкция, предвидена за ГДПР (Общ регламент относно защитата на данните – Общ регламент относно защитата на данните). През май британският регулатор добави още 8 милиона, следван от Гърция и Франция – по 20 милиона. Това е много за компанията, според индустриалния портал CB прозрения, като общата стойност на емитираните акции на компанията е 38 млн.
И това не е всичко – също така й е наредено да премахне снимки на жители на тези страни от своята база данни и й е забранено да ги събира в бъдеще. В Илинойс, Компании Clearview AI забраниха продажбата на своите продукти – както услуги, така и бизнеси – за следващите пет години.
Какво виждате в Палантир
Друга технологична компания, която предоставя услуги на украинската армия, е Палантир. Компанията, чието име се отнася до вълшебната „кристална топка“ от „Властелинът на пръстените“ на Дж.Р.Р.Толкин, се занимава с анализ на данни. Сред клиентите й са Министерството на отбраната на САЩ, ЦРУ и ФБР.
В Украйна Палантир Тя придобива критично значение за решаването на все по-голям брой задачи – от предоставянето на хуманитарна помощ до провеждането на военни действия. Какви са някои примери? Малко след пълномащабната инвазия на Русия в Украйна имаше спешна нужда да се намерят домове за тези, които бягат от войната. Великобритания се обърна за помощ към американска компания. Надграждайки софтуера си, тя стартира Къщи за Украйна – молба за уреждане на безопасното презаселване на бежанци. В рамките на 24 часа от старта си програмата получи над 120 000 жилищни оферти.
Палантир Той също така помага за документирането на руските военни престъпления – той е предоставил на главния прокурор на страната софтуер, който свързва предполагаеми престъпления с руски военни части. В бъдеще разработените от него решения ще бъдат ключови за възстановяването на страната. Очаква се, че например чрез анализиране на данни за разпределението на учениците, те ще помогнат да се определи местоположението на новите училища. Инвеститорите не се съмняват, че това ще бъде печеливш бизнес за компанията: партньорството току-що беше обявено, стойността на акциите Палантир скочи с над 10%.
И това не спира дотук: през февруари 2023 г. главният изпълнителен директор Палантир Алекс Карп призна, че украинците използват неговата технология за чисто военни цели – с нея проследяват цели. Системата, която украинците използват за това, се нарича Метасъзвездие. Тя се основава на данни, събрани от търговски спътници, термични сензори или разузнавателни дронове, както и от по-традиционни източници, т.е. просто шпиони. Колко ефективна е тази технология? Както генерал Ричард Барънс, който командваше британските части в Ирак и Афганистан, призна в интервю за The Times, ако преди две десетилетия командването на армията можеше да проследява по 10 цели на ден, днес същото подразделение може да проследява 300.
Алекс Карп все повече сравнява притежаването на усъвършенствани системи за изкуствен интелект с ядрени оръжия. И той не е единственият. През февруари тази година холандското правителство свика първата международна среща на върха за отговорното използване на изкуствения интелект във военната сфера. При встъпването си в длъжност със същото изявление като главния изпълнителен директор Палантир, Говори вицепремиерът и министър на външните работи на Холандия Вопке Хукстра. На срещата на върха присъстваха 50 държави, включително Китай (Русия не беше поканена). Участниците подписаха декларация, в която обещаха да работят заедно, за да осигурят адекватни предпазни мерки и човешки надзор върху използването на системи, базирани на ИИ.
Полша също обсъжда използването на AI в армията. През април тази година президентът Анджей Дуда подписа указ за основните насоки за развитие на полските въоръжени сили за 2025-2039 година. Сред системите, с които военните трябва да бъдат оборудвани, заедно със системите за противовъздушна отбрана, са AI и програми за анализ големи данни.
Зеленски „капитулира“, Путин „обяви“ военно положение
Въпреки това, борбата с AI в Украйна не е само големи системи, разработени от специализирани компании. Те също са информационни партизани, които използват генеративни AI инструменти, като ЧатГПТразпространява се със светкавична скорост. След ноември 2022 г. ОпенАИ Направи го универсално достъпенУкрайна прекара почти половин година, за да направи услугата достъпна на своя територия (отначало тя беше блокирана, както в Русия и Иран).
Големи езикови модели (LLM – Големи езикови модели) Това са усъвършенствани системи за изкуствен интелект. Те са в състояние да генерират текстове от огромни количества данни за обучение и могат да бъдат използвани за различни задачи, като разбиране на естествен език, превод и генериране на съдържание. Чатботовете, базирани на тях, могат да се превърнат в мощен инструмент в информационната война. Те лесно ще създават текстове на всеки език и дори в стила на конкретен човек. Те ще създават сайтове. Документите ще бъдат анализирани. Разбира се, те имат и тъмна страна: данните, които въвеждаме в тях, се събират от производителите и помагат за обучението на следващото поколение алгоритми. Ето защо много компании – например, Самсунг – да забранят използването им: рискът от разкриване на фирмени тайни е твърде висок. Да не говорим за военните тайни.
Използването на изкуствен интелект в пропагандата е дело и на двете страни в конфликта. Алгоритмите помагат да се създават например видеоклипове, така наречените дълбоки фалшификати, изобразяващи политици. Още през март 2022 г. руснаците публикуваха видео в интернет, в което украинският президент Володимир Зеленски призовава сънародниците си да сложат оръжие. Бързо беше установено, че е фалшива и премахната от платформи като Карта сайта и Карта сайта. В началото на юни тази година обаче по руската телевизия се появи видео, в което Владимир Путин обявява военно положение и предупреждава, че ще нареди обща мобилизация. Това също е изфабрикувано. Авторите на това действие обаче така и не бяха открити.
Въпреки че разпространението на дезинформация не е нищо ново, AI предлага безпрецедентни възможности за мащабиране на такива кампании. Особено когато се комбинира с обхвата, предлаган от социалните медийни платформи. Само един Телеграма, където благодарение на либералната политика на модериране на съдържанието се разпространява информация за войната, има милиард потребители. В такава среда е лесно да се пуснат в обращение лъжи, създадени с помощта на изкуствен интелект.
Когато дронът обърка целите
Използването на алгоритми при вземането на военни решения е изключително спорно. Това е така, защото системите с изкуствен интелект – дори в граждански приложения – са обвити в мистерия. Въпреки че общите принципи на тяхната работа са известни, за самите създатели е трудно да проследят защо вземат определени решения. Обяснимостта на алгоритмите все още представлява интерес за изследователите. Тази година професор Пьотр Санковски от Варшавския университет получи грант от Европейския съвет за научни изследвания за провеждане на такъв анализ. Според него, ако хората не знаят защо даден компютър предлага определени решения, той няма да спечели доверието им.
„Във военните дела това също има значение. Изкуственият интелект може да се използва тук по два начина: за подпомагане на човешките решения или като самостоятелен субект за вземане на решения. Първият случай на употреба е много по-малко спорен. Изкуственият интелект се използва по този начин от години – обработва сателитни данни, разузнавателни данни и изображения от камери. Истинските проблеми ще започнат, ако армиите решат да делегират вземането на решения на алгоритми“, казва д-р Кая Ковалчевска, адвокат от университета във Вроцлав и автор на публикацията „Изкуствен интелект във война. Поглед към международното хуманитарно право на въоръжените конфликти“.
Какво означава това? Например, използването на дронове, които търсят и след това сами унищожават целта. Тоест, убиват човек. „Ако един войник вземе грешно решение, той може да отговори пред съда. Командирът му също може да бъде съден. И какво се случва, ако се направи грешка от устройството? Държавата, която го е използвала, трябва да носи отговорност. Но кой лично – купувачът, производителят или, може би, програмистът, създал несъвършения алгоритъм?“ – мисли Ковалчевска на глас. Тя обаче добавя, че независимо от използваната технология, всички страни в конфликтите са обвързани от международното хуманитарно право. „Правилата, описани там, трябва да се прилагат от всички страни“, аргументира се тя.
Според г-жа Ковалчевска ще бъде трудно да се регулира използването на изкуствен интелект на международно ниво. „Страните са разделени на такива, които казват, че тази технология трябва да бъде забранена, такива, които казват, че трябва да се разработят общи правила, и Китай, чието мнение е, че AI не може да се използва във война, но такива решения могат да се произвеждат и продават“, казва адвокатката и добавя, че според нея най-важното би било да се въведе правило, че всяко решение за ИИ се контролира от човек.
Превод от полски
Текстът е публикуван като част от проект за сътрудничество между нас и полско списание Неwa Europa Wschodnia.
Предишни статии от проекта: Украйна – ЕС: Горещ завършек на преговорите, Украйна – бягане от избора, Източно партньорство след арабските революции, В изкривено огледало, презрян, Лукашенко отива на война с Путин, Между Москва и Киев, Наденицата е наденица, Моят Лвов, Путин в галерите, Полуостровът на страха, Украйна изобретена на Изток, Ново старо откритие, И трябваше да е толкова красиво, Новогодишен подарък за Русия, Трябва ли да обсъждаме историята, безизходицата в Минск
Оригинално заглавие на статията: Sztuczna inteligencja walczy w Ukrainie
