top of page

AI е вече на бойните полета!


Машините стават вездесъщи в бойното пространство на XXI век, а съвременните армии трябва да възприемат екипната работа на човека и машината (HMT) или да рискуват да отстъпят военното си предимство на конкуренти, които ефективно използват изкуствен интелект (AI) и автономност. Интересът към това проявление на HMT се е увеличил не само в САЩ, но и в повечето съвременни армии. Освен Съединените щати, Австралия, Китай, Русия, Обединеното кралство, Турция и Индия имат поне една активна програма за разработване на лоялен уингмен, а усилията за разработване на изтребители от шесто поколение Global Combat Air Programme (Обединеното кралство, Италия, Япония), програмите Next Generation Air Dominance (ВВС и ВМС на САЩ) и Future Combat Air System (Германия, Франция, Испания) включват системни концепции за въздушна сила, които наблягат както на HMT, така и на съвместната работа на машините и машините.


Създаването на усещания чрез екипи от хора и машини определя и бъдещето на дисциплини като разузнавателния анализ и планирането на мисии, в които синтезът на данни, откриването на модели и аномалии, както и подкрепата за изследвания и анализи, подпомага анализаторите да управляват и използват експлозията от налични източници и данни. Задачи, които биха отнели дни на хората, сега могат да бъдат изпълнени за часове, което позволява на хората да се концентрират върху най-важните части от информацията, получена от големи масиви от данни. Например през войната в Украйна украинските въоръжени сили вече използват инструменти за обработка на естествен език, които използват ИИ за превод и анализ на прихванати руски комуникации, като по този начин пестят време на анализаторите и им позволяват да се съсредоточат върху ключови съобщения и разузнавателни данни. Използването на ИИ не само ускорява анализа, но също така демонстрира стойност при привличането на "неизвестни знания" - наблюдавани, но пренебрегнати или забравени връзки, прозрения и информация - на вниманието на анализатора и изразяването на стойността или качеството на информацията пред човека, който взема решения.


През 2002 г. екип за специални операции използва квадрокоптер, управляван от изкуствен интелект, за да нахлуе в скривалище, където се е укривал фиктивен лидер на терористи. Дронът, проектиран от Shield AI, започна да лети самостоятелно през сградата, като осигуряваше ситуационна осведоменост за вътрешността и намаляваше риска за всеки член. Този инцидент постави началото на революция в областта на сигурността, която тепърва започва да се разгръща в САЩ.


AI предизвика революция в областта на сигурността, но някои изследователи призоваха за спиране на развитието му поради широко разпространените математически основи, човешките умения за създаване на модели на ИИ и мощните двигатели на изследванията и разработките на ИИ. Китай работи усилено, за да надмине Съединените щати в областта на ИИ, особено във военните приложения, което потенциално може да увеличи темпото и ефекта на операциите му отвъд това, което Съединените щати могат да постигнат. Способността на Китай да използва кибернетична и електронна война срещу мрежите и критичната инфраструктура на САЩ също би се увеличила опасно.


Пентагонът трябва да ускори приемането на отговорен AI, тъй като Вашингтон може да загуби военното превъзходство, което е в основата на интересите на Съединените щати, сигурността на техните съюзници и партньори, както и на международния ред, основан на правила. Правителството на САЩ обаче все още се бори да възприеме иновативни технологии като AI със скорост и в голям мащаб. В него не работят достатъчно специалисти с технически познания, необходими за тестване, оценка, закупуване и управление на продукти на AI. То все още изгражда информационната и компютърната инфраструктура, необходима за поддържане на големи модели на AI. Тя не разполага с гъвкаво финансиране, необходимо за бързото използване на най-обещаващите прототипи на ИИ и тяхното мащабиране в различните агенции.


Политиците и служителите в отбраната са наясно с тези проблеми и Конгресът издаде рамка за политиката за AI, за да ускори отговорното и безопасното му приемане от Министерството на отбраната. Службата на министъра на отбраната издаде политическа рамка за AI, за да се ускори отговорното и безопасно приемане на AI от Министерството на отбраната. Конгресът обаче все още не е предприел действия, а прилагането на рамката на Пентагона за AI все още е в процес на изпълнение.


AI вече трансформира сигурността на САЩ, като Военновъздушните сили на САЩ използват AI, за да си помагат при разпределянето на ресурсите и да предвиждат как едно решение може да промени програмата и бюджета им. Военните използват модели с ИИ и при поддръжката на сложни оръжейни системи - от кораби до изтребители, за да събират данни от сензорите на платформата и да прогнозират кога и какъв вид поддръжка ще увеличи максимално нейната готовност и дълготрайност, като същевременно минимизира разходите.


Предсказващият AI има потенциала да революционизира американската армия, като предостави ценна информация за потенциалните противници, особено за тези в Пекин. Разузнавателната общност и няколко бойни командвания използват ИИ за анализ на класифицирани и некласифицирани данни, за да идентифицират модели на поведение и да прогнозират бъдещи международни събития. ИИ помогна на анализаторите да предвидят нахлуването на Русия в Украйна месеци по-рано, което позволи на САЩ да предупредят света и да лишат руския президент Владимир Путин от елемента на изненадата. В Стратегическото командване на САЩ AI, разработен от Rhombus Power, се използва, за да помогне на служителите да предупреждават за движението на ракети с ядрени оръжия, които в миналото често избягват откриване.


AI може също така да даде на Вашингтон по-добра представа за това, какво може да мислят потенциалните му противници, особено лидерите в Пекин. Разузнавателната общност би могла да разработи голям езиков модел, който да поглъща всички налични писания и речи на китайски лидери, както и доклади на американското разузнаване за тези личности, и след това да имитира как китайският президент Си Дзинпин може да реши да изпълни заявена политика. Анализаторите биха могли да задават на модела конкретни въпроси, като например "При какви обстоятелства президентът Си би бил готов да използва сила срещу Тайван?", и да предвиждат потенциални отговори въз основа на богатство от данни от повече източници, отколкото някое човешко същество би могло бързо да синтезира.


ИИ предизвика революция в областта на сигурността, която едва сега започва да се разгръща. Служителите на разузнаването вече ежедневно използват AI, за да пресяват хиляди снимки и видеоклипове. В миналото анализаторите трябваше да гледат хиляди часове пълнометражно видео, за да открият и маркират обекти на интерес, независимо дали става въпрос за концентрация на танкове или разпръснати мобилни ракети. С помощта на изкуствения интелект разработчиците могат да обучат модел, който да проучи целия този материал и да идентифицира само обектите, които анализаторът търси - обикновено в рамките на няколко секунди или минути. Анализаторът може също така да настрои модела с изкуствен интелект да изпраща предупреждение всеки път, когато бъде открит нов обект на интерес в дадена географска област. Тези инструменти за "компютърно зрение" дават възможност на анализаторите да прекарват повече време в това, което могат да правят само хората: да прилагат своя опит и преценка, за да оценят значението и последиците от това, което AI открива. Тъй като тези модели стават все по-точни и надеждни, те имат потенциала да помагат на американските командири на място да вземат критични оперативни решения много по-бързо, отколкото противникът може да реагира, което дава на американските сили огромно - може би дори решаващо - предимство.


AI би могъл допълнително да помогне на американските и съюзническите сили, като подсили работата на отделните военнослужещи на терен. Някои приложения на изкуствения интелект, които понастоящем се разработват, позволяват на един оператор да контролира множество безпилотни системи, като например рояк безпилотни самолети във въздуха, във водата или под водата. При конфликт с Китай за Тайван това сътрудничество между човека и машината може да бъде от решаващо значение. Ако Пекин реши да използва сила, за да претендира за острова, Китай ще има предимството да се сражава в собствения си двор, което ще му позволи по-лесно да концентрира сили. Ако американската армия успее да допълни своите пилотирани платформи с голям брой сравнително евтини безпилотни системи, тя би могла да компенсира донякъде този сравнителен недостатък и да усложни значително операциите на китайската армия.


Съединените щати имат уникални предимства за ускоряване на внедряването на AI, включително пазарната си икономика, отворената политическа система, иновационните екосистеми в Силициевата долина, динамичната екосистема на рисковия капитал и частния капитал, както и седалището на много от водещите световни университети. Въпреки това Министерството на отбраната и разузнавателната общност трябва да инвестират повече в ускоряване на приемането на ИИ чрез изграждане на общи системи за цифрова инфраструктура, които да имат еднакви стандарти за оперативна съвместимост. Това би включвало облачни технологии и услуги, общи стандарти за данни, валидирани набори от данни, споделен достъп до защитени софтуерни стекове, усъвършенствани инструменти за тестване, оценка и валидиране на моделите на AI и защитени интерфейси за програмиране на приложения, които контролират кой до каква информация получава достъп на различни нива на класификация.


За да привлече повече таланти в областта на AI и да използва по-добре технологичната работна сила, с която вече разполага, Министерството на отбраната ще трябва да подобри начина, по който набира и управлява служители с цифрови умения. Пентагонът може да започне, като следва съветите на Комисията за национална сигурност по въпросите на AI и създаде цифров корпус за организиране, обучение и оборудване на технолози. Всички съществуващи военни академии за услуги трябва да започнат да преподават основите на AI, а Пентагонът трябва също така да създаде академия за цифрови услуги в САЩ, която да обучава и подготвя амбициозни цивилни технолози, като им предлага безплатно колежанско образование в замяна на ангажимент да служат в правителството поне пет години след завършването си. И накрая, Министерството на отбраната следва да създаде цифров резервен корпус, в който работещите в областта на технологиите от цялата територия на САЩ биха могли доброволно, на непълно работно време, да служат на страната си.


Пентагонът никога няма да може да привлече толкова много експерти по изкуствен интелект, колкото частният сектор. За да го направи, отбранителната институция трябва да подобри начина, по който използва външни таланти. Като начало Министерството на отбраната трябва да задълбочи разговорите си с технологични компании и с факултетите по компютърни науки на водещи университети. То трябва също така да намали някои от остарелите бариери пред технологичните фирми да правят бизнес с правителството. За тази цел служителите на отбраната трябва да преосмислят начина, по който купуват софтуерни продукти и услуги, включително изкуствен интелект. Вместо да отделя години за разработване на фиксиран набор от строго специфични изисквания, министерството трябва бързо да определи конкретните проблеми, които се опитва да реши, и общите стандарти, на които трябва да отговарят всички предложени решения, след което да позволи на компаниите да предложат решения в конкурентен тръжен процес.


Пентагонът следва да създаде специална кариерна пътека за специалисти по придобиване, които искат да се специализират в областта на изкуствения интелект и други търговски технологии. Повечето от настоящите служители по придобиване на Министерството на отбраната са обучени да купуват сложни оръжейни системи, което изисква да се обръща щателно внимание на това дали изпълнителите отговарят на строгите спецификации, изискванията за разходите и планираните етапи. В резултат на това повечето от тези специалисти са силно избягващи риска. Пентагонът трябва да създаде нова група от експерти по придобиване, които са специално обучени да купуват този вид системи, известни като "зелените барети" на силите за придобиване.


Пекин няма намерение да отстъпва технологичното си господство на Вашингтон. Вътрешните реформи ще помогнат на Пентагона да ускори напредъка си, но е необходима устойчива подкрепа от страна на Конгреса, за да не изостава от китайските си колеги. Конгресът трябва да предостави на Министерството на отбраната по-гъвкаво финансиране, което да му позволи да управлява оптимално програмите за изкуствен интелект. Този подход е от решаващо значение, за да може Пентагонът да възприеме AI с по-голяма гъвкавост и бързина.


Съединените щати трябва да продължат да привличат най-добрите технологични таланти в световен мащаб, включително да реформират имиграционната си система. Византийските имиграционни правила затрудняват престоя в страната на много студенти и работници в областта на науката и технологиите, което води до изпращане на обучението на много от най-добрите технологични експерти в света. Освен това наложените от Конгреса ограничения за визите H-1B означават, че страната може да приеме само малък процент от хората, които кандидатстват, което оставя извън нея много необходими чуждестранни таланти.


AI е незаменим за бъдещата сигурност на Съединените щати и световната архитектура свързана с тях, но също така крие големи рискове. AI вече ускорява разпространението на дезинформация онлайн и улеснява неволната дискриминация при наемане на работа. Компютърните учени твърдят, че AI може да позволи автоматизирани кибератаки с "машинна скорост", докато химиците показаха, че AI може да синтезира химически оръжия, а биолозите изразиха загриженост, че той може да бъде използван за разработване на нови патогени или биологични оръжия. Рисковете са достатъчно сериозни, че дори лидерите на индустрията за изкуствен интелект изразиха тревога. През май 2023 г. ръководителите на почти всички големи американски лаборатории за AI подписаха писмо, в което предупреждават, че техните изобретения могат да представляват екзистенциална заплаха за човечеството.


Националната сигурност е сферата на човешката дейност, в която рисковете от AI са най-дълбоки. Моделите на AI биха могли да идентифицират погрешно хора или обекти като цели, което да доведе до непреднамерена смърт и разрушения по време на конфликти. Моделите с черна кутия на AI могат да накарат военните плановици да вземат опасни решения без достатъчно тестване и надзор. Рисковете не произтичат само от лошо проектирани или небрежно използвани системи. Съединените щати биха могли да бъдат прилежни при разработването и прилагането на ИИ, само за да могат техните противници да намерят начини за повреждане на американските данни, което да накара системите да излязат от строя.


Пентагонът е наясно с тези рискове и през февруари 2020 г. издаде набор от етични принципи, регулиращи начина, по който трябва да се използва AI. Тези принципи призовават служителите на министерството да проявяват преценка и внимание при разработването, внедряването и използването на възможностите на AI, да сведат до минимум непреднамерените пристрастия, да гарантират, че всички ИИ се създават и използват по начини, които могат да бъдат разбрани и обяснени, с данни и методологии, които са прозрачни и подлежащи на одит. Ръководителите на отбраната са наредили на служителите си да гарантират, че системите за AI са стриктно тествани за тяхната безопасност, сигурност и ефективност, назначени са за ясно определени употреби и могат да бъдат изключени или деактивирани, ако проявят непредвидено поведение.


Съединените щати не могат сами да гарантират, че AI се разработва и използва отговорно. Други държави, включително и конкуренти, също ще трябва да приемат политически предпазни огради и норми. През ноември 2021 г. 193 държави одобриха глобално споразумение за етиката на изкуствения интелект, което включва принципа, че държавите трябва да гарантират човешки надзор и представителство над всички ИИ. Съединените щати трябва да търсят места за обсъждане на AI с потенциалните си противници, особено с Китай, и да работят в тясно сътрудничество със своите съюзници и партньори, за да гарантират, че са на една и съща страница.


Въпроса с AI трябва да бъде разгледан и от гледна точка на конкуренцията, която от една страна критикува AI и саботира развитието му в САЩ, от друга страна дава преднина на Китай и Русия в надпреварата. Необходимостта от отговорна скорост е очевидна в принципа на закона на Мур, при който броят на транзисторите в чиповете се удвоява на всеки две години, което води до експоненциално по-способни устройства. Първият, който възприеме AI в голям мащаб, вероятно ще има по-бърз цикъл на вземане на решения, по-добра информация, на която да се основават решенията, и по-устойчиви мрежи при атака. Въпреки това апаратът за национална сигурност не може да си позволи да бъде безразсъден, тъй като моделите на AI могат да причинят непреднамерени вреди.


Създателите на политики в САЩ разбират този парадокс, тъй като регулирането на AI с твърде тежка ръка може да накара най-добрите иноватори в областта на AI да напуснат страната, за да работят там, където има по-малко ограничения, изоставайки от своите конкуренти. Както политиците от Демократическата партия, така и тези от Републиканската партия признават значението на регулирането и надзора за осигуряване на безопасно и отговорно приемане на AI. За да се реши проблемът и да се балансира необходимостта от бързина и безопасност, политиците трябва да приложат по-добри подходи за ускоряване на приемането и осигуряване на безопасност. В противен случай американците рискуват да попаднат в свят на спираловидно нарастващи опасности, свързани с ИИ, и намаляваща мощ и влияние на САЩ.

Comments


bottom of page