Миналия месец Организацията на обединените нации публикува кратка политическа справка "Нова програма за мир" (NA4P), в която се очертава визия за справяне с основните предизвикателства пред мира и сигурността. Сред водещите въпроси е въоръжаването с нови и нововъзникващи технологии.
"От изкуствения интелект до нововъзникващите биологични рискове - пише генералният секретар на ООН Антониу Гутериш при представянето на политическата справка, - новите технологии - и сложното взаимодействие между тях - представляват множество нови заплахи, които далеч надхвърлят настоящата ни управленска рамка".
В областта на науката неотдавнашните пробиви в кибернетиката и изкуствения интелект доведоха до революционни иновации - от здравеопазването до големите възможности за обработка на езика.
Същите настроения могат да бъдат открити в националните стратегически документи за изкуствения интелект (ИИ), които проникнаха в глобалната среда на ИИ през последните няколко години, включително в австралийския План за действие за изкуствения интелект. В различните документи ясно се открояват две теми: 1) иновациите в нововъзникващите технологии опасно изпреварват съществуващите институционални и управленски механизми, предназначени за ранните технологии за смекчаване на конфликти; и 2) макар че съществуват много възможности за икономически и обществени ползи от ИИ, потенциалът му за военна крайна употреба е значителен.
В областта на науката неотдавнашните пробиви в кибернетиката и ИИ доведоха до революционни иновации - от здравеопазването до големите възможности за обработка на езици, като например тези, използвани в Chat GPT. Базираната в Обединеното кралство компания DeepMind използва ИИ, за да картографира структурите на хиляди протеини, което доведе до открития за нови лекарства за борба с маларията и антибиотичната резистентност, както и до разработването на нови ензими, които разграждат пластмасови отпадъци.
USS Theodore Roosevelt
Неработоспособността на американския кораб "Теодор Рузвелт" през март 2020 г. поради Covid-19 подчерта уязвимостта, пред която са изправени военните сили чрез социално предавани, а не кинетични средства (Chris Cavagnaro/US Navy/Flickr)
Революцията на изкуствения интелект обаче крие и огромен потенциал за вреди - особено в областта на военните приложения. В Украйна агресивната война на Русия доведе до използването на множество системи на ИИ - от геопространствен интелект до подсилени с ИИ боеприпаси за безстопанственост, което накара някои да определят конфликта като "жива лаборатория за война с ИИ". Междувременно експериментите в областта на синтетичните биологични оръжия, при които проектирането на многоклетъчни организми се съчетава с ИИ, обединиха областите на технологиите и научната фантастика, за да създадат потенциал за програмируеми вируси. Примери като обезвреждането на американския кораб "Теодор Рузвелт" през март 2020 г. поради Covid-19 подчертаха уязвимостта, пред която са изправени военните сили чрез социално предавани, а не кинетични средства, и причините, поради които концепциите за национална биозащита излязоха на преден план.
Както показват тези отделни примери, приложенията на изкуствения интелект са широки. Техните основополагащи архитектури в принципите на проектиране, алгоритмите и използваните технологии означават, че много безвредни и пазарни приложения могат да бъдат адаптирани и използвани и за военна крайна употреба.
Именно тази загриженост отчасти е причина за включването на новите и нововъзникващите технологии като една от шестте най-значими заплахи, пред които е изправен светът днес, в NA4P. Темите за разходите в основните държави показват търсенето на нови институции за отчетност. В Съединените щати например Министерството на отбраната иска 1,4 млрд. щатски долара за платформи, свързани с ИИ, за бюджетния цикъл за 2024 г. В Китай правителството продължава най-дългия непрекъснат период на увеличаване на военните разходи, извършван от която и да е държава, според Стокхолмския международен институт за изследване на мира, като военните разходи за ИИ вече изпреварват тези на САЩ.
Дипломатическа програма, която съжителства с нарастващите отбранителни способности на ИИ, ще допринесе значително за успокояване на регионалните опасения относно сближаването на отбранителните технологии.
Сега повече от всякога, казва Гутериш, диалогът и управлението трябва да се съсредоточат върху смекчаването на заплахите от ИИ и нововъзникващата технологична конкуренция. "Светът се приближава към ръба на нестабилността, където рисковете, пред които сме изправени, вече не се управляват ефективно чрез системите, с които разполагаме."
Въпреки че на пръв поглед закъсня с представянето на позицията си, NA4P изтъкна в препоръките си създаването на независим многостранен механизъм за отчетност за злонамерено използване на киберпространството от държавите. Тя също така призова държавите да приемат правно обвързващ инструмент за забрана на оръжейни системи, които могат да функционират без човешки контрол.
Въпреки че това може да изглежда разумно начало, е необходимо много повече.
Като политическа справка, предназначена да послужи за целите на Срещата на върха на бъдещето през 2024 г., NA4P и нейните препоръки може да не бъдат приети от държавите членки, особено от тези, които се опасяват от обвързващи инструменти. Такива регулаторни рамки ще бъдат осмивани от някои като опит да се възпрепятстват законните цели за развитие на отбраната и икономическите резултати с определящ потенциал, какъвто съществува в ИИ и други критични технологии.
Може би точно поради тази причина NA4P и ООН са прехвърлили отговорността за създаване на норми и институции на държавите - по-специално обединявайки се в нови формати за иновации.
Това дава възможност на групировки като Тристранния диалог за сигурност (ТДС) на САЩ, Япония и Австралия да поемат инициативата за водене на дискусия и постигане на консенсус относно нормите, свързани с подходящото развитие на кибернетичното пространство, ИИ и смъртоносните автономни оръжия.
В съвместното изявление от 2023 г. от тристранната среща на министрите на отбраната на САЩ, Япония и Австралия са очертани областите за разширяване на сътрудничеството в областта на ИИ и критичните технологии, включително създаването на рамка за научни изследвания, развитие, изпитване и оценка с цел постигане на напредък в тристранното сътрудничество. Тази нарастваща трансгранична интеграция ще предостави ценни уроци за управление и смекчаване на предизвикателствата, породени от офанзивните автономни способности в Индо-тихоокеанския регион.
Освен това има възможност за използване на тези нововъзникващи способности и договорености за сътрудничество за по-широко предоставяне на обществени блага, както е посочено в NA4P. Дипломатическа програма, която съществува успоредно с нарастващите отбранителни способности за изкуствен интелект, ще допринесе значително за успокояване на регионалните опасения относно сближаването на отбранителните технологии и ще постави началото на дългия път към създаване на международни норми и предпазни огради за подходящото използване и развитие на нови и потенциално разрушителни технологии.
През 1992 г. генералният секретар на ООН Бутрос Бутрос-Гали триумфално приветства края на "недоверието и враждебността" с приключването на Студената война. Три десетилетия по-късно Антониу Гутериш призна завръщането на двете. Този нов дневен ред за мир се появява в момент, в който се задълбочава разривът в идеите за глобално управление. Съществува опасност NA4P да отразява днешната оспорвана геополитика и разделението на великите сили, вместо да предлага осезаеми начини за преодоляване на всичко това.
Въпреки това призивът за спешна дипломатическа намеса е в основата на NA4P. Многостранните усилия за управление на един свят в преход, включително структурата на документите и рамките за мир, трябва да бъдат отговорност на държавите. Това създава възможност за дипломатическите инициативи на държавите, и по-конкретно на коалициите от държави, да помогнат за оформянето на Срещата на върха за бъдещето, когато става въпрос за регулирането и управлението на новите и възникващите технологии. ТСД с водеща роля на Австралия е група и институция, която е в добра позиция да започне да играе водеща роля в тази област.
Comments