Изкуственият интелект ще се превърне в ключов фактор, определящ реда в света - от рекалибрирането на военната стратегия до възстановяването на дипломацията. Неподвластен на страха и облагодетелстването, изкуственият интелект въвежда нова възможност за обективност при вземането на стратегически решения. Но тази обективност, използвана както от военнослужещия, така и от миротвореца, следва да запази човешката субективност, която е от съществено значение за отговорното прилагане на сила. ИИ във войната ще осветли най-добрите и най-лошите прояви на човечеството. Той ще служи като средство както за водене на война, така и за нейното прекратяване.
Дългогодишната борба на човечеството да се конституира във все по-сложни механизми, така че никоя държава да не придобива абсолютно господство над другите, е достигнала статута на непрекъснат, непрекъснат природен закон. В свят, в който главните действащи лица все още са хора - дори и да са снабдени с изкуствен интелект, който да ги информира, консултира и съветва - държавите все още трябва да се радват на известна стабилност, основана на общи норми на поведение, подлежащи на настройките и корекциите на времето.
Но ако ИИ се превърне в практически независима политическа, дипломатическа и военна съвкупност от субекти, това ще наложи смяната на вековния баланс на силите с ново, неизследвано неравновесие. Международният концерт на националните държави - крехко и променящо се равновесие, постигнато през последните няколко века - се е запазил отчасти поради присъщото равенство на участниците. Един свят на сериозна асиметрия - например, ако някои държави възприемат изкуствения интелект на най-високо ниво по-лесно от други - би бил далеч по-малко предвидим. В случаите, в които някои хора могат да се изправят във военно или дипломатическо отношение срещу държава с високо ниво на ИИ или срещу самия ИИ, хората биха могли да се борят за оцеляване, а още по-малко да се конкурират. Такъв междинен ред би могъл да стане свидетел на вътрешна имплозия на обществата и неконтролируема експлозия на външни конфликти.
Има и други възможности. Освен в търсене на сигурност, хората отдавна водят войни в преследване на триумф или в защита на честта си. Машините - засега - нямат представа нито за триумф, нито за чест. Те може никога да не започнат война, като вместо това изберат например незабавни, внимателно разпределени прехвърляния на територии въз основа на сложни изчисления. Или пък може да предприемат действия, които да се превърнат в кървави войни за изтощаване на човешкия живот, като се стремят към резултат и обезценяват индивидуалните животи. В един от сценариите нашият вид може да се превърне в толкова променен, че да избегне изцяло бруталността на човешкото поведение. В друг случай технологията ще ни подчини до такава степен, че ще ни върне към варварското минало.
ДИЛЕМАТА ЗА СИГУРНОСТТА НА ИИ
Много държави са съсредоточени върху това как да „спечелят надпреварата с изкуствения интелект“. Отчасти този стремеж е разбираем. Културата, историята, комуникацията и възприятията са заговорничили, за да създадат сред днешните големи сили дипломатическа ситуация, която подхранва несигурността и подозренията от всички страни. Лидерите вярват, че едно постепенно тактическо предимство може да бъде решаващо във всеки бъдещ конфликт и че ИИ може да предложи точно това предимство.
Ако всяка страна желае да увеличи позициите си, тогава ще се създадат условия за психологическо съревнование между съперничещи си военни сили и разузнавателни агенции, с каквото човечеството не се е сблъсквало никога досега. Очаква ни екзистенциална дилема в областта на сигурността. Логичното първо желание на всеки човешки участник, който притежава свръхинтелигентен ИИ - т.е. хипотетичен ИИ, по-интелигентен от човека - може да бъде да се опита да гарантира, че никой друг няма да получи тази мощна версия на технологията. Всеки такъв участник може също така основателно да предположи по подразбиране, че неговият съперник, преследван от същата несигурност и изправен пред същите залози, ще обмисля подобен ход.
Ако не се стигне до война, свръхинтелигентният ИИ може да подкопае, подкопае и блокира конкурентна програма. Например ИИ обещава както да подсили конвенционалните компютърни вируси с безпрецедентна сила, така и да ги прикрие добре. Подобно на компютърния червей Stuxnet - разкритото през 2010 г. кибероръжие, за което се смяташе, че е разрушило една пета от иранските уранови центрофуги - агентът на ИИ би могъл да саботира напредъка на конкурента по начин, който замазва присъствието му, като по този начин принуждава вражеските учени да преследват сенките. Благодарение на уникалната си способност да манипулира слабите места в човешката психология, ИИ би могъл също така да превземе медиите на съперничеща страна, произвеждайки поток от синтетична дезинформация, която да е толкова тревожна, че да вдъхнови масова опозиция срещу по-нататъшния напредък на капацитета на тази страна в областта на ИИ.
За държавите ще бъде трудно да получат ясна представа за това къде се намират спрямо другите в надпреварата за ИИ. Най-големите модели на изкуствен интелект вече се обучават в защитени мрежи, отделени от останалата част на интернет. Някои ръководители смятат, че самата разработка на ИИ рано или късно ще се премести в непробиваеми бункери, чиито суперкомпютри ще се захранват с ядрени реактори. Центрове за данни вече се изграждат дори на дъното на океана. Скоро те ще могат да бъдат разположени в орбити около Земята. Корпорациите или държавите могат все по-често да „излязат на светло“, като престанат да публикуват изследвания в областта на изкуствения интелект, не само за да не дадат възможност на злонамерени участници, но и за да прикрият собствените си темпове на развитие. За да изкривят истинската картина на своя напредък, други биха могли дори да се опитат да публикуват умишлено подвеждащи изследвания, като ИИ подпомага създаването на убедителни фалшификации.
Съществува прецедент за подобни научни хитрости. През 1942 г. съветският физик Георгий Фльоров прави правилно заключение, че Съединените щати създават ядрена бомба, след като забелязва, че американците и британците внезапно са спрели да публикуват научни статии за атомното делене. Днес подобно състезание би било още по-непредсказуемо, като се има предвид сложността и нееднозначността на измерването на напредъка в постигането на нещо толкова абстрактно като интелигентността. Въпреки че някои смятат, че предимството е съизмеримо с размера на притежаваните от тях модели на ИИ, по-големият модел не е непременно по-добър във всички контексти и не винаги може да надделее над по-малките модели, прилагани в голям мащаб. По-малките и по-специализирани машини с ИИ могат да действат като рояк безпилотни самолети срещу самолетоносач - неспособни да го унищожат, но достатъчни, за да го неутрализират.
Възможно е даден участник да се възприема като притежаващ цялостно предимство, ако демонстрира постижения в определена способност. Проблемът с този начин на мислене обаче е, че ИИ се отнася само до процес на машинно обучение, който е заложен не само в една технология, но и в широк спектър от технологии. По този начин способностите във всяка една област могат да бъдат обусловени от фактори, напълно различни от способностите в друга област. В този смисъл всяко „предимство“, както обикновено се изчислява, може да се окаже илюзорно.
Освен това, както показва експоненциалният и непредвиден бум на възможностите на ИИ през последните години, траекторията на напредъка не е нито линейна, нито предвидима. Дори ако може да се каже, че един участник „води“ друг с приблизителен брой години или месеци, внезапен технически или теоретичен пробив в ключова област в критичен момент може да обърне позициите на всички участници.
В такъв свят, в който никой от лидерите не може да се довери на най-солидното си разузнаване, на най-първичните си инстинкти или дори на основата на самата реалност, правителствата не могат да бъдат обвинявани, че действат от позицията на максимална параноя и подозрение. Лидерите несъмнено вече вземат решения, изхождайки от предположението, че техните начинания са под наблюдение или крият изкривявания, създадени от злонамерено влияние. При най-лошия сценарий стратегическият разчет на всеки участник на границата би бил да даде приоритет на скоростта и секретността пред безопасността. Човешките лидери биха могли да бъдат обхванати от страха, че няма такова нещо като второ място. Под натиск те биха могли преждевременно да ускорят внедряването на ИИ като възпиращ фактор срещу външно разрушение.
НОВА ПАРАДИГМА НА ВОЙНАТА
През почти цялата човешка история войната се е водила в определено пространство, в което човек е можел да знае с разумна сигурност възможностите и позицията на враждебните вражески сили. Комбинацията от тези две характеристики е осигурявала на всяка от страните чувство за психологическа сигурност и общ консенсус, което е позволявало съзнателно ограничаване на смъртоносните действия. Само когато просветените лидери бяха обединени в основното си разбиране за това как може да се води война, противостоящите сили можеха да определят дали трябва да се води война.
Бързината и мобилността са сред най-предсказуемите фактори, които са в основата на способностите на всяка една военна техника. Ранна илюстрация е развитието на оръдията. В продължение на хилядолетие след построяването им Теодосиевите стени защитават големия град Константинопол от външни нашественици. Тогава, през 1452 г., един унгарски инженер по артилерия предлага на император Константин XI построяването на гигантско оръдие, което, стреляйки иззад защитните стени, да разбива нападателите на прах. Но самодоволният император, който не разполагал нито с материални средства, нито с прозорливост, за да осъзнае значението на технологията, отхвърлил предложението.
За негово нещастие унгарският инженер се оказал наемник. Сменяйки тактиката (и страната), той осъвременява проекта си, за да бъде по-мобилен - да може да се транспортира с не по-малко от 60 вола и 400 души - и се обръща към съперника на императора, османския султан Мехмед II, който се готви да обсади непроницаемата крепост. Спечелвайки интереса на младия султан с твърдението си, че това оръжие може да „разбие стените на самия Вавилон“, предприемчивият унгарец помага на турските сили да пробият древните стени само за 55 дни.
Контурите на тази драма от XV век могат да се видят отново и отново в историята. През XIX в. скоростта и мобилността променят съдбата първо на Франция, когато армията на Наполеон завладява Европа, а след това и на Прусия под ръководството на Хелмут фон Молтке (Старши) и Албрехт фон Роон, които се възползват от новоразработените железници, за да могат да маневрират по-бързо и по-гъвкаво. По същия начин блицкригът - еволюция на същите германски военни принципи - ще бъде използван срещу съюзниците през Втората световна война с голям и ужасен ефект.
„Светкавичната война“ придоби ново значение - и повсеместност - в епохата на цифровата война. Скоростите са мигновени. Нападателите не трябва да жертват смъртоносността си, за да поддържат мобилността си, тъй като географията вече не е ограничение. Въпреки че тази комбинация до голяма степен е в полза на нападението при цифровите атаки, в ерата на изкуствения интелект може да се увеличи скоростта на реакцията и да се позволи на киберотбраната да се изравни с киберотбраната.
В кинетичната война ИИ ще предизвика още един скок напред. Дроновете, например, ще бъдат изключително бързи и невъобразимо мобилни. След като ИИ бъде използван не само за насочване на един дрон, но и за насочване на флотилии от тях, ще се образуват облаци от дронове, които ще летят в синхрон като един сплотен колектив, съвършен в своята синхронност. Бъдещите рояци от дронове ще се разтварят и възстановяват без усилие в единици от всякакъв размер, подобно на елитните сили за специални операции, които се изграждат от мащабируеми отряди, всеки от които е способен на суверенно командване.
Освен това изкуственият интелект ще осигури също толкова бърза и гъвкава защита. Флотилиите от дронове са непрактични, ако не и невъзможни за сваляне с конвенционални снаряди. Но оръжията с ИИ, които изстрелват куршуми от фотони и електрони (вместо боеприпаси), биха могли да пресъздадат същите смъртоносни дезактивиращи способности като слънчевата буря, която може да изпържи схемите на откритите сателити.
Оръжията с изкуствен интелект ще бъдат безпрецедентно точни. Ограниченията в познаването на географията на антагониста отдавна ограничават възможностите и намеренията на всяка воюваща страна. Но съюзът между науката и войната е стигнал дотам, че да гарантира все по-голяма точност на инструментите, а от ИИ може да се очаква да направи още по-големи пробиви. По този начин ИИ ще намали разликата между първоначалното намерение и крайния резултат, включително при прилагането на смъртоносна сила. Независимо дали става въпрос за рояци дронове, базирани на сушата, машинни корпуси, разположени в морето, или евентуално междузвездни флотилии, машините ще притежават изключително прецизни способности за убиване на хора с малка степен на несигурност и с неограничено въздействие. Границите на потенциалното унищожение ще зависят единствено от волята и сдържаността на човека и машината.
При това положение в епохата на изкуствения интелект воденето на война ще се сведе предимно до оценка не на възможностите на противника, а на неговите намерения и стратегическите им приложения. В ядрената епоха ние вече навлязохме в такава фаза, но нейната динамика и значение ще станат много по-остри, когато ИИ докаже своята стойност като военно оръжие.
При наличието на толкова ценна технология хората може дори да не са основните цели на войната с помощта на ИИ. Всъщност ИИ би могъл напълно да премахне хората като пълномощник във войната, като я направи по-малко смъртоносна, но потенциално не по-малко решаваща. По подобен начин изглежда малко вероятно територията сама по себе си да провокира агресия от страна на ИИ, но центровете за данни и другата критична цифрова инфраструктура със сигурност биха могли.
Тогава капитулацията ще настъпи не когато числеността на противника намалее и арсеналът му се изпразни, а когато силициевият щит на оцелелите се окаже неспособен да спаси технологичните им активи - и накрая човешките им заместници. Войната би могла да се превърне в игра с чисто механични смъртни случаи, като решаващият фактор ще бъде психологическата сила на човека (или ИИ), който трябва да се бори, за да рискува, или да се откаже, за да предотврати пробивния момент на пълно унищожение.
Дори мотивите, които управляват новото бойно поле, ще бъдат до известна степен чужди. Английският писател Г. К. Честъртън веднъж се пошегува, че „истинският войник се бие не защото мрази това, което е пред него, а защото обича това, което е зад него“. Войната с изкуствен интелект едва ли ще включва любов или омраза, да не говорим за понятието войнишка храброст. От друга страна, тя все още може да включва его, идентичност и лоялност - макар че естеството на тези идентичности и лоялност може да не съответства на тези от днес.
Изчисленията при водене на война винаги са били сравнително прости: страната, която първа намери за непоносима болката от битката, вероятно ще бъде победена. Съзнанието за собствените недостатъци в миналото е предизвиквало сдържаност. Без такова съзнание и без усещане за болка (и следователно с голяма търпимост към нея), не може да не се запитаме какво, ако изобщо има нещо, би предизвикало сдържаност у един ИИ, който е въведен във войната, и какво би довело до края на конфликтите, които той води. ИИ, който играе шах, ако никога не е бил информиран за правилата, които диктуват края на играта, би могъл да играе до последната пешка.
ГЕОПОЛИТИЧЕСКО ПРЕСТРУКТУРИРАНЕ
Във всяка епоха на човечеството, почти като че ли в подчинение на някакъв природен закон, се е появявала, както веднъж се изрази един от нас (Кисинджър), единица, „притежаваща силата, волята и интелектуалния и морален импулс да формира цялата международна система в съответствие със собствените си ценности“. Най-познатото устройство на човешките цивилизации е това на Вестфалската система, както се разбира условно. Идеята за суверенната национална държава обаче е само на няколко века, възникнала в средата на XVII в. в резултат на договорите, които са известни под общото наименование Вестфалски мир. Тя не е предопределената единица на социална организация и може би не е подходяща за епохата на изкуствения интелект. Всъщност, тъй като масовата дезинформация и автоматизираната дискриминация предизвикват загуба на вяра в това устройство, ИИ може да представлява присъщо предизвикателство за властта на националните правителства. Алтернативно, ИИ може да промени относителните позиции на конкурентите в рамките на днешната система. Ако силите му се използват предимно от самите национални държави, човечеството може да бъде принудено да премине към хегемонистичен застой или към ново равновесие на национални държави, овластени от ИИ. Но технологията може да бъде и катализатор на още по-фундаментален преход - преминаване към изцяло нова система, в която държавните правителства на свой ред ще бъдат принудени да се откажат от централната си роля в глобалната политическа инфраструктура.
Една от възможностите е компаниите, които притежават и разработват ИИ, да натрупат тотализираща социална, икономическа, военна и политическа власт. Днешните правителства са принудени да се борят с трудната си позиция едновременно като поддръжници на частните корпорации - предоставящи военната си мощ, дипломатическия си капитал и икономическата си мощ за насърчаване на тези родни фирми - и като поддръжници на средния гражданин, подозрителен към монополната алчност и секретност. Това може да се окаже несъстоятелно противоречие.
Междувременно корпорациите биха могли да създадат съюзи, за да укрепят и без това значителната си сила. Тези съюзи могат да бъдат изградени въз основа на допълващи се предимства и печалба от сливане или, алтернативно, въз основа на обща философия за разработване и внедряване на системи за изкуствен интелект. Тези корпоративни съюзи биха могли да поемат традиционни функции на национални държави, но вместо да се стремят да определят и разширяват ограничени територии, те ще развиват дифузни цифрови мрежи като свои области.
Съществува и друга алтернатива. Неконтролируемото разпространение на отворен код може да доведе до появата на по-малки банди или племена с нестандартни, но значителни възможности за ИИ, достатъчни да управляват, осигуряват и защитават себе си в рамките на определен ограничен обхват. Сред човешките групи, които отхвърлят установената власт в полза на децентрализираните финанси, комуникация и управление, такава технологична протоанархия би могла да надделее. Или пък такива групировки могат да включат религиозно измерение. В края на краищата по отношение на обхвата християнството, ислямът и индуизмът са били по-големи и по-дълготрайни от която и да е държава в историята. В бъдещата епоха религиозното вероизповедание, а не националното гражданство, може да се окаже по-подходящата рамка за идентичност и лоялност.
И в двата случая в бъдеще, независимо дали ще бъдат доминирани от корпоративни съюзи или разпръснати в свободни религиозни групировки, новата „територия“, за която всяка група ще претендира и за която ще се бори, няма да бъде парчета земя, а дигитален пейзаж, търсещ лоялността на отделните потребители. Връзките между тези потребители и всяка администрация ще подкопаят традиционното понятие за гражданство, а споразуменията между субектите ще бъдат различни от обикновените съюзи.
В исторически план съюзите са били създавани от отделни лидери и са служели за увеличаване на силата на нацията в случай на война. За разлика от това перспективата за гражданство и съюзи - а може би и завоевания или кръстоносни походи - структурирани около мненията, убежденията и субективната идентичност на обикновените хора в мирно време, би изисквала нова (или много стара) концепция за империята. Това би наложило също така преоценка на задълженията, свързани с обещаването на вярност, и на разходите за възможностите за излизане, ако изобщо има такива в бъдещето, свързано с ИИ.
МИР И ВЛАСТ
Външната политика на националните държави се изгражда и коригира чрез балансиране между идеализма и реализма. Временните баланси, постигнати от нашите лидери, се разглеждат в ретроспекция не като крайни състояния, а само като ефимерни (ако са били необходими) стратегии за своето време. С всяка нова епоха това напрежение води до различен израз на това какво представлява политическият ред. Дихотомията между преследването на интереси и преследването на ценности - или между предимството на определена национална държава и глобалното благо - е част от тази непрестанна еволюция. При провеждането на своята дипломация лидерите на по-малките държави в исторически план са реагирали праволинейно, давайки приоритет на нуждите на собственото си оцеляване. За разлика от тях отговорните за глобалните империи, разполагащи със средства за реализиране на допълнителни цели, са били изправени пред по-мъчително затруднение.
От началото на цивилизацията, когато човешките организационни единици са се разраствали, те едновременно са постигали нови нива на сътрудничество. Но днес, може би поради мащаба на планетарните предизвикателства, както и поради материалното неравенство, което се проявява между държавите и вътре в тях, се появи отпор срещу тази тенденция. ИИ би могъл да се окаже съизмерим с изискванията на този все още по-голям мащаб на човешкото управление, способен да вижда с детайлност и вярност не само императивите на страната, но и взаимодействието на земното кълбо.
Ние се надяваме, че ИИ, използван за политически цели у дома и в чужбина, може да направи нещо повече от това да осветли балансираните компромиси. В идеалния случай той би могъл да предложи нови, глобално оптимални решения, действащи в по-дълъг времеви хоризонт и с по-голяма прецизност, отколкото са способни хората, и по този начин да хармонизира конкуриращите се човешки интереси. В бъдещия свят машинните интелекти, които се ориентират в конфликтите и преговарят за мир, могат да помогнат за изясняването или дори преодоляването на традиционните дилеми.
Въпреки това, ако ИИ наистина реши проблеми, които би трябвало да се надяваме да разрешим сами, бихме могли да се изправим пред криза на доверието - както на прекомерната увереност, така и на липсата на увереност. В първия случай, след като разберем границите на собствената си способност за самокоригиране, може да се окаже трудно да признаем, че сме стигнали дотам да отстъпим твърде много власт на машините при решаването на екзистенциални въпроси на човешкото поведение. За вторите, осъзнаването, че простото отстраняване на човешката дейност от управлението на нашите дела е било достатъчно, за да се решат най-трудно решимите ни проблеми, може да разкрие твърде ясно недостатъците на човешкия дизайн. Ако мирът винаги е бил просто доброволен избор, то цената на човешкото несъвършенство е платена в монетата на вечната война. Да знаем, че решението винаги е съществувало, но никога не е било измислено от нас, би било съкрушително за човешката гордост.
В случая със сигурността, за разлика от този с преместването на хора в научни или други академични начинания, можем по-лесно да приемем безпристрастността на механична трета страна като непременно превъзхождаща личния интерес на човека - точно както хората лесно признават необходимостта от посредник при спорен развод. Някои от най-лошите ни черти ще ни дадат възможност да проявим някои от най-добрите си черти: че човешкият инстинкт за личен интерес, дори за сметка на другите, може да ни подготви да приемем трансцендирането на Аз-а от страна на ИИ.
Comentarios