top of page

Генеративният изкуствен интелект е изправен пред сериозно изпитание по време на изборите в Индонезия


Фика Джулиана Путри, 19-годишна продавачка в магазин в Източна Джакарта, планира да гласува на президентските избори в Индонезия следващата седмица за бившия командир на специалните сили, от когото някога се страхуваха. Тя казва, че го харесва, защото е симпатичен. Карикатурна версия на бившия генерал Прабово Субианто, създадена с помощта на генеративен изкуствен интелект, е изобразена на билбордове в цяла Индонезия. Тя е възпроизведена върху потници и стикери и заема видно място в публикациите с етикет #Prabowo, които имат около 19 милиарда гледания в TikTok. Прабово е министър на отбраната на Индонезия. Но в социалните мрежи неговият аватар с пухкави бузи и изкуствен интелект прави сърца с пръсти в корейски стил и люлее любимата си котка Боби за радост на избирателите от поколението Z. Около половината от 205-те милиона гласоподаватели в Индонезия са на възраст под 40 години.


Общите избори в сряда в Индонезия, третата по големина демокрация в света, дават представа за това как генеративният ИИ може да промени мащабните политически кампании, казват експерти. Карикатурата, генерирана от изкуствен интелект, заема централно място в предизборната кампания за ребрандиране на Прабово, който е далеч напред в социологическите проучвания. Вместо да се представя като пламенен националист, както правеше в предишните си две неуспешни президентски кандидатури, новата фраза на 72-годишния Право е "gemoy" - което на индонезийски жаргон означава "сладък" и "мил". "Ще гласувам за него, защото той е gemoy", каза Путри, която гласува за първи път. "Това е основната причина."

Прабово - и неговият двойник, създаден с помощта на технология от американската фирма Midjourney - е начело на стотици кандидати, които използват генеративни инструменти на изкуствения интелект за създаване на изкуство на кампанията, проследяване на настроенията в социалните медии, изграждане на интерактивни чатботове и насочване към избирателите.


Кампанията на Прабово и Midjourney, чиито насоки забраняват използването му за политически кампании, не отговориха на молбите за коментар. "Това са първите избори, на които виждаме, че тези инструменти се използват в голям мащаб", каза Кейти Харбат, която до 2021 г. е била главен служител по изборната политика в Meta, а сега пише бюлетин за технологиите и демокрацията. Харбат, която изрази изненада, че инструментите на изкуствения интелект са били възприети от кампаниите в Индонезия толкова бързо, заяви, че е твърде рано да се прецени цялостното изборно въздействие на такова "безпрецедентно и новаторско" използване на технологиите.


Бяха интервюирани 26 души, за да се оцени използването на технологиите за изкуствен интелект в кампанията в Индонезия, включително политически съветници, лобисти, ръководители на технологични компании, експерти и художници, създаващи генеративни изображения с изкуствен интелект за политици. Някои от тях говориха при условие за анонимност, тъй като не бяха упълномощени да говорят пред медиите. Те описаха доставчици и кампании, които преминават границите на насоките, издадени от доставчици като Midjourney и лидера на пазара на генеративен ИИ OpenAI. Индонезийското правителство все още не е формулирало задължителни правила за използването на инструменти на ИИ.


Тъй като държавите, в които живее една трета от населението на света, се отправят към избирателните секции тази година, включително САЩ и Индия, изборите в Индонезия са тест за това как OpenAI ще контролира своите политики, според седем политически лобисти и експерти. Много от инструментите за изкуствен интелект, използвани в изборите в Индонезия, са задвижвани от OpenAI, твърдят девет висши служители на кампанията. Това включва и платформата на Прабово, според координатора на дигиталния му екип. Собственикът на ChatGPT, базиран в Сан Франциско, миналия месец представи правила, забраняващи използването ѝ за политически кампании на фона на глобалните опасения от намеса на ИИ в изборите. Те включват забрана за създаване на изображения на действителни хора, включително политици.


OpenAI заяви, че разследва политически чатботове и инструменти, за които в Индонезия е установено, че използват нейната технология. Тя заяви, че първоначалният преглед не е открил "никакви доказателства" за използването на нейните инструменти в изборите и че се ангажира с прозрачността и издигането на точна информация. Политическият консултант Йосе Ризал заяви, че разработеното от него приложение Pemilu.AI използва софтуера GPT-4 и 3.5 на OpenAI за изработване на хиперлокални стратегии и речи за кампанията.


Индонезийският консултант заяви, че е продал услугите на приложението на 700 кандидати за депутати. Не беше възможно да се потвърдят независимо тези продажби. Pemilu.AI събира демографски данни и претърсва социални медии и новинарски уебсайтове, което му позволява да генерира речи, лозунги и съдържание в социалните медии, съобразени с избирателния район. Кандидатите изброяват политическите си приоритети и избират начина, по който искат да бъдат представени. Най-желаните характеристики сред политиците, използващи Pemilu.AI в Индонезия, най-многолюдната мюсюлманска държава в света, са "смирен" и "религиозен", казва Ризал. Запитан за правилата на OpenAI, Ризал заяви, че Pemilu.AI не участва "в създаването на политически кампании". Вместо това той я описва като комуникационен инструмент, който "подпомага процеса на вземане на решения от кандидатите".


Следващата спирка е Индия

След това Ризал планира да пренесе платформата в Индия преди общите избори, които се очакват през май. "Тъй като Индонезия е преди САЩ и Индия ... тези избори са загрявка", каза той. Той заяви, че Pemilu.AI си сътрудничи тясно с Microsoft, която хоства компанията на своята облачна услуга Azure, за да гарантира, че дейността ѝ е съобразена с разпоредбите. Microsoft, която е основен инвеститор в OpenAI, заяви, че не коментира ангажименти на клиенти. Ризал заяви, че изпробва версия на Pemilu.AI на AI на Google, след като е бил потърсен от нейния екип по продажбите. Google потвърди, че Pemilu.AI е извършил предварителна работа с помощта на нейния AI и е станал клиент на облачна услуга. Google заяви, че няма ограничения за използването на чатбота ѝ Bard за политически кампании, освен забраната за дезинформация.


Изборите в Индонезия поставят на изпитание границите на това, което някои компании за изкуствен интелект смятат за политическа кампания. Правилата на OpenAI, актуализирани на 10 януари, забраняват използването на технологията ѝ за политически кампании или лобиране, включително генериране на персонализирани или насочени към определени демографски групи материали за кампании. През същия месец OpenAI забрани на разработчика на бот за кандидата за президент на САЩ от Демократическата партия Дийн Филипс, като това беше първият случай, в който тя предприе действия във връзка с подобни правила.


Поддръжниците на използването на генеративен изкуствен интелект в изборите в Индонезия казват, че то е дало на кандидатите за законодателни органи достъп до персонализирани инструменти за провеждане на кампании, които иначе биха били запазени за основните претенденти с по-големи бюджети. Продължаващото внедряване на ИИ е съвсем естествено, казва Рази Талиб, който ръководи дигиталния екип на друг претендент за президентския пост - Аниес Басуедан, бивш губернатор на Джакарта. "Може би резултатите от изборите ще доведат до извличане на поуки, които ще увеличат степента на приемане" на други места, каза той.


Съветник на Ганджар Праново, кандидата на най-голямата партия в парламента, потвърди, че ИИ е бил използван и за неговата творческа кампания.

Генерал "Гемой Прабово, с преднина от 20 пункта в социологическите проучвания и с негласната подкрепа на популярния президент на Индонезия Джоко Уидодо, е най-големият бенефициент на генеративния ИИ през този цикъл, като го използва, за да засили подкрепата си сред поколението Z. Милиони млади гласоподаватели не са били живи, когато Прабово е бил уволнен от армията на Индонезия в края на 90-те години на миналия век на фона на обвинения в нарушаване на правата, които той винаги е отричал. Поддръжниците могат да използват приложението на кампанията на Прабово, за да се вмъкнат в генерирани от изкуствен интелект сцени, като например поход в джунглата заедно с облечения в сафари политик, които след това се споделят в социалните медии.


"Някои казват, че ИИ не е добър за политиката, но ИИ предизвиква интерес у хората", казва 25-годишният художник Адриансия, който заедно със съпругата си Луси Юлистия получава поръчка да направи генерирани от Миджурнай изкуства на Прабово и неговия кандидат за президент, 36-годишния син на Уидодо.


Възрастта за гласуване в Индонезия е 17 години, а проучване на социологическата агенция Indikator Politik от януари показа, че Прабово е получил над 60% от гласовете на поколението Z. Той е и най-популярният кандидат сред милениалите, като получава 42% от тяхната подкрепа.


Доброволческият клон на кампанията стартира през декември платформата за генеративен изкуствен интелект PrabowoGibran.ai, за да помогне на 15 000-те си "кибертроп" доброволци да следят онлайн настроенията и да споделят изкуство, генерирано от изкуствен интелект, в социалните медии.


Националният координатор Антъни Леонг заяви, че платформата използва технологията OpenAI и собствен софтуер. В Индонезия политическите кампании са наели творци, които да използват инструменти за създаване на текст за изкуство, като Midjourney, Leonardo AI, Microsoft Bing и Pika Labs, казаха петима творци.

Говорител на Microsoft Bing, който се захранва от модела за преобразуване на текст в изображение DALL-E на OpenAI, заяви, че публичните личности могат да поискат да ограничат създаването на изображения, свързани с техните имена.

LeonardoAI и Pika Labs не са отговорили на исканията за коментар.


"Вярно е, че приложението има ограничения по отношение на политическото съдържание", каза Луси, визирайки Midjourney. "По същество аз използвам приложението само за да променя характера на оригиналната снимка в определена тема".


AI навсякъде

Кампанията на Аниес пусна през януари чатбот за WhatsApp, задвижван от OpenAI, който отговаря на въпроси за неговата политика. Това последва подобен инструмент от лагера на Прабово, който беше свален малко след пускането му през декември, след като неправилно приписваше седем стълба на държавната идеология на Индонезия, докато те са само пет. Той не беше възстановен. Кампанията на Ганджар е внедрила табло, което използва технологията OpenAI и търси данни онлайн, за да прогнозира гледните точки и да предлага предупреждения в социалните медии в реално време по отношение на кандидата, каза съветникът Анди Виджаянто.

Един от спорните случаи на използване на изкуствен интелект възникна през януари, когато партията Golkar, която подкрепя Прабово, пусна "дълбоко фалшиви" видеоклипове на покойния силен владетел Сухарто, в които призовава избирателите да подкрепят нейните кандидати. Клиповете, съдържащи послания на кампанията, бяха отбелязани като генерирани от изкуствен интелект.


Екипът за застъпничество по въпросите на изборите (TAPP), базираната в Джакарта организация с нестопанска цел, заяви в изявление, че видеоклиповете, които остават онлайн, показват потенциала на ИИ за манипулиране на избирателите.

Дара Насутион, високопоставен служител на Голкар в областта на цифровите технологии, нарече видеоклиповете "положителни послания". Образът на Сухарто е създаден с помощта на Midjourney и приложението за обработка на изображения Leonardo AI, а гласът му е изработен с помощта на софтуера за клониране на глас на американския стартъп ElevenLabs, комбиниран със собствена технология, каза тя.

Leonardo AI и ElevenLabs не са отговорили на запитванията за коментар.


Трима наблюдатели на изборите заявиха, че не са виждали ИИ да се използва за мащабно разпространение на дезинформация и дезинформация по време на състезанието. "Дезинформацията беше ограничена в сравнение с изборите през 2019 г.", каза Арибово Сасмито, съосновател на организацията за проверка на факти Mafindo.

Commentaires


bottom of page