„ПариGPT“ е убедително предсказание за това как изкуственият интелект ще застраши глобалните икономически пазари и сигурността
През ноември 2022 г. OpenAI пусна GPT-4 под формата на общодостъпен чатбот. Само за два месеца компанията обяви 100 милиона потребители – най-бързо разпространилото се приложение, което някога е достигало този показател. Оттогава темата за изкуствения интелект е всепоглъщаща и се появява в новините, рекламите и разговорите с приятели и семейството. Но какво означава за финансовите пазари това, че ИИ става вездесъщ и се развива с все по-бързи темпове?
В „ПариGPT“ ветеранът от Уолстрийт и бивш съветник в Министерството на отбраната Джеймс Рикардс представя цялостна картина на опасността от ИИ за световния финансов ред, както и коварните начини, по които ИИ ще застраши националната сигурност. Рикардс показва как, въпреки че ИИ се рекламира шумно във връзка с повишаване на ефективността и намаляване на разходите, глобалното му прилагане в света на финансите всъщност ще предизвика хаос, тъй като продажбите пораждат още продажби и масовото теглене на депозити от банки ще се извършва със светкавична скорост. ИИ допълнително облагодетелства злонамерените – твърди Рикардс, – защото без човешка съпричастност или инстинкт за намеса заплахите като тотална ядрена война, които някога са били смятани за крайни, сега са по-вероятни. И предвид всичко това трябва да бъдем бдителни чии ценности ще бъдат насърчавани в епохата на ИИ. Както Рикардс прогнозира, тези системи ще се провалят, когато най-много разчитаме на тях.
„ПариGPT“ показва, че опасността не се крие в алгоритмите, а в нас самите – и от нас зависи да се намесим с човешка логика и здрав разум, преди да е станало твърде късно.
Какво може да донесе утрешният ден
ИИ е създаден, утвърден и се подобрява бързо. GPT, клон на ИИ, е нов, но и мощен и лесно достъпен за тези, които едва познават науката зад него. Роботи с ИИ като Сири (Siri), Алекса (Alexa) и навигационната система на вашия автомобил – всичко със софтуер за гласово разпознаване и способност да разговарят с вас – вече са ви като приятели. Добавената реалност и виртуалната реалност на Мета (Meta’s AR/VR) с неудобни слушалки набира популярност. Очила, които предават фейсбук директно върху вашата ретината от вътрешната страна на обектива, са вече налични. Вашата фурна, съдомиялна машина и хладилник – всички те имат вграден ИИ, за да ви уведомяват за състоянието на настройките. GPT е различен, тъй като това, което може да направи, не се ограничава до температурни настройки и видео потоци на живо по ютюб (стрийминг). Той може да пише граматически правилно и много обстойно и вече се използва за прессъобщения и текстове, които водещите четат по новините.
Тази книга се заема с предизвикателството ИИ/GPT и разглежда как то засяга две области от първостепенно значение за обикновените американци – финансите и националната сигурност. Разбира се, има безброй начини за прилагане на ИИ/GPT както на капиталовите пазари, така и в банковото дело, за да се увеличи ефективността, да се подобри обслужването на клиентите и да се намалят разходите за финансовите посредници. Създадени са вече хедж фондове, използващи GPT за подбор на акции и за предвиждане на валутни курсове. Разглеждаме и опасностите от взаимодействията между роботи, при които са възможни сценарии на формиране на рекурсивна търговия, водеща до срив на пазарите – по причини, които участниците на пазара не могат да си обяснят. Получихме представа за това на 19 октомври 1987 г., когато Дау Джоунс Индъстриал Авридж падна с над 20% за един ден – равняващ се на спад от 8000 пункта, използвайки днешното ниво на индекса. Това се дължеше на застраховката на портфейла, която изискваше от застрахователните доставчици да купуват пут опции, за да хеджират срещу първоначален спад. След това продавачите на опции съкращаваха акциите си, за да хеджират позицията си, което доведе до повече спадове, което, от своя страна, доведе до повече покупки на пут опции и т.н., докато пазарите не влязоха в спирала на смъртта. Този срив не беше толкова автоматизиран, колкото би бил днес. Това се случи преди въвеждането на ИИ. И все пак динамиката на продажбите, причиняваща продажби, остава и системите с ИИ/GPT само ще я ускорят. Автоматичните борсови прекъсвачи предоставят възможност за преустановяване [на търговията], но нищо повече. Роботите не могат да бъдат опитомени толкова лесно, колкото хората.
Ще преминем отвъд капиталовите пазари (акции, облигации, стоки, чуждестранна валута) и ще разгледаме банковото дело (заеми, депозити, евродолари и деривати). И двете сфери са склонни към паника, но динамиката е различна. Паниката на капиталовите пазари се случва внезапно и е много видима. Паниката в банковото дело се развива бавно и е най-вече невидима за вложителите и регулаторите, докато не възникне пълна криза с ликвидността. Понякога двата вида паника се сближават, както в случаите, когато банкови фалити водят до разпродажби на фондовите пазари или обратното.
Опасностите от ИИ не се ограничават до непредвидени последици. Финансовите пазари са магнит за престъпници и злонамерени участници, които са там, за да се възползват от паниката, която причиняват. Това може да се направи с подаването на готови текстове към социалните медии, пиар изданията и традиционните медийни канали. GPT ще поглъща текстове, както е бил обучен да прави. Задаването на параметри ще доведе до надмощие на най-новото или въздействащо формулирано съдържание. Роботите ще правят препоръки въз основа на имитация на новини с предвидими пазарни резултати. Злонамерените участници ще бъдат предварително позиционирани така, че да се възползват от незабавна реакция на пазара. И все пак процесът няма да спре дотук. В света на роботите (робот срещу робот) нито един няма достатъчно информация или процесорна мощност, за да предскаже какво ще се случи след това.
Перспективата за непредвиден, а и умишлен хаос на капиталовите пазари и банковото дело, преминава и в сферата на националната сигурност, където залозите са по-високи. Както държавните, така и недържавните участници разполагат с по-големи ресурси от пазарните манипулатори. Неизбежно е заключението за наличие на зложелателно намерение сред противниците на държавата. Недържавните участници имат мотиви, вариращи от пари до идеология и нихилизъм. Някои недържавни участници са фино завоалирани проксита на държави. По своята същност гледката е замъглена. Това, което специалистите от разузнаването наричат „пустош от огледала“, става още по-дезориентиращо, когато се погледне през „умни“ очила.
В пълен ход е еволюцията от кинетични оръжия към финансови санкции като основна арена на войната. Ракети, мини и минохвъргачки може да са на фронтовата линия, но забраните за износ, конфискуването на активи и вторичните бойкоти са съществено важна част от театъра на бойните действия. Ако можете да унищожите икономиката на врага, без да стреляте дори веднъж, това е предпочитаният път за политиците. Дори когато оръжията са напълно разгърнати, промишленият и финансовият капацитет зад арсеналите е критичен в дългосрочен план. Връзките между финансите, от една страна, и националната сигурност, от друга, са солидни и могат да бъдат решаващи.
ИИ/GPT влиза в това бойно пространство на три отделни вектора. Първият е прилагането на интелигентни системи в ситуации на първа линия, включващи разузнаване, наблюдение, насочване, телекомуникации, заглушаване, логистика, проектиране на оръжия и други традиционни задачи. Вторият е използването на ИИ/GPT за оптимизиране на финансовите санкции, като се вземат предвид ефектите от втори и трети порядък на петролно ембарго, забрани за износ на полупроводници, замразяване на резервни активи, конфискации, забрани за застраховане и други инструменти, предназначени да отслабят или унищожат икономическия капацитет на противника. И накрая ИИ/GPT може да се използва офанзивно не за ограничаване на пазарите, а за унищожаването им. Целта би била не да се налагат разходи чрез санкции, а да се унищожат пазарите по начини, които биха стрували на гражданите трилиони долари загубено богатство. Въздействието надхвърля стойността на активите, тъй като гражданите започват да обвиняват собствените си правителства за финансовата касапница.
Ще разгледаме и най-обезпокоителните аспекти на ИИ/GPT: цензура, пристрастност и измислица (конфабулация) – съдържание, уж генерирано за удобство на ползвателя, което обаче е изцяло съчинено. Този недостатък е по-дълбок от това, което наблюдателите наричат халюцинации на ИИ. Истинските халюцинации са сложни и креативни. По-добра метафора за това, което се случва в ИИ/GPT, е конфабулация, която е форма на психично заболяване. При конфабулация говорителят изрича измислена история с нарцистичен уклон и ограничена свързаност. Това е един вид умствен модул, който може да бъде изваден на показ (и това става многократно), когато говорителят е разтревожен, конфронтиран или – иначе казано – не може да намери думи. Това не е равнозначно на лъжа, защото говорителят – поради липса на самосъзнание – не знае, че лъже.
GPT ще направи същото в процеса на изготвяне на доклад, ако трябва да попълни празно място за постигне на непрекъснатост или пълнота. Това е като да запълним пъзел с липсващото парче, като изфабрикуваме свое собствено парче. Отново – това не е лъжа, защото GPT няма етика или морал, това е машина и тя не може да създава злонамереност, която е необходима, за да лъже. Експерт по темата може и да е в състояние да открие измислицата в един генеративен доклад, но повечето потребители не биха могли. Ако имате нужда от експерти по темата, за да забележите недостатъците в създаденото от ИИ/GPT, тогава на първо място: каква е ползата от тези системи?
Темата за ценностите и етиката е още по-обезпокоителна. Всеки учен и разработчик в областта на ИИ/GPT споменава значението на ценностите и етиката. Те настояват дезинформацията и погрешната информация да бъдат блокирани, загрижени са относно необходимостта от премахване на нови и компенсиране на минали пристрастия. Те търсят начини за прочистване на бази данни и програмни алгоритми, за да не заразят комплектите за обучение и това, което GPT може да генерира. Те искат да популяризират ценностите в приложенията и всичко, което може да създаде ИИ/GPT.
Тази етична поза игнорира трудните въпроси. Точно чии ценности трябва да бъдат насърчавани? Последната т.нар. дезинформация се оказа вярна, докато тези, които ѝ се противопоставяха, издигаха фалшиви послания. Войната срещу пристрастията предполага, че пазачите на информационния вход нямат свои собствени пристрастия и пренебрегва факта, че пристрастията са ценен технически похват за оцеляване, който никога няма да изчезне. Разнообразието стана кодова дума за еднородност във възгледите. Дискриминацията е ценна, ако се използва за филтриране на диваците и нецивилизованите. Защо трябва да се вярва на пазачи с ИИ на информационни входове като „Гугъл“ и „Мета“, след като те посветиха последните десет години на насърчаването на фалшиви разкази относно Ковид, изменението на климата и политиката, като същевременно лишават от трибуна (деплатформират) и лишават от заплащане (демонетизират) разказвачите на истината? В по-голям мащаб, ако наборите материали за обучение са „замърсени“ от лъжи в масовите медии, защо изходните данни, генерирани от GPT, да бъдат различни? Тези предизвикателства трябва да бъдат преодолени поради съществени причини и защото те оказват въздействие върху прилагането на технологията на ИИ в много области от реалния свят.
Хората ще трябва да решат: дали заради удобството Алекса да изключва светлините си струва да има подслушвателно устройство, предаващо лични разговори на централизиран контролер 24/7? Струва ли си удобството от генеративния изкуствен интелект наличието на фалшивите разкази, които ще бъдат разпространявани чрез изопачена информация в учебните комплекти, зле скалъпените скрабове, прочистващи пристрастия и популярни в момента модни ценности? Възможно е да се вземе най-доброто от ИИ/GPT и все пак да се отстранят пропагандаторите. Тестваните във времето ценности ще надделеят с подкрепата на хуманистичните възгледи, доверието в общността и увереността в собствените възможности. Ние не сме безпомощни. Тази книга посочва път напред.
Книгата „Пари GPT. Изкуственият интелект и заплахата за световната икономика“, на Джеймс Рикардс, можете да закупите с 20% отстъпка, чрез сайта на "Издателство Изток - Запад".
