„След десетилетия на съблазън, залъгване и обещания за рай технократите обявиха на човечеството шах и мат. Те закриха епохата на Просвещението и потопиха хората в състояние на нарцистична наркоза.
Планетата, която човекът ограбваше хищно, отвърна на удара; вместо да потърси изход, самопровъзгласилият се за „елит“ хакна Homo sapiens и го използва като суровина в търсенето на желания Граал на властта.
Как ние, общността на „разумните хора“, стигнахме до това, извървявайки за 50 000 години пътя от скалните рисунки и тамтамите до балета и Толстой, а след това само за петдесет години – обратния път от Толстой до графитите и рапа? Защо хората толкова бързо се отказаха от своите права, извоювани с вековна борба? И основният въпрос: неизбежен ли е свят без интелигентен живот? И какъв е шансът ни за спасение?
В стремежа си да властват над себеподобните си, някои същества иначе от вида Homo sapiens са в състояние да сведат човешкия ум до този на нематода. В такъв случай компютърът ще успее да държи под контрол човечеството много по-лесно, отколкото Илон Мъск прави това с опитните си свинчета.
Аз вярвам, че човекът може и е длъжен да отговори на експанзията на Цифровия Левиатан с нова творческа експлозия и със своята собствена човешка уникалност. Човешката сингулярност се подготвя от работата на всеки от нас над собственото му тяло и съзнание и от процеса на реорганизация на човешките общности. Само така ще можем да избегнем апокалиптичното подчиняване на машината, технологичното робство и живота в матрицата на цифровия концлагер – с последващо самоунищожение на човечеството.“
Игор Шнуренко, aka Cyril Gilson
400 c., мека корица: 29.90 лв., твърда корица: 34.90 лв.
Откъс
Когато тази книга беше почти завършена, пред очите ми попадна видеоклип от напълно безлюдното китайско пристанище Яншан, разпростряло се на няколко километра и функциониращо вече две години. По разчертаното от небето до земята пространство деловито се придвижваха приклекнали безпилотни товарни платформи, а безпилотни манипулатори спускаха върху тях контейнери. Те се превозваха до нужното място, където ги подхващаха други манипулатори, след което платформите, мигайки, се отправяха да изпълнят следваща задача.
Работи се денонощно, без да се спира дори за секунда. На другия край на света контейнерите ще бъдат разтоварени от същите безпилотни манипулатори, ще бъдат откарани по безпилотна писта до безлюдна фабрика, където от доставените детайли автомати ще сглобят нови автомати, дронове, роботи, компютри, екскаватори за металодобив, за да направят още повече автомати, дронове, роботи, компютри, екскаватори...
Те ще направят нови машини за извличане на природни ресурси от Земята и машини за извличане на психични, емоционални и физически ресурси от човека. Говоря за всякакви камери за следене, запис на реч, изображения, за железните облаци, в които се анализират гласове, изражения на лица, пози, поведение, сцени на скандали, учене, работа, любов, война, за безкрайните джаджи и датчици, които позволяват да се прецени, какво да се очаква от човека и как той може да бъде използван. Как може да се изстиска от него максимумът, заплащайки минимума или по възможност нищо, намирайки в него ключа, с чието завъртане може да бъде принуден да работи безплатно.
Гледайки клипа за пристанището Яншан, мой познат – създател на технологичен стартъп, не можа да скрие възторга си. „Гледай! – говореше той. – Ето го, реалното приложение на „Интернета на нещата“ (IoT) с неговите прословути вишки 5G, ето го „умният град“! Нито един човек на няколко километра – и всичко работи! Това е нашето близко бъдеще!“
Той е прав – това не е ЗD-игра, всичко това вече работи и то е нашето близко бъдеще, реалността, в която ние живеем. Реалност, която не се нуждае от хора – дори като потребители. Огромна част от хората не се замисля, не си дава сметка за това, което става, както рибата не си дава сметка за това, че живее във водата. Съвременният човек често живее само в днешния ден, в един момент, и просто не желае да включи разума си, за да осъзнае какво очаква него и неговите деца и внуци зад завоя. В тази книга ще стане дума за характера на новата реалност, за тази същата вода, в която живее рибата.
Това е реалността на цифровите джунгли, където всяко наше движение може да бъде използвано срещу нас. Технократите, дошли на власт в световен мащаб, отдавна приспиват народите с приказки за откриващите се възможности, но премълчават опасностите и рисковете. През 2020 г., когато светът бе сполетян от Ковид кризата, много неща станаха явни. Нивото на живот в развитите страни падна, при което водещи технологични компании се обогатиха както никога дотогава. Десетки милиони хора по света загубиха работата си, а фондовите показатели продължиха да нарастват стремглаво, тъй като всяко съкратено работно място носи на компаниите печалба. Правителствата по света икономисаха от парите за пенсионерите – но в същото време, в разгара на кризата намериха средства за внедряване на интелигентни системи за масово следене и контрол на гражданите, за укрепване на апарата за насилие и репресия. И когато тези системи бяха въведени в действие, видяхме, че тези, чиято задача е предотвратяване нарушаването на правата на гражданите, имат други стремежи. Стана ясно, че официалните правозащитници и медиите само симулират дейност, като отдавна са станали част от глобалната система за потисничество и извличане на печалба. Тяхната задача е да осигурят нормализация на ненормалното, легализация на деструктивните, понякога саморазрушителни тенденции, разширявайки „прозореца на Овертон“ така, че Homo sapiens да се превърне в нов вид – безполови, безсъзнателни, слабохарактерни, дистанционно управляеми роботизирани същества.
По-скоро става дума за перспективата за разделяне на човечеството на два вида – необогове и неохора, и в книгата ще поговорим защо това разделение не може да завърши с нищо друго освен със смъртта на човечеството. Ако някой от технократите чете тези редове – не се лъжете: каквото и да казват детерминистите, функционалистите и вулгарните еволюционисти, принудителното разделяне на споменатите по-горе два вида няма да се получи.
Обстоятелствата са такива, че всички сме в една лодка и методът на разделяне, който очевидно се прокарва днес, няма да сработи. Говоря за метод, при който най-новите технологични постижения ще бъдат използвани, за да се придадат нови качества на необоговете, а неохората да бъдат зомбирани и превърнати в роби, след което да бъдат унищожени. В книгата ще покажа защо това няма да се случи, а лансираната от сегашния „елит“ верижна реакция на човешка роботизация ще унищожи и двата клона.
Ограниченията срещу коронавируса бяха и си остават толкова абсурдни, при това правителствата, с някои изключения, действат толкова хармонично и синхронно, че стана ясно: забраните не са нищо повече от ефективни методи за въздействие върху масата и индивида, базирани на системи с изкуствен интелект, с цел внедряването им в глобалната матрица. Вземайки решение за забрана, държавните глави, министрите, кметовете най-вероятно не са осъзнавали какво правят, самите те намирайки се под влиянието на експертокрация, строго контролирана от финансово-инвестиционните структури. В книгата ще видим как науката стигна днес до толкова унизителното положение – да бъде на подаяние от счетоводителите. Ще видим как широкомащабните експерименти за емоционално заразяване чрез социалните мрежи се развиваха през последните години и как резултатите им се използваха за придвижване на нужния на технократите дневен ред, за запазване в тайна на методите за улавяне и монетизиране на човека като ресурс, експериментите по контрол над съзнанието, на първо място при децата и подрастващите.
От самото начало на кризата започнах да анализирам причините за нея и случващото се ден след ден потвърждаваше хипотезата ми, че светът вече преминава към роева съобщност, контролирана от системи с изкуствен интелект. Постепенно обаче пред мен се откри нещо, което нарекох Цифров Левиатан – сложна мрежа от системи с изкуствен интелект, отделни хора, техните колективи и смесени системи, които днес можем да наречем киборги. Някои от образуващите системи са строго централизирани, други са организирани по мрежов начин, но се основават на ясни принципи и алгоритми, а трети системи са разпределени, способни да се самообучават и дори, поне на теория, да променят своята архитектура.
Какво имам предвид под система с изкуствен интелект? Има много определения за изкуствения интелект, но най ми харесва това, което е дал Шейн Лег, един от основателите на лабораторията „Дийп Майнд“. Неговата лаборатория е известна на широката публика със създаването на невронна мрежа , която играе сама със себе си и победи човек в играта Го. Шейн Лег вярва – и неговата гледна точка ми е близка, че интелигентността е способността на агента да си поставя цели и да решава различни задачи в променяща се среда. Ако този агент е човек, интелектът е естествен, а ако е машина – той е изкуствен. Просто е. В книгата ще разгледаме подробно тези въпроси, важно е да се подчертае, че използвам тази дефиниция за изкуствен интелект, прилагайки я към Левиатана.
Сред тези системи има и сравнително прости изкуствени невронни мрежи, които обслужват охранителни камери, обработват информация, записана от сензори на „умни асистенти“, контролират разговорни ботове или мотокари в пристанището, разпределят лекарства или контейнерни кораби по целия свят или определят къде ще бъдат разположени кулите 5G. Има още по-сложни системи с изкуствен интелект: такива, които разиграват моделите на реакцията на обществото към определени ситуации, и такива, които провеждат политическите кампании за манипулиране на населението в социалните мрежи и извън тях. Има много сложни структури с изкуствен интелект, например, предсказващите машини на финансовите пазари, като системата Aladdin на глобалната инвестиционна група „Блек Рок“ (Black Rock). Такава интелигентна система, с известно развитие, чрез поведението на своите агенти може да контролира поведението на пазарите и по този начин, оптимизирайки производителността, да затвори определен пазар, индустрия или държава.
Трябва да подчертая, че в Цифровия Левиатан няма нищо мистично – той е изцяло творение на човешките ръце и ум. Само че това е такова създание, върху което, както често се случва, неговият създател/създатели губят или вече са загубили контрол. Създателят на Левиатана едва ли има едно име. Творението е плод на колективните усилия на мнозина, преобладаващото мнозинство от които са виждали и изпълнявали само своята част от най-различни проекти. Те са нямали и понятие за това, че съвкупността от проекти, мрежи и платформи представлява едно цяло, нито пък за това как това цяло ще се развива.
Има ли Левиатанът ядро или пък няколко ядра? С развитието на системата, тя може да стане напълно децентрализирана, поглъщайки все повече и повече системи с изкуствен интелект, групи хора и отделни индивиди.
Изпреварвайки критиката за митотворчество в персонализирането на някаква абстракция, веднага ще кажа нещо в своя защита. Метафората „Левиатан“ беше избрана от мен първоначално по практични съображения: исках да мога по-адекватно да опиша новата реалност, за да направя изводи и да предскажа определени тенденции. Избрах тази дума за удобство, основавайки се предимно на идеята на английския философ от XVII в. Томас Хобс за Левиатана като олицетворение на държавата. С удоволствие бих се отказал от името, ако попадна на нещо по-добро. Оказа се обаче, че Цифровият Левиатан достатъчно точно обяснява случващото се. Концепцията работи доста добре и дори само поради това си струва да се използва това понятие.
Освен това, много бързо се изясни, че става дума за нещо повече от удобна метафора. Все повече и повече в действията си Левиатанът, чиято архитектура се променя с времето, се показва като единно цяло, макар и без лице. Това едва ли е някакъв гигантски всезнаещ кристал от научнофантастичните филми – но той е не по-малко реален от държавата, например.
Предвиждам още едно възражение срещу отделянето на Левиатана в субектна същност от хората, начели се с Кърцуайл или други войнстващи функционалисти, популярни предимно поради своя сензационен начин на представяне на информацията.
Хората, подложени на въздействието на подобно ярко и увличащо четиво, обикновено заемат една от двете позиции. Или самите те стават гностици и трансхуманисти, или като са открили несъответствия в тези текстове – а те са много – казват, че изкуственият интелект е чист пиар и празнодумство, зад което няма и не може да има нищо, защото човекът по определение е невъзможно да бъде надминат по интелигентност. Целта на съществуването на „т.нар. изкуствен интелект“, казват те, е да заинтересува хората и изобщо изкуственият интелект е блъф, опит да се скрие фактът, че това са някакви алгоритми, контролирани от тези, които са ги написали. Те са сигурни, че човешкото съзнание стои на върха на пирамидата от усложняващи се процеси и ако изкуственият интелект започне да излиза извън контрол, може просто да се издърпа щепсела от контакта.
Нито едната, нито другата страна се затруднява с доказателства или разбор на критичните забележки, и двете гледни точки са въпрос на квазирелигиозна вяра в някакви аксиоми, авторитети или дори ловко нагласени статистики. И едните, и другите апелират към зле разбрани и неясно формулирани вътрешно противоречиви тези. За да си изясните поне отчасти какво представлява изкуственият интелект в историческа перспектива, в какви посоки се е развивала тази област на науката, в какво се състои революцията, извършена от изкуствените невронни мрежи и накрая – какво представлява днес изкуственият интелект, ви препоръчвам да прочетете моята книга „Демонът отвътре. Анатомия на изкуствения интелект“. В нея съм се опитал накратко да разкажа за най-важните неща по темата и да дам на заинтересованите цялостен поглед върху предмета. Старал съм се да избягвам клишетата и съм се отнесъл критично към общоприетите митове, например за англо-американската основа на големия напредък в изкуствения интелект. За съжаление, често книгите за изкуствен интелект страдат от фрагментарен, избирателен, клиповиден подход, който прави читателите им лесна плячка за техно-шамани и инфо-цигани.
Настоящата книга може да се разглежда като продължение на „Демонът отвътре“, като разширяване и задълбочаване на темата, като продължение на дискусионните въпроси, започнати да се обсъждат там, например в измисления диалог с робота София.
Но темата на тази книга в никакъв случай не е абстрактна или академична. Събитията се развиват стремително. След десетилетия на примамване, подбутване и обещания за рай, технократите обявиха шах и мат на човечеството. Те закриха епохата на Просвещението и потопиха Homo sapiens не просто в неразумно състояние, а в състояние на нарцистична анестезия.
Обществото на всеобщото благоденствие, разкъсвано на парчета от противоречия, неразрешими в рамките на финансовия капитализъм, се самоунищожи. Потребителското общество също няма да живее дълго. Планетата, която човекът хищно ограбва, му нанася ответен удар, а самопровъзгласилият се „елит“, вместо с търсенето на изход, се занимава с хакването на Homo sapiens, за да го използва първо като психологична, а след това и като биологична суровина в търсенето на жадувания Граал на световната власт.
Нима не е очевидно, приятели, че пред очите ни се разиграва финалът на човешката история? И какво – от нас, киборгите със сензори в ръцете, до киборги със сензори в главите, остава само един исторически момент? Ясно ли ни е, че всеки сензор може да бъде и задвижващ механизъм, т.е. да стартира при определени показания механизъм за управление? Науката, която обяви първо края на Бога, след това края на метафизиката, сега съвсем спокойно говори за края на човека, но дори човекът-животно няма да бъде последната спирка по този път...
Убедени ли са атеистите сред нас, че човечеството очаква Спасението? Не е ли така, защото най-близката до нас Вселена не показва признаци на интелигентен живот, или пък защото всяка цивилизация преминава през етапа, който преживяваме днес и в резултат на това се самоунищожава?
Защо се получи така? Как ние, общността на Homo sapiens, стигнахме до тук, след като за петдесет хиляди години извървяхме пътя от пещерните рисунки до балета и Толстой, а след това за петдесет години – пътя от балета и Толстой обратно до стенните графити? Защо хората толкова лесно, толкова бързо се отказаха от основните си граждански права, спечелени в продължение на векове борба?
И главният въпрос: неизбежен ли е свят без разумен живот?
След моите програми, записани в телевизионния канал „Ден ТВ“, винаги звучат въпросите: „Казвате, че всичко е зле. Добре, но какво да правим? Как да се подготвим? Да захвърлим всичко и да отидем на село? Да се заемем с кулите 5G? Да скрием децата?“
Аз самият всеки ден мисля върху тези въпроси. Размишлявам над тях и в тази книга. Може да се поеме по пътя на най-малкото съпротивление, без особено разбиране да се обвинят някои тъмни сили за всичко и да скръстим ръце: какво можем да сторим срещу рептилите? Този път на мен лично не ми е близък.
Вторият път: да се опитаме да отделим зърното от плявата, внимателно да се ориентираме в случващото се, изхождайки от вярата си във възможността за вечен живот, да се опитаме да направим максимално разумното тук и сега. При това съм убеден, че цялото човечество се намира в една лодка, богати и бедни, глупави и умни, силни и слаби, красиви и не толкова привлекателни, изостанали и напреднали, мечтатели и прагматици.
Дори технократите са заедно с нас в същата лодка, колкото и да им се иска да скочат от нея и прехвърляйки се на флаш-памет, да се насочат към звездата Алфа Кентавър. Флашката може и да пристигне, но тя ще продължи да кръжи по орбита в безсмислен танц, докато заедно със звездата не бъде засмукана от черна дупка.
Необходимо е не само да разберем какво да правим „в следващия ход“, но и да изчислим партията за няколко хода напред – отчитайки как ще отговори противникът. Аналогията с шаха не ме оставя и в следващата глава ще разберете защо.
Трябва също да разберете, че всеки ход от шахматната партия, която играя, може да се окаже последен. Сега държите в ръце книгата „Homo fractus/Хакнатият човек“ или виждате текста ѝ на екрана на вашето цифрово устройство, но при следващия ход тя може да бъде зачеркната – просто да бъде обявена за несъществуваща.
Хартиената версия ще оцелее, докато по планетата, както в известната история на Рей Бредбъри „451 градуса по Фаренхайт“, не започнат да обикалят пожарните, за да намерят и изгорят всички бунтовни книги. По-лесно е избавянето от електронните версии – в бъдеще в тях ще могат да се вграждат кодове за самоунищожение или за автоматична промяна на съдържанието. Може да се окаже, че в някои бъдещи версии системата ще направи така, че ще възхвалява силата и мъдростта на Левиатан Велики.
Затова, ако четете тази книга в електронен вид, може да не е излишно да препишете нещо от нея. Така, за всеки случай, колкото и нелепо да звучи това в нашия свят, където паметта все повече става външна. Защото и външната памет може да бъде счетена за крайно нежелателна.
Може би си струваше да се престоря, че всичко това е художествено произведение, фентъзи, измислица. С измислица – и ползата ще е никаква – многобройните агенти на Левиатана, притаени зад всеки цифров ъгъл, ще пробягат отстрани, разтревожено всмуквайки бунтовния въздух, връщайки го обратно сертифициран и одобрен.
И така, на екрана на моя MacBook се появяват думите „Хомо сапиенс срещу Левиатан“. След това те изчезват: навярно все още не съм задал всички въпроси, а на вече зададените ще започна да отговарям без забавяне, веднага.
Книгата „Хакнатият човек. Homo fractus“, от Игор Шнуренко, можете да закупите чрез сайта на Издателство Изток - Запад.
