Пред очите ни се осъществява най-значимата информационна революция в историята на човечеството. За да разберем случващото се, трябва да знаем какво е било преди. Нарекли сме нашия вид Homo sapiens, мъдър човек; но ако хората се чак толкова мъдри, защо се държат така самоунищожително? Защо сме на път да извършим екологично и технологично самоубийство? Човечеството трупа мощ, като създава големи мрежи на сътрудничество, но най-лесният начин да стане това е чрез фикции, измислици и масови заблуди. През XXI в. изкуственият интелект може би полага основите на нова мрежа от заблуди, която би могла да попречи на бъдещите поколения дори да се опитат да ги изобличат. От друга страна обаче, историята не е предначертана и същото се отнася за технологиите: вземайки информирани решения, може да предотвратим най-лошото. Ако не можем да променим бъдещето, защо да си губим времето да го обсъждаме?
„Харари има уникалната способност да съчетава най-неуловимите детайли в историята с най-мащабните тенденции на днешния ден. Тази изключително важна книга се появява в ключов момент, когато всички разсъждаваме за последиците от появата на изкуствения интелект.“ – Мустафа Сюлейман
„Величава, провокативна и добре обмислена книга. Харари ни показва едно скоростно приближаващо се към нас бъдеще, което е едновременно вълнуващо и смразяващо. Ако има книга, която бих призовал всеки да прочете – и най-вече нашите водачи в сферата на политиката, бизнеса и изкуството, – то това би била Nexus.“ – Стивън Фрай
„Харари е сред най-забележителните умове на нашето поколение – дързък, оригинален, ерудиран, провокативен и завладяващ. Nexus разказва по нов начин историята на всичко – от писмеността до изкуствения интелект – и както всяка от предишните му книги, преобръща из основи разбиранията ни за света.“ – Рори Стюарт
Професор Ювал Ноа Харари е историк, философ и автор на бестселърите „Sapiens: кратка история на човечеството“, „Homo Deus: кратка история на бъдещето“ и „21 урока за двадесет и първи век“, както и поредиците графични новели „Сапиенс“ и „Неудържимите“ (преведени на 65 езика). Той се смята за един от най-влиятелните интелектуалци на нашето време. Роден в Израел през 1976 г., Харари получава докторска степен от университета в Оксфорд през 2002 г. В момента е преподавател в катедрата по история на Еврейския университет в Йерусалим и старши изследовател в Центъра за изследване на екзистенциалния риск към университета в Кеймбридж. Заедно със съпруга си Ицик Яхав е съосновател на компанията „Сапиеншип“, чийто предмет на дейност е в сферата на образованието и развиването на умения в разказването на истории.
400 с., твърда корица, 39.90 лв.
Защо изкуственият интелект представлява екзистенциална опасност за човечеството?
Редица експерти предупреждават, че изкуственият интелект представлява екзистенциална опасност за човечеството. Други отхвърлят тези предупреждения като проява на безпочвена истерия. Историята на Индустриалната революция може да ни помогне да разберем опасностите, които крие новата революция – тази на изкуствения интелект.
Редица експерти предупреждават, че изкуственият интелект може да унищожи нашата цивилизация. В проведено през 2023 г. проучване сред 2778 изследователи в областта на изкуствения интелект е установено, че над една трета от тях смятат, че има поне 10% вероятност изкуственият интелект да доведе до събития от рода на изчезване на човечеството. Отново през 2023 г. почти трийсет правителства, включително на Китай, САЩ и Обединеното кралство, подписаха Декларацията от Блечли, в която се признава, че „съществува потенциал за сериозни, дори катастрофални вреди, умишлени или не, произтичащи от най-съществените способности на тези модели на изкуствен интелект“.
За неколцина предупрежденията относно колапса на цивилизацията изглеждат като проява на безпочвена истерия. Всеки път когато възниква могъща нова технология, расте и тревогата, че тя може да доведе до апокалипсис, макар все още да сме си тук. Въпреки напредъка на Индустриалната революция катастрофичните сценарии на лудитите не се сбъдват, а „мрачните сатанински мелници“, за които говори Блейк, в крайна сметка водят до появата на най-благоденстващите общества в историята. В наши дни повечето хора живеят при далеч по-добри условия от предшествениците си през XVIII век. Интелигентните машини са далеч по-полезни от всички машини от миналото, поне според ентусиасти като Марк Андреесен и Рей Кърцуайл. Твърди се, че те ще ни осигурят много по-добро здравеопазване, образование и други услуги, а също – че ще спасят екосистемата от унищожение.
За нещастие, по-внимателното вглеждане в историята показва, че лудитите не са били съвсем на грешен път и че в действителност има доста добри основания да се страхуваме от мощните нови технологии. Дори ако в крайна сметка ползите натежат спрямо вредите, достигането до щастливия финал изисква много опити, грешки и изпитания. Новите технологии често водят до катастрофи, но не защото технологиите сами по себе си са нещо лошо, а защото на хората е нужно време, за да се научат да ги използват разумно.
Индустриалната революция е чудесен пример за това. Когато индустриалните технологии получават глобално разпространение през XIX век, те преобръщат традиционните икономически, социални и политически структури и откриват пътя към създаването на нови общества, които обещават благоденствие и мир. Да се научим как да създаваме такива общества съвсем не е било лесно и е постигнато с цената на много провалени експерименти и стотици милиони жертви.
Един такъв експеримент е съвременният империализъм. Индустриалната революция води началото си от Британските острови в края на XVIII век. През XIX век новите технологии и методи за производство са възприети и в други европейски държави – от Белгия до Русия, както и в Съединените щати и Япония. Империалистки мислители, политици и партии в тези индустриални центрове твърдели, че империята е единственото жизнеспособно индустриално общество. Според техните аргументи за разлика от относително самодостатъчните земеделски общества новите индустриални общества се нуждаят в много по-голяма степен от външни пазари и суровини, а само една империя може да задоволи този тип апетити. Империалистите се страхували, че индустриализираните държави, които не са се сдобили със свои колонии; може да се окажат изолирани от жизненоважни суровини и пазари в резултат от действията на безскрупулните им конкуренти. Някои империалисти стигали дотам да твърдят, че сдобиването с колонии не просто е решаващо за оцеляването на собствената им държава, а е от полза и за цялото човечество. Те твърдели, че само империите са способни да посеят семената на новите технологии в така наречения неразвит свят.
Съответно индустриални държави като Великобритания и Русия, които вече били империи, съществено разширили териториите си, а държави като Съединените щати, Япония, Италия и Белгия се заели да изградят свои империи. Снабдени с фабрично произвеждани пушки и артилерия, придвижвани с парни двигатели и координирани с помощта на телеграфа, индустриалните армии помели земното кълбо – от Нова Зеландия до Корея и от Сомалия до Туркменистан. Традиционният начин на живот на милиони коренни жители бил потъпкан от тези индустриални армии. Изминал цял век на страдания, преди повечето хора да осъзнаят, че индустриалните империи са ужасна идея и че има и по-добри начини да се изгради едно индустриално общество, както и да му се осигурят необходимите суровини и пазари.
Сталинизмът и нацизмът също са провалени опити за изграждане на общества от индустриален тип. Водачи като Сталин и Хитлер вярвали, че Индустриалната революция е отприщила огромна мощ, която единствено тоталитаризмът може да овладее и да използва в пълен обем. Според тях Първата световна война – първата „тотална война“ в историята – е доказателство, че оцеляването на индустриалния свят изисква тоталитарен контрол над всички аспекти на политиката, обществото и икономиката. Същевременно те твърдели, че Индустриалната революция ще претопи всички предишни социални структури, с техните несъвършенства и слабости, и ще създаде възможност за изграждане на съвършени общества, съставени от истински свръхчовеци.
Поемайки към създаването на съвършеното индустриално общество, сталинистите и нацистите се научили как да избиват хора в индустриален мащаб. Влакове, бодлива тел и телеграфни линии се сплели в една непозната до този момент машина за смърт. Поглеждайки към миналото, днес повечето хора се ужасяват от извършеното от сталинистите и нацистите, но по онова време смелите им идеи запленявали милиони. През 1940 г. било лесно да повярваш, че Сталин и Хитлер са измислили как да обуздаят индустриалната технология, докато колебливите либерални демокрации са на път да останат в миналото.
Самото съществуване на конкурентни рецепти за създаване на индустриални общества води до жестоки сблъсъци. Двете световни войни и Студената война могат да се разглеждат като проява на разногласие относно правилния начин да се направи това, при което всички страни научават по нещо една от друга, докато експериментират с нови индустриални методи за водене на война. В хода на спора между тях десетки милиони души загиват, а човечеството е на крачка от самоунищожението.
В добавка към всичко това, Индустриалната революция подкопава глобалния екологичен баланс и води до вълна от измирания. Смята се, че в началото на XXI век до 85 000 вида изчезват всяка година, а общата популация на гръбначните е намаляла с 60% между 1970 и 2014 г. Оцеляването на човешката цивилизация също е поставено на карта. Тъй като все още не сме способни да изградим екологично устойчиво индустриално общество, прехваленото благоденствие на настоящото поколение има огромна цена – както за другите съзнаващи същества, така и за бъдещите поколения. Може би някога ще открием начин – с помощта на изкуствения интелект – да създадем такъв тип общества. Дотогава обаче въпросът със сатанинските мелници на Блейк си остава в сила.
Ако за момент се абстрахираме от неспирното унищожаване на екосистемата, можем да се опитаме да намерим утеха в мисълта, че някога хората ще се научат как да създават по-добротворни индустриални общества. Имперски завоевания, световни войни, геноцид, тоталитарни режими – всичко това са ужасяващи експерименти, които са ни научили как не се прави. Според някои в края на ХХ век общо взето сме си научили урока.
Дори и така да е, перспективите за XXI век са мрачни. Ако на човечеството са били нужни толкова много ужасни уроци, за да се научи как да използва парни двигатели и телеграфи, каква ли би била цената на биоинженерството и изкуствения интелект? За разлика от тях изкуственият интелект е способен да обработва информация сам и може да замести хората в процеса на вземане на решения. Той не е инструмент, а активен фактор. Арбалети, мускети и атомни бомби заместват човешките мускули при отнемането на човешки живот, но не могат да заместят човешкия мозък и сами да решат кого да убият. „Малчуганът“ – бомбата, хвърлена над Хирошима – избухва със силата на 12 500 тона тротил, но тя е лишена от интелектуални способности и не може да взема решения.
При компютрите е различно. Що се отнася до интелекта, компютрите превъзхождат съществено не само атомните бомби, но и всички информационни технологии, познати от миналото – глинени таблички, печатни преси и радиоапарати. Глинените таблички съхраняват данъчна информация, но не могат сами да определят размера на данъците, нито пък да въведат нови данъци. Печатните преси копират информацията от Библията, но не могат да решат кои текстове спадат към нея, нито да пишат нови коментари към свещените книги. Радиоапаратите разпространяват информация – политически речи и симфонии, – но не могат да изберат кои, нито да ги напишат. Компютрите могат всички тези неща. Докато печатните преси и радиоапаратите са пасивни инструменти в ръцете на хората, компютрите станат активни дейци, които не можем да контролираме или разберем и които поемат инициативата във формирането на обществото, културата и историята.
Може би в крайна сметка ще намерим начини да държим ИИ под контрол и да ги използваме в полза на човечеството. Нужно ли е да изминем още един цикъл на глобални империи, тоталитарни режими и световни войни, за да се научим как да ги използваме за добро? Технологиите на XXI век са много по-мощни – и потенциално далеч по-деструктивни – от онези на ХХ век. Ето защо нямаме право на грешка. Можем да кажем, че през ХХ век човечеството си е научило урока за индустриалните технологии за 4 минус – достатъчно, за да вземем изпита. През XXI век летвата е поставена много по-високо. Този път трябва да се справим по-добре.
Книгата „Nexus“, от Ювал Ноа Харари, можете да закупите чрез сайта на "Издателство Изток - Запад.
