В Израел с лодката на Грета Тунберг няма връзка.
Малко наивно, но може би начинът да се спасим е всички колективно да изчетем работите на Ноа Ювал Харари и да се рисетнем като общество. Стефан Кирязов разказва за последната книга на Харари.
от Ноа Ювал Харари
Какво да очакваме от AI
Текст: Стефан Кирязов
Публикация: 09.06.2025
Колаж: The Wall Street Journal
Тези ранни програмисти, които чакаха изкуствения интелект да ни завладее още през 70-те, едва ли биха предположили, че роботите ще изместят лекарите преди миячите на чинии, но всеки, който следи технологичните промени от последните години, би се съгласил с това твърдение на Харари. Nexus е пълна с такива гениални-в-момента-но-очевидни-в-ретроспекция прозрения, плюс множеството наблюдения относно ефекта на технологиите върху обществото в кохерента рамка – от зората на ‘информационните технологии’, през древността, до днешния ден – и убедително ни подканва да сме дейни участници във впрягането на прогреса за постигането на по-добро общество.
А какво всъщност прави едно общество добро?
Тъкмо навреме
Излизането на тази книга предхожда по време разбеснялото се DOGE сред управленските структури на Америка и обръщането на довчерашната образцова демокрация в посока към автокрация и може би дори към тоталитаризъм - точно както се опасява Харари. Дали и съветите, които дава за това как да се борим с това явление, ще се окажат също толкова прозорливи, колкото бяха и предсказанията за появяването му? Остава само да се надяваме, но ако посланията от тази книга бъдат широко разпространени, те биха могли да се превърнат в самосбъдващи се пророчества.
Какво е популизъм?
Хората не обичат имигранти? Супер - ще им обещаем, че ще ги депортираме до един. (Обещание, което Тръмп виждаме, че спазва.)
Условиятa, при които са държани арестуваните. Снимките са от 2015-2016 г., но по показанията на освобедените през последните дни имигранти, условията не са по-различни. Източник: AIC
Едно от най-важните постижения на Nexus е редефинирането на понятието ‘популизъм’. Ако стандартното разбиране е да обещаваш на народа каквото иска да чуе, без оглед на практическата приложимост на предложените ‘прости’ решения, Харари добавя още едно, специфично ниво. В ядрото на посланието на популиста (освен че джендърите са виновни за всичките ни проблеми), стои внушението, че всички ‘други’ – традиционни политици, учени, експерти – са задължително агенти на задколисие с цели, различни от публично заявените. Всеки учен е в джоба на някакъв икономически интерес; всеки екоактивист всъщност е платен провокатор на зеленоенергийното лоби; всеки лекар те държи болен, за да ти продава лекарства. Резултатът от това е цялостно уронване на вярата в съществуването на обективна реалност - всеки има ‘своя истина’. В един такъв свят разумът и логиката нямат роля при вземането на решения, камо ли при избора на форма на управление. Но предразсъдъците и първичните страхове имат. Затова си избираме вожд - този, който обещава да ни отърве от джендърите.
Какво общо има това с AI?
За разлика от големите езикови модели (LLM – например ChatGPT), които нито ‘искат’ нещо, нито извършват действия по собствена воля, изкуственият общ интелект (Artificial General Intelligence или AGI) е от страшния вид – той действа автономно и може да надмине човека не само в писането на учтиви мейли до клиент, но и във всички изискващи интелект задачи. Понеже AGI засега е хипотетичен и предстоят години развитие, значи ли това, че за момента няма от какво да се притесняваме?
За съжаление - не.
Ако се страхуваме, че изкуствения интелект ще ни навреди по своя собствена воля, значи не познаваме достатъчно добре хората. Нямаме нужда от напълно автономна машина, за да се притесняваме за бъдещето си, когато човеците са напълно способни да заложат собствените си злонамерени цели и да използват този нов инструмент да ги постигнат. В контекста на ‘войната на меметата’, която Русия категорично печели, способността да се генерира съдържание в индустриален мащаб и да се таргетира към уязвими групи се оказва, че им дава възможността да наложат какъвто си искат обществен строй.
Троленето с политически цели продължава да става все по-лесно. Освен простите LLMs, вече имаме и т.нар. Agentic AI - комбинация от езиков модел и други инструменти, които позволяват на изкуствено-интелигентното приложение да действа ‘на своя глава’. Не просто да отговаря на въпроси, а и да извършва всевъзможни операции в интернет. За програмистите не знам, но служителите в руските трол ферми могат да почват да се притесняват за поминъка си.
Комично на този фон Microsoft решиха да кръстят статията си по въпроса The Agent Awakens (агентът се пробужда). Препратката към Матрицата сл0чайност?
Добре, а не следва ли свободата на информация да води до свободно общество?
Традиционното схващане е, че повече информация води до повече свобода. Ако всичката информация бъде налична, истината рано или късно ще изплува. Като частен случай, няма смисъл да ограничаваме платформите на фашистите: нека да си пропагандират свободно, пък ние ще ги оборим по американската формула ‘fight hate speech with more speech’. В свят скоро управляван от трилионери, които са решили да не пестят средства в промотиране на ценностите си, а истината я проповядваме общо взето ние двамата, подобно схващане е анахронично. Ето, че Европейската демокрация не може да се пребори с руските трол-ферми, които бълват лесно оборима пропаганда, но неозаптима като количество. Мемета представящи Зеленски като диктатор и кръвопиец хвърчат, шервани хиляди пъти и докато ние седим и чакаме свободната инфорамация да наклони метафоричната арка към справедливост, идва Харари и казва, не - наличието на информация не гарантира информираност. С експертизата си на средновековен и ранно-модерен историк, той ни разхожда през историята на дезинформацията. Тръгва от появата на членоразделната реч, минава през писмеността, а печатната преса оприличава на интернета на Средновековието. Въпросната освободена информация вместо до просветление, води до лов на вещици, буквално горене на клади, давене и т.н. зверства. Всичко това благодарение на ‘модерните’ информационни технологии.
“Поробване” или поробване?
Нека да поспекулираме какво се случва с малките държави в Европа при евентуален успех на плана Путин/Мъск/Тръмп. Масово избираме крайно десни правителства, разтуряме ЕС, затваряме границите. С подкрепата на технологичните титани, новоизбраните вождове узурпират властта до гроб, като в замяна дават пълен достъп до минералните си блага на суперсилата-покровител.
Колониализмът никога е бил гореща тема в България, но накъдето са тръгнали нещата, може би не е лошо да започнем да си говорим повече за него. Ако се окажем с един Орбан, Ердоган или някакъв нов про-Тръмп родоотстъпник, има ли наистина някой, който се заблуждава, че ще бъдем третирани като равни? Че свободата и материалният комфорт на народа ще са приоритет? По каква логика точно ние ще се окажем отгоре на преобразуваната система?
В началото неоколониализма може да дойде опакован с розова панделка. Европейският лидер, предал народа си, за да целуне пръстена на Тръмп ще получи подкрепа, за каквато Ердоган може само да мечтае; може да им свалят митата, и – кой знае -- може даже техен астронавт да стъпи на Луната. Но цента за това я знаем. Какво е да си васал на Русия виждаме и до днес в Беларус и на други места. Като васал на новото САЩ, локалното DOGE може да вършее, без дори да се опитва да остави функционираща държава след себе си. Ще оставим трима души да работят по 120 часа на седмица, останалите ще съкратим и ще ги пуснем сами да се оправят - ей така, без никаква подкрепа, да създадат един свободен пазар за чудо и приказ, пък да станем Силициева долина на Балканите.
Към този нов ред да добавим и изкуствения интелект. До скоро, за да имаме успешна икономика, ни трябваше висококвалифицирана и най-вече мотивирана работна ръка. Google издигаше офиси като увеселителни паркове, за да привлече десетки хиляди висококвалифицирани специалисти, които университетите едва смогваха да произведат. Съвсем скоро все повече иновативна работа ще може да се извършва от изкуствен интелект, докато нуждата от хора, които разнасят кашони в складове, ще си остане същата. Не е налудничаво да си представим една Америка – и дори свят – приличащ на склад на Amazon, където малко AI-подсилено малцинство управлява едно буквално поробено мнозинство.
Щеше да звучи като конспиративна теория, ако това дистопично видение на беше артикулирано в нещо като идеология, подкрепена от могъщи хора във Вашингтон и Силициевата долина (истинската).
Момчил Даскалов разглежда темата с доста подробности в ‘Задава ли се американски неофашизъм?’
Според тях не следва да разглеждаме завземането на властта от едрия бизнес като корупция, а просто да го оставим да се случи, водени от техно-магнатите, който най-добре знаят как да управляват хора, бизнеси, общества. Болшинството ще работят по 120 часа, но пък истински талантливите ще издигнат човечеството до нови висоти. ‘Човечество’ тук е тясно понятие и не включва масите.
Че са такива целите на MAGA-движението, подкрепено от т.нар. Tech Reich и Project 2025, е обществено достояние. Тези хора вече имат властта и все по-малко се стараят да си стоят зад маските. Фундаментално техният модел цели управление на малцинството, но изисква поне моменто мнозинство, което да го избере – или буквално да гласува за него, както в САЩ, или да го остави да се случи поради липса на достатъчно масирана съпротива, както в Русия. С други думи, възцаряването на новия технокапиталистически ред разчита на подкрепа от хора, които ще бъдат прецакани. Ефектът на Дънинг-Крюгер работи в тази посока - повечето хора си мисля, че те са по-оправни от средното (и по-добри шофьори, любовници…), защо пък да не си мислят, че именно те ще се окажат новите ‘робовладелци’...
Защо демокрация?
Къде на шега, къде насериозно, винаги е имало хора, които са критикували демократичния ред на базата на ниска ефективност. Както казваше Джордж Карлин: ‘Виж колко е прост средния човек и си представи, че половината са още по-прости; как да ги оставя те да ме управляват?’ В този смисъл, да дадем властта на един компетентен лидер и да се отървем от тези 240 паразита, на които само им плащаме заплати е привлекателна идея.
Реално обаче демокрацията, освен че е по-справдлива, всъщност е и по-ефикасна. Демократичното управление търпи критика и в това се крие неговата суперсила. То има механизъм за самокорекция - така както свободният пазар дава възможност на ефикасните процеси и технологии да се наложат, така и свободната смяна на властта дава шанс на (по-)компетентата управа да се наложи. Когато авторитарният лидер се окопае на върха на държавния апарат, този механизъм изчезва. Не случайно тоталитарните лидери са заобиколени от лакеи, който не могат да им противоречат; не са случайни системните чистки на опозиционни гласове. Вождът винаги е прав.
В ръцете на тоталитарен режим изкуственият интелект е опасно оръжие, но има и парадоксално положителен ефект. Дори и всички дисиденти да ни пратят по лагери или да ни спрат интернета, изкуствено интелигентните агенти не се страхуват от депортиране в Салвадор или друг гулаг. В настъпващата аниутопия, може те да останат единствените способни да критикуват режима. Междувременно, за наше собствено добро, за да има гулага алтернатива, просто трябва да излизаме и да гласуваме за демократичните партии.
Nexus, подобно на останалите книги на Харари, освен че описва състоянието на света и силите, които му влияят, дава и предписания. Предписанията са на колективно ниво, основават се на ценности и политики. Но както заедно сме се докарали дотук, така и заедно бихме могли да излезем от ситуацията. Все пак истината има вродено предимнство. Реалността съществува и когато разчегъркаме емайла на лъжата достатъчно упорито, тя лъсва отдолу. Просто трябва да я ‘продадем’ така, че мнозинството да гласува за интереса на мнозинството.
Със заслужената си популярност, Харари е един от най-силните и обединителни гласове днес. На нас ни остава да го четем, препоръчваме и да се организираме в движение. За общото благо.
“ФБАНЗЕЙРО ОКОТÒ
от Елиане Брум
Пътуване до Амазония, център на света.
Книга от поредицата “Земя” на “Жанет 45” за битките на месните жители с унищожаването на амазонските гори, както и тъгата и тревогата, предизвикани от промените в околната среда, които влияят на личното им усещане за идентичност и дом. Важен документ за разбирането на психосоциалните ефекти от екологичните и климатичните кризи.
от Елиане Брум
Пътуване до Амазония, център на света.
Книга от поредицата “Земя” на “Жанет 45” за битките на месните жители с унищожаването на амазонските гори, както и тъгата и тревогата, предизвикани от промените в околната среда, които влияят на личното им усещане за идентичност и дом. Важен документ за разбирането на психосоциалните ефекти от екологичните и климатичните кризи.
„Добър ден, тъга / Обичате ли Брамс?“ от Франсоаз Саган
Докато мадам Саган беснее по парижките улици и разказва на камерата за катастрофата, която почти приключва живота ѝ 3 години след публикуването на дебютния ѝ и до ден днешен най-известен роман, “Добър ден, тъга”, в хаоса на високата скорост, тя блъска пешеходец. С това екипът на BBC получава не само автентичното Саган-преживяване, а и улавя и затвърждава легендата.
Чети още
Докато мадам Саган беснее по парижките улици и разказва на камерата за катастрофата, която почти приключва живота ѝ 3 години след публикуването на дебютния ѝ и до ден днешен най-известен роман, “Добър ден, тъга”, в хаоса на високата скорост, тя блъска пешеходец. С това екипът на BBC получава не само автентичното Саган-преживяване, а и улавя и затвърждава легендата.
Чети още
“Фигури” от Мария Попова
Още от жълтите каренца на Мария Попова - българката зад блогът The Marginalian, а преди преименуването си познат като Brain Pickings. Логично и необходимо проектът на Попова се разгръща в книга. Текстът е и едно напоняне да преодолеем пропастта между минало и настояще, защото историята не е просто далечен запис на събития, а непрекъснат диалог, който тласка и оформя живота ни днес.
Още от жълтите каренца на Мария Попова - българката зад блогът The Marginalian, а преди преименуването си познат като Brain Pickings. Логично и необходимо проектът на Попова се разгръща в книга. Текстът е и едно напоняне да преодолеем пропастта между минало и настояще, защото историята не е просто далечен запис на събития, а непрекъснат диалог, който тласка и оформя живота ни днес.
книги, факти и фикции, Николет Стефанова
“Диктатори, трактори и други приключения” от Димитър Кенаров
“Изкуството не е състезателна дисциплина”, казва Кенаров, “Успехът е относителна величина.” С това напомня на героя си от “Ненадейни дисиденти”, поляк в неравна битка с корпорации и правителства да опази земята си от шистовия газ - “Ако ме питаш защо се боря, ще ти кажа. Аз съм обикновен човек и моята философия е да оставя колкото може по-малка следа на тая земя.”
Чети още