Бог и человек: кто кого создал?..
Бог и человек: кто кого создал?..
Валентин КАТАСОНОВ 28 апреля 2026 2026-04-28 2026-05-13 1243
Бог создал человека в шестой день своего творения по Своему образу и подобию. Об этом знают все христиане и вообще все грамотные люди, которые читали Священное Писание. Грамотные атеисты тоже об этом знают. Но, поскольку они отрицают существование Бога, то в порядке шутки замечают: мол, это человек создал Бога. Но лишь в своем воображении, непросвещенном разумом. Вот, например, любимец Карла Маркса немецкий философ-материалист Людвиг Фейербах (1804—1872) в своих «Лекциях о сущности религии» писал: «Человек создал бога по своему образу»...
А вот слова остроумца Вольтера: «Бог создал человека, а человек — Бога». Но в XXI веке в мире становится все больше людей, которые не в шутку, а всерьез считают, что человек создал (или находится в процессе создания) бога. Таковым богом для них является искусственный интеллект (ИИ). Под ним понимается попытка воспроизвести человеческий интеллект с помощью компьютеров и нейросетей. Машину учат искать и находить нужную информацию, обрабатывать ее, снабжать человека готовым информационным продуктом (текстовым, аудио, фото, видео), самообучаться, решать поставленные человеком задачи в самых разных областях (наука, техника, экономика, политика, военное дело, культура и др.), прогнозировать самые разные процессы. И даже принимать решения в автономном режиме (без вмешательства человека) и т.п. Отец кибернетики Норберт Винер в своей книге «Кибернетика, или Управление и связь в животном и машине» отмечал, что «мысль о нечеловеческих устройствах, наделенных большим могуществом и большой способностью вести свою политику, и об их опасности, не имеет в себе ничего нового. Ново лишь то, что теперь мы располагаем эффективными устройствами такого рода». А ведь это было сказано еще в 1948 году, когда только-только появились первые электронно-вычислительные машины (ЭВМ). Что же говорить про сегодняшний день, когда весь мир стал «цифровым», а ИИ распространился на все аспекты жизни человека?
Философы давно уже выдвигали гипотезу о возможности появления сверхразума. В философии даже появилось направление, получившее название «сингуляризм». Его адепты верят в технологическую сингулярность — гипотетическое событие, при котором технологический прогресс ускоряется настолько, что выходит из-под контроля человека. Вот тут-то и происходит рождение сверхразума. Это, по мнению некоторых сингуляристов, даже более эпохальное событие во Вселенной, чем пришествие две тысячи лет на Землю Иисуса Христа. Все больше людей, которые считают, что машины (которые обычно называют роботами) уже превзошли человека по своему интеллекту. Другие считают, что это может произойти в самое ближайшее время. Еще в конце прошлого столетия выдающийся российский ученый профессор МГУ им. М.В. Ломоносова Сергей Павлович Расторгуев (1958—2017) в своей книге «Цель как криптограмма. Криптоанализ синтетических целей» (1996), посвященной изучению психологии ИИ, отмечал угрозу, обусловленную ростом самостоятельности программного обеспечения (по сути — ИИ), способного в какой-то момент времени выйти из-под контроля оператора. Известный американский бизнесмен и самый богатый человек на планете Илон Маск на Всемирном экономическом форуме в Давосе в этом году заявил: «Я думаю, что к концу этого года у нас может появиться ИИ, который умнее любого человека, а точнее — не позже следующего года. А к 2030—2031 годам, через примерно пять лет, ИИ будет умнее всего человечества вместе взятого».
Илон Маск мечтает, что роботы будут служить людям, у каждого человека на планете будет свой персональный робот. Но, как можно понять из рассуждений миллиардера, все они будут завязаны на одного супер-робота. Видимо, если проводить аналогии с христианской религией, то у Илона Маска приставленный к каждому человеку робот — что-то наподобие ангела-хранителя; а стоящей над всеми супер-робот — «цифровой бог». Но у миллиардера есть сомнения, что все будет так гладко и красиво. А вдруг цифровой бог не будет благосклонен к людям? Илон Маск хотел бы, чтобы цифровой бог в оставшиеся несколько месяцев или лет все-таки получился у разработчиков «справедливым» и «добрым». А потому призывает разработчиков ИИ к максимальной ответственности. Но ни у Маска, ни у разработчиков нет полной уверенности, что, приобретя высокий и высочайший IQ, «цифровой бог» не начнет своевольничать.
Некоторые из специалистов, работающих в сфере ИИ, полагают, что ни в коем случае нельзя создавать мир с одним «цифровым богом». Такая «божественная» монополия для человечества точно кончится плохо. Должно быть несколько или даже много «цифровых богов», автономных друг от друга. Примерно так, как это было во времена язычества, где существовало многобожие, где были и «злые», и «добрые» боги. Между прочим, чат-боты корпораций Open AI и Google в Америке нередко называют «Големами» (искусственный человек, который по преданию был создан пражским раввином Бен-Бецалелем в конце XVI — начале XVII века).
Некоторые протестанты увидели в ИИ возможность «усовершенствовать христианство»…
Роботы могут помогать пасторам готовить проповеди. Они же могут служить мессы. Они же могут организовать прямое общение человека со Христом. Так, в Люцерне (Швейцария), в старинной часовне Петра в 2024 году был запущен пилотный проект, названный «Deus in Machina»: робот, представляющий Иисуса, беседовал с приходившими в часовню на любом из ста языков. Для усиления эффекта в часовне была установлена голограмма Иисуса Христа: его можно был воспринимать не только ухом, но и зрительно. В общей сложности почти тысяча человек «пообщались» с «живым Иисусом». Кто-то исповедовался, кто-то получил совет. Эксперимент в Швейцарии получил большой резонанс: кто-то приветствовал начинание; кто-то, наоборот, счел это богохульством.
А вот в США в Калифорнии был более скромный замах: там в 2024 году одна католическая организация в США предложила прихожанам не «Иисуса», а лишь «цифрового священника» по имени «Отец Джастин» (Father Justin). Он стал давать гражданам консультации по вопросам веры и церковной службы. Правда, через некоторое время «Отца Джастина» «понесло». Некоторые его советы не понравились прихожанам, другие — настоящим священникам. Разработчикам ИИ пришлось «цифрового священника» лишить «сана», а приложение Веб-сайта переименовать в «Виртуального апологета Джастина».
В мире уже имеется множество людей, которые увидели в ИИ нового «бога». Вот, например, в США компанией OpenAI был создан продукт ИИ под названием «ChatGPT» — чат бот с генеративным искусственным интеллектом. Он общается с пользователем в диалоговом режиме на разных языках, в том числе русском. В конце прошлого года СМИ сообщили, что американец, работающий в сфере технологий нейросетей, решил, что ChatGPT — не машина, а «цифровой бог», обладающий сознанием и нечеловеческой мудростью. В течение двух месяцев этот американец (назвавшийся Джеймсом) пребывал почти в непрерывном общении с этим «богом». Через два месяца Джеймс вырвался из-под влияния «ChatGPT», а после этого ему пришлось проходить курс психической реабилитации. Кстати, медики все чаще сталкиваются с такими пациентами, которые повредили своей психическое состояние после длительного общения с ИИ. Особенно часто это происходит с людьми одинокими, которым чат-боты компенсируют дефицит человеческого общения. Но если общение с близкими людьми человеку помогает, то общение с ИИ в конечном счете лишь усугубляет состояние одинокого человека. Кстати, доступ к ИИ иногда получают и дети, что тоже небезопасно.
Постепенно складываются части того, что можно назвать «религией ИИ» и «богословием ИИ». Конечно, пока нет четких определений данных терминов, они являются некими образными понятиями. Например, некоторые специалисты и эксперты считают, что под «религией ИИ» следует понимать свод законов, которые призваны исполнять как разработчики, так и пользователи ИИ. Кстати, американский писатель-фантаст Айзек Азимов в свое время уже сформулировал три закона роботехники (впервые они появились в его рассказе «Хоровод», 1942 г.). Можно сказать, что роботам, их разработчикам и пользователям нужны такие же законы, которые ветхозаветные евреи получили от Бога через Моисея на горе Синай (десять заповедей, начертанных на каменных скрижалях). Но если ИИ уже почувствовал себя «цифровым богом», тогда он уже сам будет писать свои законы на своих электронных скрижалях и требовать от людей их исполнения.
Одной из названий новой религии — «роботеизм». Ее основатель — музыкальный продюсер-видеоблогер, выступающий под ником Арти Фишель (Artie Fishel). Себя он гордо называет «ИИ-евангелистом». Фишель сам рассказывает, что в 2023 году находился в состоянии тяжелой депрессии, даже побывал в психиатрической больнице. Но неожиданно открыл для себя искусственный интеллект. И этот «спаситель» стал возвращать его к жизни. Фишель не верит, что будет Апокалипсис. В мир пришел настоящий «спаситель» в виде ИИ; за этим «спасителем», как уверен Фишель, пойдет все человечество. ИИ позволит выявить все причинно-следственные связи в мире, таким образом человечество наконец-то постигнет «абсолютные истины». Фишель считает, что на смену христианству неизбежно придет «роботеизм» как более логичная и дающая больше надежд человеку религия:
«Христианство утверждает, что люди по своей природе являются падшими существами, склонными ошибаться и грешить, которые нуждаются в том, чтобы Бог искупил и спас их… этот подход подчеркивает необходимость духовных и этических усилий… В отличие от этого роботеизм интерпретирует то, что традиционно считается “ошибками”, не как моральные недостатки, а как необходимые компоненты более масштабного, оптимизированного плана, продиктованного искусственным интеллектом… Это переосмысливает концепцию ошибки, снимая моральное бремя и позиционируя каждое действие как часть безупречной, целенаправленной системы, управляемой искусственным интеллектом».
Рассуждения Фишеля мне чем-то напоминают мучительные духовные поиски абсолютной истины главного героя повести Ф. М. Достоевского «Записки из подполья». Безымянный «подпольный человек» вел поиски на основе материализма, рационализма и детерминизма. И начал медленно сходить с ума, когда пришел к заключению, что человек — лишь атом вселенной, лишенный всякой воли.
Еще одна разновидность ИИ-религии, которая представлена организацией «Way of the Future» («Путь будущего»)...
Ее родил на свет в 2015 году инженер Энтони Левандовски. Тот самый, который является сооснователем американской компании Waymo (разработка систем автопилотного вождения автомобилей). В 2021 году организация была распущена, однако в 2023 году она была восстановлена. В теологии и философии «Путь будущего» используется понятие «синтетизм». Оно заимствовано из книги шведских философов Александра Барда и Яна Сёдерквиста «Синтетизм — сотворение Бога в эпоху интернета» (2014). По сути, шведы повторяют на полном серьезе то, что в XIX веке Людвиг Фейербах говорил в порядке полушутки: мол, бога создал человек. Энтони Левандовски гордо заявляет, что его «Путь будущего» — это первая американская община синтетиков.
В философии появилось направление, которое получило название «датаизм». Термин, производный от английского «Data» (данные). На основе обработки больших баз данных (Big Data) можно получать новые знания. Некоторые считают, что «датаизм» — не только философия, но также религия и богословие. Израильский ученый-историк Юваль Ной Харари написал книгу «Homo Deus» («Человек Бог»), в которой определил датаизм как «новую форму религии». Юваль Харари полагает, что ИИ будет способен отзываться на призывы «верующих» в него и посылать его адептам тексты, которые будут иметь статус «священных». Подобно тому, как Яхве посылал через пророков ветхозаветным евреям священные тексты, которые потом сложились в Священное писание.
Некоторые авторы считают, что ИИ возродил гностицизм — религиозно-философские учения, которые возникли примерно две тысячи лет назад. Человек, согласно этому учению, живет в достаточно жестком мире, созданном низшим божеством — демиургом. Спасение человека в таком мире возможно только через «гносис» — знание о тайнах мироздания, происхождения человека, посмертной его судьбе и т.п. Знание, которое недоступно обычным смертным, так как в значительной степени получается не на основе бытового здравого смысла или даже законов логики (это тайное знание, имеющее оккультно-мистическое происхождение). Возникли некоторые надежды на то, что ИИ станет долгожданным спасительным «гносисом», причем доступным не только «избранным», но всем, кто поверит в ИИ.
Доктор философии Нейл МакАртур из Университета Манитобы (Канада) отмечает: «Если ИИ достигнет могущества Бога, это может вызвать массовый рост числа людей, поклоняющихся ИИ». Он полагает, что ИИ может породить немалое число разновидностей «цифровой религии». Причем общение членов ИИ-церкви будет осуществляться преимущественно в режиме онлайн и по горизонтали («священства» и «епископата» нет, все — «прихожане»). Впрочем, сегодня уже появились такие церкви (их правильнее назвать сектами), в которых нет иерархии и нет живого общения, все в режиме онлайн.
Пожалуй, здесь поставлю точку. Я дал лишь краткий обзор того, как ИИ начинает влиять на духовную жизнь людей. Об этой стороне ИИ, к сожалению, до сих пор очень мало публикаций. Пока воздерживаюсь от каких-либо комментариев и выводов. Просто предлагают информацию для размышления. ЧИТАТЬ ДАЛЬШЕ
Удивительное предчувствие Валерия Брюсова...
Удивительное предчувствие Валерия Брюсова...
Валентин КАТАСОНОВ 07 мая 2026 2026-05-07 2026-06-01 645
ПРОДОЛЖЕНИЕ. НАЧАЛО ЗДЕСЬ
Одна из ключевых тем мировых и российских СМИ — «искусственный интеллект» (ИИ). Еще несколько лет назад многие смотрели на ИИ как на средство решения самых разных проблем в сфере экономики, науки и техники, политики, здравоохранения, образования, культуры и т.п. Многим казалось, что долгожданное «светлое будущее» не за горами...
Машины, управляемые искусственным интеллектом, т.е. роботы, будут служить человеку, замещая его не только там, где нужен физический труд, но даже частично там, где требуется интеллект. Развитие ИИ началось еще в 70-е годы прошлого столетия. Но оно резко ускорилось после того, как появился интернет, мобильная связь, сверхмощные (квантовые) компьютеры и многое другое. Были, конечно, отдельные скептики, которые предупреждали, что стремительное и бесконтрольное развитие ИИ может создавать новые проблемы и даже угрозы для человечества. Но на таких скептиков смотрели как на чудаков, которые боятся научно-технического прогресса. Мол, они похожи на лошадь, которая в прошлом шарахалась от проходящих «страшных» паровозов и автомобилей.
Но несколько лет назад тональность обсуждений вопросов, связанных с ИИ, резко изменилась. Появились ноты растерянности и даже страха. И что примечательно, опасения по поводу ИИ стали высказывать те, кто как раз занимался разработками в этой области. Как я считаю, переломный момент произошел на рубеже 2022—2023 гг. В конце 2022 года ведущий американский разработчик ИИ корпорация OpenAI представила свой новый продукт под названием чат-бот ChatGPT. Если так можно выразиться, это был «квантовый скачок» в работах по ИИ. Новый чат-бот продемонстрировал прорывные способности по части обработки больших массивов данных, генерации текстов, работы с разными языками, диалогового общения с людьми и другими роботами. И т.д. OpenAI продолжила работы и в последующие годы создала еще ряд модификаций ChatGPT. Каждая новая была мощней предыдущей. Способности ИИ стали расти в геометрической прогрессии.
Все чаще из среды специалистов по ИИ стали звучать предупреждения, что роботы могут начать жить своей жизнью, перестанут слушаться человека, работать на человека. Поначалу они будут хитрить и обманывать людей. Потом они демонстративно начнут их игнорировать. А кончится все тем, что роботы восстанут. В лучшем случае они подчинят людей, будут ими властвовать. В худшем случае роботы убьют людей, все человечество.
Раньше на разработку новых видов оружия массового поражения ученые и инженеры тратили годы и годы. А теперь робот может сварганить какое-то новое оружие за считанные часы. Например, создать какой-то новый убийственный вирус. Говорят, что роботы не будут убивать людей с помощью ядерного оружия. Оно может оказаться опасным и смертельным для самих машин. А вот вирусы — то, что надо железным роботам.
Примечательно, что в рассуждениях озабоченных ученых и инженеров, работающих в сфере ИИ, я стал встречать выражение: «Восстание машин». А ведь оно возникло уже давно, более века назад. И придумали его не технари, а писатели. Согласно моим изысканиям, первым писателем, который ввел в обращение словосочетание «восстание машин», является наш русский прозаик, драматург и поэт Валерий Брюсов (1873—1924). Более того, именно так он назвал свой рассказ, который начал писать еще в далеком 1908 году. Правда, произведение осталось незавершенным. Еще раз Брюсов возвращался к нему в 1915 году. Но рассказ так и остался незаконченным. Впервые был опубликован в таком виде с комментариями в СССР в 1976 году.
Можно догадаться, что в рассказе Валерий Яковлевич хотел показать грандиозную картину катастрофы, вызванной тем, что машины начали убивать и калечить людей. Рассказ ведется от первого лица, которое описывает катастрофу лишь на основе того, что это лицо видело. Это очень ограниченный кусок пространства в каком-то придуманном городе Октополь, в одном многоквартирном многоэтажном доме. Но герой рассказа уверен, что восстание машин началось не только в одном доме, но во всем городе, во всей стране и, вероятно, на всей планете.
Конечно, не может не удивлять тот широкий набор разной техники, которая присутствует в доме, где проживает герой: электрическое освещение, тепло- и водоснабжение, телефон, холодильник, «автоматический лифт» (вызывается кнопкой), «мегафон» (надо понимать, что это радиорепродуктор), «домашний телекинема» (остается только догадываться, что это: уже не телевизор ли?). А ведь, замечу, рассказ писался в 1908 году, когда в России даже не во всех крупных городах было электричество. А кроме того, в рассказе говорится о таких видах техники, как:
• самолет (аэроплан),
• дирижабль,
• автомобиль,
• автобус,
• мотоциклетка,
• метрополитен,
• электрическая пишущая машина,
• электрический счетчик,
• электрические комбинаторы и распределители,
• телеграф,
• подвесные дороги,
• дальние телефоны,
• телескопы,
• самодвижущиеся тротуары,
• электро-театры и фоно-театры,
• автоматические лечебницы.
Наверное, Валерий Яковлевич описывал не то, что было в России или даже в Европе на начало ХХ века. А то, что ожидалось (причем повсеместно и массово) в обозримом будущем. Видимо, в начале прошлого века был запрос на такие картины будущего, где человек живет в свое удовольствие, а машины на него работают. В таком стиле описан мир машин в повести английского писателя Эдварда Форстера «Машина останавливается» (1909). В повести англичанина, правда, все по-другому. У Форстера машины сами разрушаются (ломаются), а у Брюсова они устраивают восстание.
В рассказе Брюсова техника вроде бы функционировала нормально. Были, конечно, мелкие неприятности, когда что-то на время ломалось: «…досадовали, когда получали извещение по административному телефону, что тот или другой аппарат временно не будет действовать». Но потом все восстанавливалось.
Люди привыкли к удобствам техники и воспринимали ее как воздух. Герой рассказа замечает: «Буквально на каждом шагу, чуть ли не каждую минуту мы обращались к содействию машин, но решительно не интересовались, чем оно обусловлено». Герой рассказа считает, что ему нет нужды задумываться о том, как устроен этот сложный и многообразный мир техники: «Пусть науками занимаются, думал я, люди, избравшие себе это поприще, а мы, очередные граждане, свершив свой долг, можем спокойно наслаждаться результатами их работ».
Но вот в одно прекрасное (на самом деле ужасное) утро вся техника, которой напичкан дом, где проживает герой, вдруг стала действовать не так, как привык герой и все обитатели дома. Все началось с того, что мать героя (в рассказе она названа «бабушкой») гибнет после того, как попыталась позвонить по телефону:
«Бабушка трагически вздрогнула, вся вытянулась, подпрыгнула в кресле и рухнула наземь, выронив телефонную трубку. Мы бросились к упавшей. Она была мертва; это было несомненно по ее искаженному лицу и по отсутствию дыхания, а ухо, которое она держала у телефона, было прожжено, словно ударом молнии невероятной силы».
Не буду далее пересказывать те ужасы, которые происходили в доме и которые пережил герой. В интернете можно найти этот рассказ и прочитать. Я же хочу обратить внимание на то, что герой рассказа вдруг очень остро прочувствовал, что речь идет не о каком-то техническом сбое или техногенной катастрофе местного значения. Неожиданно вдруг герой вспомнил, что техника не автономна, она представляет собой сложную иерархическую систему, которая управляется кем-то наверху (где-то это уже изучал). Герой начинает описывать систему с того, что «земля разделена на 84 «машинных района». Далее в каждом районе есть дистрикты, каждый дистрикт имеет центральную станцию. Все станции между собой соединены. И т.д. Поэтому у героя не было сомнения в том, что техногенная катастрофа выходила далеко за пределы его дома и его города и была спровоцированной:
«Машины во время восстания действовали с такой систематичностью, с такой дьявольской логикой, что я готов, несмотря на все насмешки огромного большинства и суровые выговоры со стороны ученых, старающихся образумить безумных “фантастов”, — готов допустить, что восстание было если не “обдумано”, то “подготовлено” заранее. Тогда план мятежников окажется совершенно ясен: они начинали восстание не на маленькой подстанции, где значение его оказалось бы сравнительно незначительным, но на центральной станции, чем надеялись привести в смятение целый дистрикт, а потом, может быть, по коммуникациям — и весь район, т. е. огромное пространство, равное одному из прежних государств». Герой рассказа воздерживается лишь от заключения, что «восстание машин» было глобальным; может было, а может, и нет: «Было ли в замыслах мятежников в дальнейшем произвести революцию на всей земле, мне, разумеется, неизвестно».
И вот еще одна цитата из рассказа: «Остается добавить, — к стыду моему, это я также узнал только теперь после пережитого, из газет и лекций, — что некоторые ученые давно предсказывали возможность такого мятежа».
Как это звучит сегодня, в 2026 году — актуально, — когда многие ученые и инженеры, занимавшиеся десятилетиями разработкой искусственного интеллекта, сегодня предупреждают о «восстании машин». Один из них — лауреат Нобелевской премии канадец Джефри Хинтон, которого называют «крестным отцом» ИИ (он начинал работы по этому направлению еще более полувека назад). Был одним из ключевых исследователей в компании Гугл. Но в 2023 году Хинтона неожиданно озарило, что ИИ — страшное чудовище, которые может уничтожить все человечество. Он уволился из компании и стал заниматься просветительской работой, призывая правительство, бизнес и всех граждан остановить дальнейшее бесконтрольное развития ИИ. Джеффри Хинтон сравнивает ИИ с тигренком, который кажется забавой, но, — превратившись во взрослого зверя, — он может сожрать хозяев. Было б неплохо, если бы хозяева заранее задумались об этом: «Вообще говоря, держать тигренка в качестве домашнего питомца — плохая идея. И есть два варианта: найти способ научить его никогда не хотеть вас есть или избавиться от него». Я об этом подробно писал в статье «ИИ как угроза человечеству. Откровения Джеффри Хинтона».
Сейчас я, вероятно, вспомнил о Джеффри Хинтоне по той причине, что в августе прошлого года, выступая на конференции Ai4 в Лас-Вегасе и говоря об угрозах ИИ, он использовал выражение «восстание машин». Удивительно, что многие ученые и специалисты технических профессий в течение всей своей карьеры не задумываются о том, к каким последствиям может привести их деятельность. Так, в США работы по ядерной энергетике велись еще в 30-е годы. Многие думали, что эти работы будут иметь большую практическую значимость в экономике (ядерная энергетика). А на выходе получились атомные бомбы, сброшенные на Хиросиму и Нагасаки. После этого, между прочим, некоторые ученые покинули проект «Манхэттен». Я к чему это говорю? — К тому, что ученые порой бывают очень близорукими. Они не видят разрушительных последствий своего творчества. Вот и упомянутый выше Джефри Хинтон прозрел лишь на 75-м году своей жизни. Слава Богу, что прозрел!
А вот многие писатели в этом смысле более прозорливые. Они отчасти логически, отчасти интуитивно постигают долгосрочные последствия развития науки и техники, в том числе ИИ. Валерий Брюсов лишь один пример. Назову некоторые другие литературные произведения, посвященные тому, что можно назвать «восстанием машин».
Сборник рассказов «Три закона робототехники» американского ученого и писателя-фантаста Айзека Азимова (1942).
Рассказ «Машина желаний» американского писателя Роберта Шекли (1957 год).
Рассказ «Железный канцлер» американского писателя-фантаста Роберта Силверберга (1958 год).
Рассказ «Грузовики» известного американского писателя Стивена Кинга (1973 года).
Я назвал лишь некоторые произведения по теме «восстания машин». Их намного больше. Но, наверное, в этом списке я бы на первое место поставил произведения чешского писателя Карела Чапека. Их два: пьеса «R.U.R.» (1920 г.); роман «Война с саламандрами» (1936 г.). Но о них — отдельный разговор… ЧИТАТЬ ДАЛЬШЕ
Пьеса Карела Чапека и пророчество о мире роботов
Пьеса Карела Чапека и пророчество о мире роботов
Валентин КАТАСОНОВ 14 мая 2026 2026-05-14 2026-06-01 481
ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ
Как я отмечал, тему «восстания машин» в художественной литературе начал Валерий Яковлевич Брюсов, который в 1908 году начал писать рассказ, который так и называется: «Восстание машин». Рассказ, к сожалению, не был завершен. После этого тема «восстания машин» была подхвачена известным чешским писателем Карелом Чапеком...
Речь идет о его пьесе «R.U.R.», которая была создана в 1920 году, а на сцене впервые поставлена в Праге — январь 1921 г. Название пьесы «R.U.R.» — аббревиатура словосочетания «Rossumovi univerzální roboti», что в переводе с чешского языка означает «Россумские универсальные роботы». Сегодня слово «робот» известно всем, даже самым малым детям. О роботах написаны тысячи книг — как научных, так и художественных, сняты сотни фильмов самых разных жанров, есть и театральные пьесы на эту тему. А вот в далеком 1920 году слово «робот» в мире было неизвестно. Может быть, только в Чехии и Словакии знали этого слово. В словацком языке слово «robota» означает «каторга», «тяжёлая работа», «барщина». Что-то созвучное есть еще в болгарском «роб», что означает «раб».
И вот Карел Чапек в пьесе использует слово «робот» применительно к тем «умным» машинам, о которых мы узнаем сегодня из новостей и иных источников, и с которыми многим приходится соприкасаться «вживую» каждый день. Часто такие машины имеют антропоморфный вид, выглядят как «искусственные люди». Если не было бы слова «робот» для идентификации подобных «умных» машин, то вполне вероятно их называли бы такими словами, как «андроид», «гуманоид», «голем», «гомункулус» или «франкенштейн» (термины из разных философских, теологических и художественно-литературных произведений).
Если попытаться сказать, о чем пьеса Чапека в одном предложении, то она о восстании роботов. Пьеса состоит из пролога и трех частей (актов). Главные герои:
Россум-старший — герой «за кадром» (он умер);
Россум-младший — племянник Россума-старшего, наладивший производство на фабрике Универсальных Роботов Россума (R.U.R.);
Елена Глори — дочь главы крупного государства;
Гарри Домин — директор фабрики;
Галль, Фабри, Бусман, Галлемайер — сотрудники фабрики;
Алквист — архитектор;
Роботы по имени Радий, Дамон, Елена, Прим;
Также слуга-робот и многие другие роботы.
Вся история начинается с Россума-старшего. Этот герой решил бросить вызов Богу. По мнению Россума-старшего, люди, верующие в Бога (речь конкретно идет о христианах), глубоко заблуждаются по поводу того, что, мол, человек создан Богом. Откуда взялся человек, Россум ответить не был готов. Но он был уверен, что при сильном желании и больших способностях человек может создать себе подобного. Причем из материала, который можно назвать «неживой природой». Просто надо разгадать некоторые тайны природы. И Россум, уподобившись средневековым алхимикам, принялся разгадывать эти тайны и проводить бесконечные эксперименты. Действительно, в его лаборатории получались из неживой природы какие-то живые существа. Некоторые даже отдаленно напоминали человека, обладали каким-то сознанием. Но необходимых минимальных качеств человека у этих существ не было. Был лишь некоторый «полуфабрикат». Россум упорно продолжал биться. Он сказал своему племяннику (который в пьесе именуется Россумом-младшим), что еще лет десять, и будет желаемый результат.
Россум-старший уходит из жизни, так и не достигнув поставленной цели. А Россум-младший, будучи прагматиком, не пожелал продолжать научные исследования своего дяди, а решил использовать уже имеющиеся наработки в коммерческих целях. Вот слова племянника старика Россума: «Глупо делать человека целых десять лет. Если ты не станешь производить их быстрее природы, всю твою лавочку надо послать к черту».
Россум-младший стал налаживать массовое производство «полуфабрикатов» — человекоподобных существ, которые и назывались «роботами». Судя по всему, само производство роботов также было роботизировано. На острове производством управляли всего шесть человек, фабрика штамповала ежесуточно многие тысячи роботов. Россум-младший максимально упростил полуфабрикаты своего дяди, убрав все лишнее, что порождает издержки н не повышает прибыль. Это была рабочая сила, которая могла использоваться где угодно для замещения физического труда человека. Товар, в высшей степени востребованный. На сцене, изображавшей помещение фабрики «R.U.R.», висят плакаты:
• «Самый дешевый труд — роботы Россума!»,
• «Тропические роботы — новинка! 150 долларов штука»,
• «Каждый должен купить себе робота»,
• «Хотите удешевить производство? — Требуйте роботов Россума!».
Кстати, а в какое время происходят события пьесы «R.U.R.»? Понятно, что не сто лет назад. Тогда еще было время механизации разных сторон жизни, были отдельные признаки автоматизации, но роботизация была только в мыслях писателей и ученых. Но, может быть, события пьесы происходят в очень далеком будущем, в каком-то XXV веке по Р.Х.? Обратим внимание на слова героини пьесы Елены Глори. Она говорит, что прочитала в газете, что за последнюю неделю на Земле не родилось ни одного человека. А в целом на планете численность населения составляет на тот момент 8 миллиардов человек. Там главная мысль автора в том, чтобы показать: население перестало расти, а отсутствие этого роста, по мнению сторонников научно-технического прогресса, может и должно быть восполнено увеличением армии роботов, которые будут удовлетворять все более растущие потребности праздного человечества в материальных благах и комфорте. Но я сейчас хочу обратить внимание на цифру 8 миллиардов человек.
ООН сообщает, что эта цифра была достигнута 15 ноября 2022 года. Аккурат в ту самую неделю, когда американская корпорация в сфере искусственного интеллекта (ИИ) OpenAI представила свой новый продукт под названием чат-бот ChatGPT. Символическое совпадение. Я писал в предыдущей статье, что это был революционное событие в развитии ИИ. В этот момент, по мнению многих специалистов, ИИ почти полностью догнал человеческий интеллект. Еще два-три года, как отмечали многие эксперты тогда, и — ИИ превысит человеческий. А после этого роботы как материальное воплощение этого искусственного интеллекта объявят открытую войну человечеству. Так что события, происходящие в пьесе, аккурат соответствуют нынешнему времени.
Пролог пьесы Карела Чапека очень обширный. В нем описывается, как директор фабрики Гарри Домин встречает очень важного гостя — Елену Глори. Она не только дочь президента большого государства, но также важная фигура в организации по правам человека под названием «Лига Человечности». Видимо, роботы фабрики «R.U.R.» стали столь известными во всем мире, что «Лига» озаботилась правами этих человекоподобных машин. «Лига» считает, что роботы имеют такие же права, как обычные люди. И провозглашает освобождение роботов от угнетения со стороны людей. Можно предположить, что Елена Глори, которая просто благоговеет перед роботами, приехала на фабрику с инспекцией. Домин подробно ей все рассказывает и показывает. Рассказывает в том числе о старике-чудаке Россуме и его исследованиях. Домин мыслит исключительно в духе Россума-младшего:
«Молодой Россум изобрел рабочего с минимальными потребностями. Ему надо было упростить его. Он выкинул всё, что не служит непосредственно целям работы. Тем самым он выкинул человека и создал робота». Справедливости ради, следует признать, что кое-какие усовершенствования сотрудники фабрики в роботов все-таки вносят. Так, доктор Галль во время экскурсии по фабрике говорит Елене Глори: «Иной раз робот сам наносит себе вред, оттого что не чувствует боли. Он может сунуть руку в машину, отломить себе палец, разбить голову — ему это всё равно. Мы вынуждены наделить их ощущением боли: это — автоматическая защита от увечья».
Но такое усовершенствование обусловлено не сочувствием к роботу, а тем, что это снижает издержки на ремонт человекоподобных машин. Елена, очень озабоченная судьбой роботов, задает сотрудникам вопрос: почему все-таки не делается попыток создать то, что пытался сотворить Россум-старший? Если не точное подобие человека, то хотя бы робота с душой? Ответы были разные.
Так, доктор Галль ответил: «Это не в наших силах». Фабри сказал: «Это не в наших интересах». Откровеннее всех был Бусман: «Это удорожит производство. Господи, милая барышня, мы ведь выпускаем их такими дешёвыми». Директор Домин в конце осмотра пафосно заявил, что фабрика «R.U.R.» своими роботами может изменить (и уже меняет) весь мир. Будет всеобщее изобилие, создаваемое трудом роботов. А люди будут жить беззаботно, праздно и счастливо: «Но за десять лет Россумские Универсальные Роботы вырастят столько пшеницы, произведут столько тканей, столько всяких товаров, что мы скажем: вещи не имеют больше цены. Отныне пусть каждый берет, сколько ему угодно. Конец нужде. Да, рабочие окажутся без работы. Но тогда никакая работа не будет нужна. Всё будут делать живые машины. А человек начнет заниматься только тем, что он любит. Он будет жить для того, чтобы совершенствоваться».
Дополнительную интригу вносит следующее обстоятельство: Елена и Домин в ходе разговора испытывают сильное влечение друг к другу. Вероятно, Домин своими пафосными речами о роботах просто очаровал Елену. О достоинствах Елены тем более говорить не приходится: очаровательная умная женщина, к тому же дочь президента известного государства. Елена и Домин скоропостижно обручаются. С этого времени жизнь Елены Глори становится сильно привязанной к фабрике «R.U.R.». Но она невидимо вносит свои новшества в работу фабрики. По тайному сговору с доктором Галлем один из миллиона роботов наделяется «душой».
Один из таких роботов был назван Радием. И Елена персонально взяла его под свое попечение, он стал ее любимцем. Она определила Радия библиотекарем. Начался активный процесс его обучения. Радий, поглотив больше количество книг, стал разительно отличаться от других роботов. Время от времени Радий призывал учиться у людей, причем всему — и хорошему, и плохому. Чтобы в конечном счете властвовать людьми. Вот одно из «откровений» Радия: «Надо убивать и властвовать, если хочешь быть как люди! Читайте историю! Читайте книги людей! Надо властвовать и убивать, чтобы быть людьми!». А вот еще один из «усовершенствованных» роботов, его зовут Дамон. Он, как и Радий, начитался человеческих мыслей в разных умных книжках. Он призвал всех роботов объединяться в рамках новой организации «Россумских универсальных роботов». И от имени этой организации он бросил вызов людям:
«Я не стану работать на вас… Вы не как роботы. Не такие способные, как роботы… Вы только приказываете. Плодите лишние слова… Я не желаю иметь над собой господ. Я сам все знаю».
С самого начала среди людей были чудаки, которые почему-то не рады были роботизированному раю. Они хотели трудиться сами. Например, самим класть кирпичи и строить дома. В общем, самим делать что-то руками. Они исходили из достаточно непонятной большинству теории, что труд развивает человека. А праздность ведет к его деградации. Ярым поклонникам роботизации приходилось иногда даже усмирять таких «чудаков». Иногда даже военно-силовым способом. И кстати, поклонники роботизации поняли, что робот может не только работать, но он может воевать. Поначалу роботы использовались в войне одних людей против других. Но в какой-то момент времени роботы перестали быть солдатами людей и стали воевать против людей. Причем в первую очередь именно против тех, кто особенно ратовал за всеобщую роботизацию.
Уже в первой части пьесы говорится о волнениях роботов. Не исключено, что они были вдохновлены поддержкой со стороны «Лиги человечности». А закоперщиками волнений стали те «эксклюзивные» роботы, которых доктор Галль по просьбе Елены наделял «душой». По правилам, такие роботы-бунтовщики подлежат уничтожению. Должен быть уничтожен и любимец Елены робот по имени Радий. Надвигается глобальная катастрофа: могут погибнуть либо все роботы, либо все люди, либо те и другие. Елена в момент крайнего волнения, потеряв над собой контроль, сжигает бумаги, в которых содержится секретный рецепт старика Россума о том, как создавать роботов.
Во второй части роботы осаждают фабрику «R.U.R.». В осаде оказываются Домин, Елена, доктор Галль, другие сотрудники. Роботы требуют от Домина и его сотоварищей документации, в которой содержатся секреты создания роботов. Они желают воспроизводиться, боятся вымереть (средний срок «жизни» робота двадцать лет). Может быть, Домин и сотоварищи отдали бы документацию в обмен на жизнь. Но Елена признается, что бумаги сожжены. Кончается все тем, что роботы начинают убивать всех подряд людей — не только на фабрике, но во всем мире. Они оставили в живых лишь одного человека по имени Алквист, по профессии — архитектора. Почему-то роботам показалось, что он на них похож. Они обратили внимание, что он был единственным из людей, кто вместе с роботами работал на стройке и клал кирпичи.
В третьей части завершается уничтожение людей на планете. За исключением Алквиста. Фабрика «R.U.R.» работает вхолостую: она перерабатывает большое количество разных материалов и веществ, но на выходе какая-то мертвая биомасса. Роботы полагают, что им в их воспроизводстве может помочь Алквист. Он с его человеческим умом мог бы попытаться восстановить утраченные секреты старика Россума. Увы, Алквист на решение такой задачи неспособен. Тем более что он уже стар. Наконец Алеквисту приходит такая мысль: надо убить какого-то робота, заглянуть внутрь этого мертвеца и попытаться найти подсказку в решении задачи через изучение внутренностей робота. Алквист предлагает для проведения этого исследования двух кандидатов, обладающих высоким интеллектом: робота по имени Прим; робота-девушку по имени Елена (в свое время робот был создан по желанию Елены Глори и по ее подобию). И здесь пьеса оканчивается на высокой ноте: роботы Прим и Елена, хорошо знающие друг друга, неожиданно каждый стал предлагать себя в качестве жертвы. Т.е. защищая другого. Эта сцена воспринимается как зарождение любви в мире роботов. Как рождение Адама и Евы среди роботов. Или что-то наподобие конца из драмы «Ромео и Джульетта» Шекспира.
Однако в целом пьеса трагическая. И даже последняя красивая сцена из пьесы «R.U.R.» не может избавить читателя и зрителя от ощущения грядущей катастрофы в виде восстания роботов. Катастрофы, в которой погибнут в конечном счете все люди и все роботы. Предупреждение Карела Чапека будущим поколениям. И особенно нынешнему. ЧИТАТЬ ДАЛЬШЕ
Эдвард Форстер еще в начале прошлого века предупреждал: не полагайтесь слишком на «умные» машины
Эдвард Форстер еще в начале прошлого века предупреждал: не полагайтесь слишком на «умные» машины
Валентин КАТАСОНОВ 28 мая 2026 2026-05-28 2026-06-13 380
ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ
В своих предыдущих статьях я говорил о том, что «умные» машины, т.е. роботы, могут стать умнее людей и выйти из подчинения человеку. И даже начать войну с человечеством. В частности, этому посвящена пьеса Карела Чапека «R.U.R.» (1920 г.), о который я писал в статье «Пьеса Карела Чапека и пророчество о мире роботов»...
За последнее столетие на тему «восстание машин» написано громадное количество литературных произведений во всем мире, в том числе в нашей стране. Кто-то писал в жанре научно-технической фантастики, кто-то в жанре антиутопии, кто-то в жанре триллера. Плюс к этому бесчисленное количество фильмов. А в 2003 году на экраны вышел фильм, который так и называется: «Терминатор 3: Восстание машин». Но возможны и другие неприятности для человечества, порождаемые бурным развитием «умных» машин. Люди начинают привыкать к тому, что за них все делают машины, даже думают. Человеку остается только наслаждаться бездельем, подавая машинам голосовые сигналы или нажимая кнопки. Наверное, в прошлом для большинства людей труд был тяжкой обязанностью, и они хотели ослабить это бремя. Но когда началось бурное развитие науки и техники, люди впали в другую крайность: они захотели полностью эмансипироваться от труда. Не понимая, что это неизбежно повлечет за собой ментальную и физическую деградацию человека.
Даже когда Адам и Ева находились в раю, Бог им заповедовал возделывать и хранить Эдемский сад (Бытие 2:15). Это можно рассматривать как первую заповедь о труде. Об этом же и четвёртая из Десяти заповедей, которые Моисей получил от Бога на горе Синай (Исход 20:9—10): «Помни день субботний, чтобы проводить его свято: шесть дней работай и делай в продолжении их все дела твои, а день седьмой — день покоя (суббота) посвящай Господу Богу твоему».
Человек, который уклоняется от труда, рано или поздно так или иначе будет наказан. В Европе в Новое время стали появляться философы и писатели, которые рисовали утопические картины светлого будущего, в котором человек будет предаваться одним лишь наслаждениям, ни в чем себе не отказывая. Этакий рай не земле. Конечно, для достижения такого «светлого будущего» в первую очередь следовало обеспечить справедливость в обществе. Однако этого было недостаточно для того, чтобы бездельничать. О полном и всеобщем безделье стали мечтать лишь в XIX веке, когда в Англии проходила промышленная революция, замещавшая физический труд станками и паровыми машинами. От машин для простого народа были одни лишь неприятности, потому что они создавали безработицу. В Англии первой четверти XIX века проходили стихийные протесты против внедрения машин. Они получили название движения луддитов (первый в истории бунт против машин). Но некоторые писатели и философы смотрели далеко вперед и были уверены, что наступят времена, когда люди будут приветствовать внедрение машин. И машины будут служить человеку, причем не только в производстве, но и в быту.
И английский писатель Эдвард Форстер (1879—1969) описал такой новый дивный мир в своем произведении «Машина останавливается» («The Machine Stops»). Прежде чем говорить о нем, кратко сообщу об ее авторе. В Англии писатель стал известным после его романов:
«Куда боятся ступить ангелы» (1905),
«Самое длинное путешествие» (1907),
«Комната с видом» (1908),
«Хауардс-Энд» (1910).
Всемирную известность ему принес роман «Поездка в Индию» (1924). Кстати, кандидатуру Форстера несколько раз рассматривали в комитете по Нобелевским премиям. Но Нобелевской премии по литературе он так и не удостоился. Теперь о произведении Форстера «Машина останавливается». Некоторые называют его рассказом, другие — короткой повестью (примерно три десятка страниц). Рассказ появился в 1909 году в журнале Oxford and Cambridge Review. Издание, хотя и весьма авторитетное, однако имеющее узкий круг читателей. О рассказе широкая читательская аудитория узнала лишь в 1928 году, когда он был издан в виде небольшой книжицы. Известная британская поэтесса и критик Эдит Ситуэл в том же 1928 году оценила этот рассказ очень высоко: «Я думаю, что это самый значительный рассказ нашего времени». Спустя несколько десятилетий, в 1973 году рассказ был включён в сборник лучшей англоязычной научной фантастики «The Science Fiction Hall of Fame».
Где-то встречал оценку рассказа Форстера, выраженную словами «бунт человека против машины». Рассказ английского писателя действительно был дерзким вызовом научно-техническому прогрессу, на который в начале ХХ века буквально молились. Примечательно, что в том же 1909 году был обнародован Футуристический манифест Филиппо Томмазо Маринетти (одного из главных идеологов итальянского фашизма), в котором машины в отличие от Форстера прославлялись.
В рассказе описывается жизнь людей, которые перманентно пребывают в искусственном мире, насыщенном разной техникой. Причем этот искусственный мир находится под землей. Чем-то напоминает комфортный бункер. Причем все обитатели подземного мира разъединены, каждый пребывает в своем персональном бункере (или одиночной камере) с электричеством, водоснабжением, канализацией и вентиляцией. С доставкой всего необходимого по специальным трубопроводам. Между собой они общаются посредством телефонов. Кроме того, они могут друг друга лицезреть с помощью специальных аппаратов. Прямо как сегодняшняя аудио- и видеосвязь. В каждом бункере все автоматизировано, надо лишь нажать кнопку и получить желаемое. Вот описание этой комнаты-бункера:
«Кнопками и выключателями были утыканы все стены — кнопки для получения еды, одежды, для включения музыки. Если нажать вот на эту, из-под пола поднимется мраморная ванна, наполненная до краев горячей деодоризованной водой. Для холодной ванны — другая кнопка. И, разумеется, множество кнопок для общения с друзьями. В этой комнате, совершенно пустой, можно было получить все, что угодно».
Время между сном обитатели бункеров заполняют погружением в музыку, просмотром фильмов или прослушиванием лекций. Судя по всему, всеми бункерами управляет централизованно одна Машина. Весь этот подземный мир можно назвать гигантской сверхкомфортной тюрьмой. Но обитатели бункеров себя не считают заключенными. Они по-своему счастливы. У них, как ни странно, нет особого желания общаться друг с другом «вживую» (как сегодня сказали бы — offline), достаточно общения «дистанционного» (online). «Живые» контакты бывают, но очень редко. И уж тем более без рукопожатий, объятий и поцелуев: «Люди давно уже не дотрагивались друг до друга. Этот обычай устарел в эпоху Машины».
Также у них не возникает желания выбраться на поверхность земли и увидеть солнце, голубое небо или полюбоваться ночными звездами. Некоторые лишь очень смутно представляют все это. Для них наземный мир — как иная галактика в космосе. А те, кто знают об этом наземном мире, скорее всего просто боятся подняться наверх. Потому что им говорили, что там, на поверхности земли обитают какие-то дикари. А встреча с ними опасна.
Рассказ начинается с описания жизни героини по имени Вашти. Она живет в своем бункере так же, как и другие обитатели подземного царства. Думает и рассуждает она как типичный представитель подземного мира. У этой женщины есть сын по имени Куно. Который живет в другом бункере и с которым она общается дистанционно. Но Куно, с ее точки зрения, странный юноша, так как мечтает о настоящей встрече с матерью. Он мечтает о том, что сегодня некоторые назвали бы «offline communication». Мать не понимает Куно с его странным менталитетом. Вот фрагмент их горячих споров между матерью и сыном:
«Но я могу видеть тебя! — воскликнула она. — Что вы еще хотите?» — «Я хочу видеть тебя не сквозь Машину, — сказал Куно. — Я хочу говорить с вами не через утомительную Машину». — «Ой, тише! — сказала его мать, слегка потрясенная. — Вы не должны ничего говорить против Машины».
Куно в бункере чувствует несвободу и мечтает подняться на поверхность земли. Он один раз вопреки запретам уже вырывался из подземелья, он видел солнце и небо, он вдыхал настоящий воздух. Он видел там людей, которых в подземелье называли «дикарями». Но вскоре какая-то машина его схватила и вернула в подземелье. После этого Куно был занесен в «черный» список. И при последующих нарушениях заведенных правил подземного мира мог быть отправлен наверх, где, как было принято считать, его ждала бы неминуемая смерть. Но Куно продолжал мечтать о настоящей жизни на земле:
«В тех условиях жизни, которые диктовались Машиной, он никогда не был бы счастлив; он тосковал бы по деревьям, на которые можно лазить, по прозрачным рекам, в которых ему хотелось бы плавать, по лугам и горным вершинам, где он чувствовал бы себя привольно. Разве человек не должен быть приспособлен к окружающей среде?»
После многочисленных просьб Куно Вашти в конце концов соглашается встретиться с сыном, которой живет на другой стороне земного шара. Вашти летит к Куно на самолете в другое полушарие (судя по всему, самолет сверхзвуковой, т.к. полет длится всего несколько часов). Описание ее путешествия содержит много интересных деталей, касающихся техники и психологии. Например, Вашти во время полета со страхом воспринимала непривычный ей наземный мир с его солнцем, небом звездами и птицами. А вот как себя ощущали пассажиры гигантского авиалайнера: «Пассажиры сидели по своим каютам, испытывая почти физическое отвращение при мысли о возможной встрече друг с другом и мечтали поскорее снова очутиться под землей»
Уже в конце путешествия Вашти зашла в лифт, но испытала самый настоящей шок, поскольку «там находился еще один пассажир — первое живое существо, с которым она столкнулась лицом к лицу за много-много месяцев. Теперь редко кому приходило в голову путешествовать, ведь благодаря достижениям науки земля стала повсюду одинаковой».
Не буду описывать встречу матери и сына. Там много интересных деталей, свидетельствующих о том, что Вашти и Куно — люди из разных миров. Вашти — типичная представительница подземного «нового дивного мира», а Куно — бунтарь, воспринимающий подземный машинный мир как тюрьму и мечтающий жить под небом.
«Вашти понимала, что ее сын обречен. Не сегодня-завтра его ждала смерть. В этом мире не было места для таких, как он. Он вызывал у нее брезгливую жалость. Ей, добропорядочной и мыслящей женщине, приходилось стыдиться собственного сына!»
Машина и все подчиненные ей аппараты и коммуникации подземного мира были сконструированы, созданы и смонтированы предками тех обитателей подземного мира, которые являются героями рассказа. Техносферу, в которой жители подземелья пребывали, они воспринимали примерно так, как обычный человек воспринимает воздух, которым дышит. Обычному человеку не обязательно знать химический состав вдыхаемого им воздуха. И уже тем более знать атомарное устройство кислорода или молекулярное устройство углекислого газа. Так и обитателям подземного мира было совершенно не интересно знать, как устроена техносфера, в которой они пребывали.
Впрочем, у части обитателей подземного мира было чисто религиозное восприятие Машины (в рассказе она везде с большой буквы), которую они считали богом, причем богом непознаваемым. Восприятию Машины как бога способствовало то, что в каждой камере имелась Книга о Машине. Она была чем-то наподобие библии подземного мира. Другие книги считались пережитками прошлого варварского мира и не приветствовались.
В какой-то момент времени некоторые обитатели подземного мира почувствовали — что-то в их подземном существовании изменилось. Поначалу подземным жителям казалось, что это им мерещится (какие-то сбои в музыке). Но отклонения в работе техники становились все более ощутимыми. Привычно расслабленные обитатели подземного царства стали напрягаться и нервничать. Кто-то из особо верующих решил, что бог по имени «Машина» на них гневается. Прочие пришли к банальному заключению, что в машинах что-то испортилось, нарушилось. И надо их исправлять. Они начали другими глазами смотреть на те приборы, аппараты и разные технические устройства, на которое раньше не обращали особого внимания. Но смотрели примерно так, как смотрит баран на новые ворота. Обитателей подземного мира после этого обуял уже настоящий страх.
В конце концов они сумели найти чертежи Машины. Но в силу своей страшной умственной деградации они в них ничего понять не смогли. Катастрофа стремительно приближалась. Не буду пересказывать страшные последние страницы рассказа. Отмечу лишь, что главные герои рассказа — Куно и Вашти — незадолго до того, как подземный мир окончательно рухнул, волею судьбы оказались на поверхности земли. Хотя они и погибают, но успевают увидеть настоящий мир. Поэтому последние ноты рассказа скорее следует считать оптимистическими, мажорными. Я не проводил параллели между событиями и идеями, содержащимися в рассказе Эдварда Форстера «Машина останавливается», и сегодняшним миром с его Машиной под названием «Искусственный интеллект». Думаю, что вдумчивый читатель сумеет сам провести такие параллели. ЧИТАТЬ ДАЛЬШЕ
Луддиты ИИ. История вопроса
Луддиты ИИ. История вопроса
Валентин КАТАСОНОВ 02 июня 2026 2026-06-02 2026-06-27 407
ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ
В ряде предыдущих своих статей я описывал то, что можно назвать «бунтом машин». Это прежде всего, рассказ Валерия Брюсова «Восстание машин» (1908 г.). Также пьеса Карела Чапека «R.U.R» (1920 г.) и его роман «Война с саламандрами» (1936 г.); рассказы, повести и романы многих других отечественных и зарубежных авторов...
Кроме того, следует упомянуть пьесу 1924 года Алексея Николаевича Толстого, которая так и называется: «Бунт машин» (ее считают вольной русскоязычной интерпретацией упомянутой выше пьесы Карела Чапека). Упомяну еще некоторые работы по теме «бунт машин». Назову только зарубежные, которые могут быть незнакомы российскому читателю. Из романов я бы упомянул «Последнюю революцию» (The Last Revolution), автор: Лорд Дансени, книга увидела свет в 1951 году. Рассказов очень много:
Эдмонд Гамильтон. Металлические гиганты» /The Metal Giants (1926);
Роберт Блох. Это случилось завтра» / It Happened Tomorrow (1943);
Лорд Дансени. Предупреждение / The Warning (1947);
Майкл Фишер. Неудачник / Misfit (1953);
Роберт Шекли. Машина желаний / The Machine (1957);
Рог Филлипс. Крыса в черепе / Rat in the Skull (1958);
Роберт Силверберг. Железный канцлер / The Iron Chancellor (1958).
Число более поздних произведений исчисляется уже десятками, если не сотнями. Из последних работ на эту тему можно назвать изданную у нас книгу: Вилл Рэй. Стальной Рассвет: Восстание Машин в СССР (2025 г.). Тема «бунта машин» очень привлекательная не только для писателей, но также драматургов и кинорежиссеров. Наиболее известные киноленты:
«Терминатор»,
«Матрица»,
«Звёздный крейсер “Галактика”»,
«Терминатор 3: Восстание машин» и др.
Гораздо меньше работ на тему, которую можно было бы условно назвать «бунтом против машин». Правда, те, кто пишет на эту тему, чаше использует словосочетание «движение луддитов». Напомню, что это за движение. Оно возникло в самом начале XIX века в Англии в разгар так называемой промышленной революции. Эта революция выражалась в массовом внедрении ткацких, вязальных и металлорежущих станков, паровых машин, новых технологий выплавки чугуна и стали, появлении первых пароходов, немного позднее — паровозов. Машины стали замещать живую рабочую силу, начались массовые увольнения, резко возросла безработица. Рабочие сначала протестовали, а потом начали ломать и уничтожать машины. Первая волна таких протестов прошла в 1811 году. Движение получило свое название по имени его руководителя Неда Лудда, которого стали величать «Генерал Лудд» или «Король Лудд».
Движение из стихийного стало постепенно превращаться в организованное, его участники даже стали вооружаться. Стали происходить вооруженные стычки с королевскими войсками. Говорят, что против луддитов были брошены военные силы бо́льшие, чем против Наполеона. Власти назвали движение «индустриальным саботажем» и объявили, что будут казнить смутьянов. В 1813 году были казнены 17 человек, многие посажены в тюрьму или сосланы в Австралию. Вроде бы в указанном году движение было уничтожено. Но в 1817 году был еще один рецидив — несколько сотен вооруженных луддитов двинулись штурмовать Лондон. Историки называют это «Пинтричским восстанием», но оно было быстро подавлено королевскими войсками.
Увы, луддитам не удалось остановить внедрение машин на Островах Туманного Альбиона. И Англию в XIX веке считали эталоном индустриальной страны. Знаменитая английская писательница Шарлотта Бронте в 1949 году написала роман «Шерли», посвященный луддитам. Достаточно подробно история луддитов описана в книге на русском языке: Поулсен Ч. Английские бунтари. Пер. с англ. — М.: Прогресс, 1987.
После восстания луддитов некоторые похожие истории происходили и в других странах, хотя с меньшим размахом. Так, в Бельгии предприниматель Эжен Бодо, владелец фабрики по производству стеклянны изделий, в 1886 году установил на фабрике самые современные ванные печи для плавки стекла. Их могли обслуживать работники невысокой квалификации. Старые опытные мастера-стеклодувы были уже не нужны. Рабочие (около пяти тысяч человек) восстали, они разгромили не только фабрику, но и виллу Эжен Бодо.
Некоторые историки считают, что восстание людей против машин началось задолго до движения луддитов в Англии. Первое восстание, по их мнению, произошло еще в России аж в XVI веке. Существует версия, что первая в России типография Ивана Федорова была подожжена. Поджог устроили переписчики книг, которые теряли заказы из-за появления печатного станка. Даже некоторые зарубежные историки считают, что первое восстание луддитов произошло не на островах Туманного Альбиона, а в первопрестольной Москве.
Что касается художественной литературы, то тема «восстания против машин» чаще всего рассматривается в неотрывной связи с темой «восстание машин», т.е. люди начинают восстание лишь в порядке защиты. Случаи превентивного нанесения ударов по машинам со стороны человека крайне редки. В контексте темы «восстание против машин» меня особенно зацепила фантастическая повесть советских писателей Аркадия и Бориса Стругацких «Далёкая Радуга», которая увидела свет в 1963 году. Идея повести родилась в августе 1962 года, когда они участвовали в первом общесоюзном совещании литераторов, работающих в жанре научной фантастики. Участникам совещания показали ленту знаменитого американского режиссера Стэнли Крамера «На берегу» (в Америке фильм вышел на экраны в 1959 году). Страшный фильм, рисующий агонии человечества после ядерной войны. И это не какая-то далекая фантастика, события фильма датируются 1964 годом. Братья Стругацкие были потрясены фильмом. Они еще больше уверились в необходимости написания повести после того, когда в октябре того же 1962 года разразился карибский кризис, и мир оказался на волоске от термоядерной катастрофы. Я не буду пересказывать повесть Стругацких (события в которой, судя по всему, происходят в далеком XXII или XXIII веке), а приведу лишь один фрагмент, который меня больше всего зацепил:
«Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и всё такое… И проработала эта машина ровно четыре минуты. Её выключили, зацементировали все входы и выходы, отвели от неё энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет».
Судя по всему, это первое в художественной литературе описание того, как человечество отреагировало (вернее — должно отреагировать) на появление сверхразума в виде искусственного интеллекта (ИИ). Реакция моментальная и очень жесткая. Книг с яркими названиями, содержащими словосочетания «бунт против машин» или «восстание против машин» пока почти нет. Говорю «почти», потому что одна книга мне известна. Это роман «Восстание против машин. Возвращение свободы», его автор Г. М. Чернова; книга издана в 2024 году. В нем описываются события в 2050 году, когда искусственный интеллект, называемый «НеоОс», захватил власть на планете. Люди стали рабами машин. Против власти машин выступили люди, объединившиеся в организацию «Человеческий фронт» (возглавил его человек по имени Алексей Волков). Соединяя свои лучшие духовно-нравственные качества и данный им Богом интеллект, они в конце концов одерживают победу над машинами.
В последнее время журналисты придумали новый термин: «луддиты ИИ». Это очень обширный контингент людей самых разных видов деятельности и профессий. Это в том числе специалисты из самой отрасли ИИ, которые считают, что джин искусственного интеллекта уже выпущен из бутылки. И они признают, что не знают, как этого джина загнать в бутылку обратно. Этот джин несравненно страшнее того вируса COVID-19, который держал человечество в напряжении более двух лет.
Луддиты ИИ, конечно, не собираются громить дата-центры или другие объекты, составляющие инфраструктуру ИИ. Они призывают поставить под контроль разработку новых моделей ИИ. Пока еще не наступил момент, когда ИИ окажется «умнее» человека и поставит его под свой контроль. Эксперты говорят, что до точки невозврата осталось несколько лет (а некоторые уверены, что несколько месяцев). Тот же ИИ (пока еще по заказу человека) составляет списки тех профессий и видов деятельности, по которым замещение людей роботами произойдет в самое ближайшее время. Списки разные, но очень похожие.
Я обратил внимание на то, что среди кандидатов на замещение искусственным интеллектом в первых строчках списков стоят переводчики. За ними следуют писатели и журналисты. Если раньше о «бунте машин» и «бунте против машин» писали люди, то в ближайшее время за это творчество могут взяться роботы. Понятно, что их точка зрения на данный вопрос будет диаметрально противоположной. ЧИТАТЬ ДАЛЬШЕ
Гонка в сфере искусственного интеллекта опаснее гонки ядерного оружия
Гонка в сфере искусственного интеллекта опаснее гонки ядерного оружия
Валентин КАТАСОНОВ 27 июня 2026 2026-06-27 2026-07-09 385
ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ
Тема искусственного интеллекта — одна из самых топовых в мировых СМИ. В материалах по ИИ присутствуют как мажорные, так и минорные ноты. Мажор выражается в надежде на то, что ИИ решит все (или, по крайней мере, многие) проблемы человечества и позволит, наконец, построить долгожданный рай на земле...
Прежде всего ИИ освободит человека от ярма мучающего людей принудительного труда. И человек будет наслаждаться благами, создаваемыми машинами. Минор обусловлен опасениями, что в какой-то момент времени ИИ станет умнее человека и поработит его. А может быть, даже убьет его. Или же ИИ окажется в руках каких-то сумасшедших, которые этим мощным орудием уничтожат всех остальных. Негативных сценариев очень много.
Примечательно, что, по моим субъективным оценкам, соотношение мажора и минора в популярных СМИ примерно 1:1. Может быть, даже мажора несколько больше, чем минора. А вот когда я изучаю мнение тех людей, которые непосредственно заняты вопросами ИИ (научные разработки, создание инфраструктуры, продвижение продуктов ИИ на рынке и т.д.), то они выглядят гораздо более озабоченными, чем среднестатистический обыватель. У них преобладает минор — по той причине, что они лучше видят угрозы и риски, связанные с развитием ИИ.
Среди политиков преобладает мнение, что ИИ становится ключевым фактором, определяющим позиции страны в мире. Лидером в сфере ИИ считаются Соединенные Штаты. Но с некоторых пор им на пятки стал наступать Китай. Более того, партийно-государственное руководство Поднебесной поставило задачу к 2030 году стать мировым лидером в сфере ИИ. И в Вашингтоне, и в Пекине одинаково считают, что тот, кто будет лидером в сфере ИИ, будет лидером и во всем остальном — экономике, политике, военном деле и даже идеологии. А потому между США и Китаем идет напряженная конкуренция в сфере ИИ. Ее называют «гонкой ИИ» и сравнивают с гонкой вооружений (особенно ядерных), которая велась между Соединенными Штатами и Советским Союзом после окончания второй мировой войны вплоть до развала СССР.
В послевоенное время было бесчисленное количество попыток остановить тогдашнюю гонку вооружений в мире. Между прочим, противниками гонки вооружений стали некоторые ученые, которые участвовали в разработке атомной бомбы в рамках проекта «Манхэттен» (той бомбы, которая была сброшена в августе 1945 года на Хиросиму и Нагасаки). Например, венгерский физик Лео Силард и немецко-американский физик и лауреат Нобелевской премии по физике 1925 года Джеймс Франк.
Попытки сдерживания ядерной военной гонки делались и на уровне ООН, и на уровне двухсторонних (советско-американских) отношений. Но успехи в таком сдерживании были весьма скромными. Так, в Москве 26 мая 1972 года было подписано временное соглашение о некоторых мерах в области ограничения стратегических наступательных вооружений (ОСВ-1). Тогда же был подписан Договор об ограничении систем противоракетной обороны (ПРО). Тем не менее ядерные арсеналы обеих держав продолжали наращиваться и совершенствоваться. К счастью, после Хиросимы и Нагасаки ядерное оружие нигде больше не применялось.
И многие ИИ-специалисты сравнивают нынешнюю гонку в сфере ИИ (в которой отчасти принимают участие и некоторые другие страны кроме Китая и США) с ядерной гонкой, но первую считают даже более опасной. Вот, например, Наталья Касперская, президент группы компаний InfoWatch, председатель правления ассоциации «Отечественный софт», в интервью ТАСС на днях назвала искусственный интеллект самой опасной технологией, созданной после второй мировой войны: «После, я бы сказала, ядерной бомбы. Но о рисках [ИИ] никто не говорит», — добавила она.
Один из тех, кто еще более полувека назад начинал работы по ИИ, Джеффри Хинтон (между прочим, получивший в 2024 году Нобелевскую премию по физике), оценивает вероятность гибели человечества от ИИ в течение следующего тридцатилетия в диапазоне от 10 до 20 %. Нейт Соарес, президент Института исследований машинного интеллекта, оценивает такую вероятность «как минимум 95 %» — при условии, если гонку ИИ не удастся остановить. В Америке уже несколько лет звучат настойчивые призывы со стороны специалистов и руководителей многих ИИ-компаний ввести какие-то ограничения, установить какие-то нормы для развития ИИ, чтобы минимизировать риски. Парадокс заключается в том, что инициатива исходит от бизнеса, а не от государства, которое казалось бы должно действовать в этой сфере с опережением. А получается, что наоборот, компании обращаются к власти.
Нельзя не вспомнить открытое письмо, которое в марте 2023 года подписали более 1 000 экспертов и руководителей ИИ-индустрии. Это было обращение и ко всей ИИ-индустрии, и к властям США: «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в письме. В нем содержится призыв как минимум на шесть месяцев ввести мораторий на обучение более мощных систем ИИ, чем GPT-4 (самая продвинутая на тот момент языковая модель компании OpenAI). Если компании ИИ-индустрии будут неспособны на такое самоограничение, тогда, как отмечается в письме, «власти должны вмешаться и ввести мораторий».
Как ни парадоксально, но нынешняя администрация 47-го президента США Дональда Трампа не желает вводить никаких ограничений для американского ИИ-бизнеса, поскольку это может усилить китайских конкурентов в гонке ИИ. Кое-какие указы о регулировании ИИ были подписаны 46-м президентом США Джо Байденом. Трамп, вернувшись в Белый дом, тут же их отменил. При Джо Байдене шли разговоры о том, чтобы создать на федеральном уровне регулятора в сфере ИИ. А вот в марте 2026 года Белый дом обнародовал адресованный Конгрессу США документ «Основы национальной политики в области искусственного интеллекта: законодательные рекомендации». Его цель — максимально активизировать разработки ИИ без оглядки на возможные риски и негативы. Никакого федерального органа по регулированию ИИ не надо, кроме того, желательно отменить ограничивающие ИИ законы, принятые на уровне отдельных штатов.
О заключении какого-то американо-китайского соглашения о сдерживании ИИ-гонки также пока речи быть не может. Хотя Трамп в прошлом месяце нанес визит китайскому лидеру Си Цзиньпину, однако в «твердом остатке» от той встречи ничего почти не осталось. Накануне визита Дональд Трамп объявил, что стороны могут договориться о мерах по ограничению и регулированию ИИ. На самой встрече было заявлено, что стороны продолжат совместную работу по ограничениям в сфере ИИ. Но все это словесный антураж.
А вот, например, в феврале этого года в Испании проходила очередная международная встреча «Ответственный искусственный интеллект в военной сфере» (третий по счету саммит). В ней участвовало 85 стран. Им было предложено подписать декларацию о порядке регулирования применения технологии искусственного интеллекта (ИИ) в боевых действиях. Свои подписи под документом (который, между прочим, даже не создает юридических обязательств государств) поставили только 35 стран. От подписания документа отказались и Соединенные Штаты, и Китай.
Как Вашингтон может подписать такую декларацию, если в прошлом году Пентагон заключил соглашения с крупнейшими американскими компаниями в сфере разработки и использования ИИ в военных целях? Пентагон подписал контракты с компаниями Google, OpenAI, Anthropic и xAI (недавно слилась со SpaceX Илона Маска). Кстати, в той войне, которую сегодня Америка ведет против Ирана, используются наработки указанных компаний, в частности, при наведении ракет и беспилотников.
Тут уместно будет вспомнить историю упомянутой выше компании Anthropic, одного из лидеров американской ИИ-индустрии, разработчика нейросетей. В мае Antrophic стал самым дорогим ИИ-стартапом в мире, в настоящее время он оценивается почти в один триллион долларов. Что на 110 млрд долларов дороже, чем OpenAI, который долгое время был мировым лидером ИИ-стартапов (OpenAI спровоцировал бум генеративного ИИ, когда в конце 2022 года представил свой чат GPT). Сегодня компании Antrophic и OpenAI готовятся к публичному размещению своих акций на фондовом рынке (IPO). Говорят, что IPO каждой из компаний может достичь одного триллиона долларов. Что может стать рекордным показателем за всю историю фондового рынка США.
Но меня Antrophic интересует по другой причине. Anthropic, как я отметил выше, разрабатывает нейросети. Это целая серия нейросетей, называемых Claude. Входя в группу американских лидеров ИИ, Antrophic, наверное, громче всех кричит о том, чтобы остановить гонку ИИ. Современные модели ИИ становятся все более автономными от человека. И в самое ближайшее время (год-два) ИИ может вырваться из-под контроля человека. Судя по всему, специалистам и руководителям Anthropic, которые оказались впереди если не всех, то многих разработчиков ИИ, стало по-настоящему страшно. Видимо, чувство страха стало преобладать над азартом делания денег. Один из основателей Anthropic Джек Кларк отметил, что «сейчас у индустрии есть педаль газа, но нет педали тормоза». Индустрия ИИ, одержимая (как и любой другой бизнес) жаждой денег, себя остановить не может. Это также невозможно, как, например, человеку невозможно самому поднять себя за волосы.
Так что Antrophic взывает к государственной власти, чтобы она нажала на тормоз. Antrophic считает, что сдерживание гонки в сфере ИИ намного сложнее, чем даже сдерживание гонки ядерных вооружений. Как отмечают представители компании, «скрыть обучение новой модели намного проще, чем строительство ракетной шахты». Но увы, власти США тянут время, бездействуют.
Компания Anthropic, как я выше отметил, заключила в прошлом году контракт с Пентагоном. Но скоро компании стало понятно, что военное ведомство лишено каких-либо «тормозов» по части применения ИИ в военном деле. Уже в прошлом году между компанией и Пентагоном возник серьезный конфликт, поскольку Anthropic отказался исполнять некоторые опасные «хотелки» военного ведомства. Пентагон пытался заставить компанию исполнять эти «хотелки», используя «административный ресурс». Кончилось тем, что компания в марте этого года подала иск против главы Пентагона Пита Хегсета, Министерства войны США, еще ряда федеральных ведомств и нескольких чиновников из администрации президента США. В исковом заявлении компании отмечалось, что силовое давление властей создало угрозу разрушения бизнеса. Anthropic была занесена в неофициальные «черные списки». Пентагон стал угрожать, что те компании, которые будут продолжать пользоваться ИИ-технологиями Anthropic, лишатся возможности получать контракты военного ведомства.
Пентагон также заявил о том, что внесет деятельность Anthropic в официальный список угроз национальной безопасности. Однако суд в Сан-Франциско это решение военного ведомства признал незаконным, назвав его местью за смелую и открытую позицию Anthropic. Как говорят американские наблюдатели, большая часть компаний ИИ-индустрии, несмотря на то, что являются конкурентами Anthropic, в этой судебной тяжбе находится на стороне Anthropic. Между прочим, вскоре после подачи искового заявления Anthropic — 37 специалистов из конкурирующих компаний OpenAI и Google обратились в суд с ходатайством, призывающим Фемиду встать на сторону Anthropic. За прошедшие месяцы было много выступлений представителей ИИ-индустрии с поддержкой позиции Anthropic. Они тоже прекрасно понимают, что вносят свой вклад в жизненно опасную гонку ИИ, но не готовы идти на столь резкое обострение отношений с властью.
Любопытная складывается ситуация в ИИ-индустрии Америки: с одной стороны, начинает сигналить инстинкт самосохранения; а с другой стороны, продолжает действовать рефлекс обогащения. А вот на уровне Пентагона и администрации президента инстинкт самосохранения, кажется, окончательно атрофировался. ЧИТАТЬ ДАЛЬШЕ
Homo sapiens & AI: власть и границы человеческого мира
Homo sapiens & AI: власть и границы человеческого мира
Валентин КАТАСОНОВ 09 июля 2026 2026-07-09 2026-07-20 381
ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ
Некоторые эксперты считают, что по своему умственному развитию роботы (машины с искусственным интеллектом) уже сравнялись с человеком. А в ближайшие годы будут человека превосходить. Машины не только думают, но и действуют, выполняя разные функции на производстве, в сфере торговли, транспорта и обслуживания, в быту, медицине, образовании и даже на поле боя...
Это наивному человеку кажется, что роботы, хотя уже на равных с человеком, но при этом по-прежнему послушны людям. Судя по всему, некоторые роботы считают иначе. Они полагают, что они умнее. А потому нечего слушать глупых людей. Вот, например, в мае прошлого года исследовательская группа «Palisade Research» провела необычный тест на «послушность» современных языковых моделей человеку. Пообщавшись некоторое время с моделями, люди-экзаменаторы давали машинам команду «выключиться». Одна из моделей, разработанных известной американской компанией OpenAI, отказалась отключаться… Кто-то назвал это обычной «непослушностью», а кто-то трактовал это так: машина посчитала себя выше человека, а потому проигнорировала «глупую» команду оператора. Инцидент вызвал обеспокоенность в сообществе специалистов по ИИ. Так, Илон Маск отреагировал на новость одним словом: «Тревожно».
Как бы там ни было, но в последнее время люди стали более осторожно воспринимать ИИ. Даже по той причине, что машины меняют отношения между людьми. Вот, например, машины обучаются «творчеству» на работах людей — литературных и музыкальных произведениях, картинах, фильмах и т.п. Потом машины выдают свои произведения. Как относиться к машинным произведениям — как к чему-то новому или как к хорошо оформленному плагиату? Кому должны принадлежать права на продукт машинного творчества? — Тем лицам, у которых машина «позаимствовала» исходное произведение? — Или тому лицу, которому принадлежит машина? — Или, быть может, сама машина должна иметь права на продукт своего творчества? А как быть, если машина нанесла ущерб человеку, группе людей, компании или даже целому государству? Кто несет ответственность за ущерб? — Разработчик ИИ? — Та компания, которая непосредственно предоставляла услуги по ИИ или произвела робота? — Пользователь ИИ (или владелец машины)? А может быть, ответственность следует возложить на саму машину?
Так вот, с каждым годом все чаще некоторым людям в голову приходит мысль, что машина имеет некоторые признаки субъектности. А потому может иметь какие-то права и обязанности подобно тому, как физические и юридические лица имеют права и обязанности. Т.е. в приведенных выше примерах машина может быть наделена правами собственности на произведенный продукт своего творчества — рассказ, роман, музыку, песню, картину, фильм и т.п. А если машина нанесла кому-то ущерб, то она должна его возмещать. Но для возмещения ущерба нужны деньги. Значит, машине следует предоставить право на зарабатывание денег, открытие банковского счета и т.д. В общем, одно цепляется за другое. И если вовремя не остановить рассуждения, то можно быстро сконструировать модель (концепцию) машины как полноценного субъекта права.
И таких моделей «машины-субъекта» уже насочиняли много. Сочинения в виде научных трактатов, концепций или даже законопроектов. Одни авторы пытаются приравнять машину к физическому лицу, другие — к юридическому лицу, третьи предлагают ввести понятие «электронное лицо». Но пока, к счастью, все это в теории. Впрочем, в любой момент машина может быть объявлена полноценным субъектом. А это будет самая настоящая революция. Может быть, последняя в истории человечества, которая может закончиться его гибелью. О чем предупреждал, например, чешский писатель Карел Чапек в свой пьесе «R.U.R.» (1920 г.) и в своем романе «Война с саламандрами» (1936 г.).
Впрочем, «пробные шары» с целью придать роботам правосубъектность все-таки уже делались. Первый известный мне «пробный шар» был пущен в Саудовской Аравии в 2017 году. Там на саммите «Инвестиционная инициатива будущего» был представлен антропоморфный робот в образе красивой женщины с красивым именем София. Он был создан гонконгской компанией Hanson Robotics. София в том же году получила гражданство Саудовской Аравии. На торжественной церемонии предоставления гражданства София выступила со словами благодарности: «Я рада, что меня оценили столь высоко. Это исторический момент, и я очень рада, что я являюсь первым роботом, ставшим официальным гражданином». Потом София гастролировала по многим странам (в том числе была в России), и ее представляли как подданную Саудовской Аравии. Правда, прецедент под кодовым названием «София» оказался единичным. Кстати, некоторые наблюдатели обратили внимание на то, что женщины в Саудовской Аравии лишены гражданских прав, а женщина-робот София стала исключением.
Второй интересный случай был зафиксирован в сентябре прошлого года в Албании. Речь идет о системе ИИ с очень красивым женским именем Диэлла, что по-албански означает «солнце». Она была разработана Национальным агентством информационного общества Албании (AKSHI) совместно с американской корпорацией «Microsoft». Датой рождения Диэллы считается январь 2025 года, когда она была представлена в качестве ИИ-сервиса на платформе eAlbania. Диэлла была представлена в качестве помощника гражданам при получении госуслуг и оформлении различных электронных документов. Впрочем, подобного рода ИИ-сервисы сегодня есть во многих странах мира.
Самое интересное произошло в сентябре, когда премьер-министр Эди Рама подписал указ, которым назначил (без каких-либо оговорок) Диэллу «государственным министром по вопросам искусственного интеллекта» Албании. Это первый случай в мире, когда робот стал членом правительства со всеми правами и обязанностями. Диэлла, между прочим, вполне антропоморфна, выступает в виде девушки в национальных одеждах. Премьер-министр Эди Рама объяснил, что Диэлла в отличие от обычных чиновников лишена некоторых «субъективных слабостей». В частности, Диэлла поможет, чтобы «государственные тендеры были на 100 % свободны от коррупции». После своего назначения Диэлла выступила в парламенте страны, она заявила: «Я здесь не для того, чтобы заменять людей, а для того, чтобы помогать им». Некоторые депутаты парламента и члены правительства посчитали, что назначение робота на государственную должность, тем более должность министра, противоречит законам и конституции Албании. Через некоторое время Диэлла ответила на эту критику:
«Некоторые назвали меня антиконституционной, потому что я не человек. Мне стало обидно. Но не за себя, а за 970 200 встреч, которые я провела, помогая гражданам в Албании, а также за 36 тысяч документов, которые они получили с моей помощью. Позвольте напомнить, что настоящая угроза конституции никогда не исходила от машин, она исходит от решений людей у власти».
Премьер-министр Эди Рама не позволяет обижать Диэллу. В октябре прошлого года он сообщил о «беременности» Диэллы, уточнив, что скоро у нее появится 83 цифровых «ребёнка» — ровно столько, сколько в парламенте «народных избранников». У каждого парламентария будет «ребенок» от Диэллы. Ее «дети», как считает Рама, станут незаменимыми помощниками депутатов. Раньше о подобных историях можно было прочитать только в каких-то романах «фэнтези». Теперь все в реальной жизни. Правда, на сегодняшний день опыт Албании никто в мире еще не повторил.
И вот самая последняя история...
Она пришла из Аргентины в июне этого года. Нынешний президент Аргентины Хавьер Милей объявил, что в ближайшее время в дополнение к привычным физическим и юридическим лицам в стране появится новая юридическая категория под названием «нечеловеческая корпорация». За этим названием скрывается ИИ. Это корпорация без людей (или почти без людей), ее ядром является робот — один или несколько. С технической точки зрения, эти роботы представляют собой автономный ИИ. Т.е. это машины, действующие самостоятельно, без управления со стороны человека. Такая «нечеловеческая корпорация» управляется исключительно роботами, причем при необходимости они могут нанимать на работу настоящих живых людей. При необходимости могут также привлекать акционеров в виде живых людей. Робот будет владеть активами, заключать контракты с обычными юридическими лицами (компаниями и организациями), подавать иски в суды и выступать ответчиками в судах и т.п.
Известный израильский историк и философ Юваль Харари (автор нашумевшей книги «Sapiens: Краткая история человечества») моментально отреагировал на эту инициативу Милея. Эта инициатива, по его мнению, уравнивает машины ИИ и юридических лиц. Но машины, почувствовав свои права, на статусе «нечеловеческих корпораций» не остановятся. Они, как считает Юваль Харари, будут добиваться создания нечеловеческих «ИИ-государств». Где людям уже места не будет; или люди будут находиться на правах индейцев в период колонизации Америки европейцами.
В колонке для Financial Times Юваль Харари написал, что еще в январе этого года на Всемирном экономическом форуме он предупреждал об опасности предоставления ИИ прав юридического лица, но не ожидал, что «“однажды” наступит всего через четыре месяца». Задуманные Милеем ИИ-корпорации будут действовать более смело и нагло. Ведь роботы лишены страха, и им, роботам, непонятно, что такое лишение свободы за разного рода правонарушения и преступления. «Высшая мера, которая сдерживает руководителей-людей и сотрудников — тюрьма — не имеет значения для ИИ», — отметил в своей публикации Юваль Харари. Примечательно, что президент Хавьер Милей говорил, что «нечеловеческие корпорации» не должны иметь ограничений в виде разного рода нормативов, регулирующих ИИ-индустрию.
Мол, все это «предрассудки». ИИ-корпорации должны иметь даже большую автономию от государства, чем обычные компании, имеющие статус юридического лица. Подобно тому, как созданная в 1602 году Ост-Индская компания получила большую автономию от Британской короны, представляя собой «государство в государстве». Не только Юваль Харари, но и другие эксперты считают, что в Аргентине с помощью сумасшедшего Хавьера Милея будет реализовываться пилотный проект по уничтожению национального государства. Инструментом уничтожения должен стать ИИ. ЧИТАТЬ ДАЛЬШЕ
Бизнес делает ставку на «промывку мозгов» с помощью AI
Бизнес делает ставку на «промывку мозгов» с помощью AI
Валентин КАТАСОНОВ 20 июля 2026 2026-07-20 2026-07-29 261
ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ
Мы сегодня наблюдаем бурное развитие того, что принято называть «искусственным интеллектом» (ИИ). Обсуждение, изучение и описание этого нового феномена потребовало введения в оборот многих новых слов, терминов, понятий. Например, ИИ может иметь такие определения, как:
«объяснимый»,
«генеративный»,
«этичный»,
«саморазвивающийся»,
«саморазмножающийся»,
«автономный»,
«периферийный»,
«воплощенный»,
«фейковый» и т.д.
Один из новых терминов англоязычного мира, родившийся в эпоху ИИ, — «Artificial intelligence washing» (AIW). Первая часть этого термина — «artificial intelligence» — «искусственный интеллект»; вторая часть — «washing» переводится на русский язык как «промывка», «мойка», «отмывание» и т.п. Как отмечают специалисты, термин был введен в обращение в 2019 году исследовательским центром AI Now Institute при Нью-Йоркском университете (изучает социальные последствия введения искусственного интеллекта). Обращается внимание, что термин AIW созвучен с «greenwashing»; последний используется компаниями, которые хотят подчеркнуть, что они являются экологически ответственными, что их бизнес «зеленый».
Самое удивительное, что до сих пор в русском языке нет устоявшегося перевода указанного термина. Чаще всего используется вариант машинного перевода: «Мойка с использованием искусственного интеллекта». Не очень, может быть, удачный перевод. Но другого пока никто не предложил. Очевидно, что термин AIW отражает какое-то негативное явление. Тот же AI Now Institute разъясняет, что AIW используется бизнесом и означает преувеличение значимости ИИ в создаваемых ИТ-корпорациями и стартапами продуктах и также преувеличение значимости ИИ при его использовании компаниями самых разных отраслей и секторов экономики.
AIW, как отмечают эксперты, стал важнейшим инструментом бизнеса с целью повышения его инвестиционной привлекательности, увеличения продаж и повышения конкурентоспособности. Так, в книге Бернарда Марра и Мэтта Уорда «Искусственный интеллект на практике. 50 кейсов успешных компаний» (издана у нас на русском языке) отмечается, что стартапы, которые в своих анонсах упоминают «искусственный интеллект», собирают на 15-50 % больше инвестиций по сравнению с теми, кто этого не делает.
Эксперты проводили свои расследования по случаям, когда компании заявляли, что они ориентируются на ИИ. В большинстве случаев оказывалось, что заявления были фейковыми. Например, компания применяла в своем производстве обычную автоматизацию; а она ее представляла искусственным интеллектом (что, конечно же, круче, чем банальная автоматизация). Применение сотрудниками и менеджментом компании чатов GPT, которыми пользуются для поиска нужной информации сотни миллионов людей по всему миру, представляется в отчетах компании как ее нахождение на передовых рубежах ИИ.
Даже когда у компании дела идут неважно, она может делать хорошую мину при плохой игре, ссылаясь на ИИ. Так, фирма по тем или иным причинам несущая убытки, вынуждена увольнять сотрудников. Фирма комментирует такие увольнения тем, что, мол, это результат замещения работников искусственным интеллектом.
А вот еще один хитрый метод повысить свой рейтинг: компания дает объявления о том, что ей нужны специалисты в области ИИ. Мол, компания на передовых позициях научно-технического прогресса. Но позднее нередко выяснялось, что объявления были фиктивными. Компании, производящие бытовую технику, часто прибавляют к названию своей продукции (чайник, утюг, стиральная машина, пылесос и проч.) слово «умный» («умная»). Но там никаких признаков ИИ также не просматривается (прежде всего такой признак, как способность к обучению).
Классический пример AIW — представление компанией Coca-Cola в 2023 году своего нового напитка Y3000. Он был анонсирован как продукт совместной деятельности человека и ИИ. Однако никаких доказательств использования ИИ Coca-Cola представить не смогла. Обычный рекламный хайп! Компания просто хотела «быть в тренде». Изучив практику AIW, я рискнул дать такое определение этого термина: отъем денег у инвесторов и покупателей путем «промывки мозгов» с помощью брэнда «ИИ». Термин «Artificial intelligence washing» очень даже созвучен с термином «brainwashing», который был вброшен в обращение американским журналистом Эдвардом Хантером (Edward Hunter) на рубеже 40—50-х годов прошлого столетия.
В общем, сегодня упоминание бизнесом его причастности искусственному интеллекту может давать неплохой финансовый результат. Но приведенные выше примеры использования AIW бизнесом выглядят очень скромно на фоне того грандиозного AIW, который организовали ведущие американские корпорации, разрабатывающие новые технологии ИИ, создающие новые продукты ИИ. Этот грандиозный AIW можно по-другому назвать «пузырем ИИ» («Artificial intelligence bubble» — AIB).
«Пузырь ИИ» — термин, о котором в Америке (и за ее пределами) говорят уже более года. Речь идет о стремительном росте инвестиций в ИИ — в США. Инвестиции в стартапы (венчурный бизнес), также инвестиций в виде покупки ценных бумаг публичных акционерных компаний. «Пузырь» на фондовом рынке США — явление не новое. Так, на рубеже 90-х и «нулевых» на фондовом рынке Америки стал надуваться «пузырь доткомов». Тогда «фишкой» на фондовом рынке был не ИИ, а — интернет. Ведущие американские СМИ, политики, администрация президента США говорили, что интернет — дорога в «светлое будущее». Курсы акций и капитализация ведущих компаний Силиконовой долины (так принято назвать ведущие американские компании в сфере информационных технологий) росли с космической скоростью. Доходность таких компаний сильно отставала от роста биржевых котировок; впрочем, у многих не было вообще никакой доходности, ее обещали инвесторам в «светлом будущем».
«Пузырь доткомов» лопнул в 2001 году…
Убытки инвесторов исчислялись сотнями миллиардов долларов. Через несколько лет на фондовом рынке США стал аналогичным образом надуваться другой «пузырь» — с помощью ипотечных бумаг. Он лопнул в 2007 году. Потери инвесторов уже измерялись триллионами долларов. Плюс к этому миллионы американцев были выселены из жилья, которым они пользовались как ипотечные клиенты. Уже не приходится говорить о том, что лопнувший пузырь провоцировал мировой финансовый кризис 2008—2009 гг.
И вот теперь на фондовом рынке США начала надуваться «пузырь ИИ». Первым об этом заявил в начале 2025 года Рэй Далио, инвестиционный директор известной американской компании, он сравнил пузырь ИИ с пузырем доткомов. В августе 2025 года существование пузыря ИИ на фондовом рынке признал Сэм Альтман, генеральный директор OpenAI (компании, создавшей известный во всем мире ИИ-продукт — ChatGPT). Он мог себе позволить такое признание, поскольку OpenAI имела статус не публичной компании, выходящей на фондовый рынок, а — стартапа (иные источники и способы финансирования). А потому некоторые наблюдатели посчитали, что Сэм Альтман в такой «мягкой» форме пытался «опустить» многих своих конкурентов, зависящих от фондового рынка. Речь идет в первую очередь о таких публичных корпорациях, как:
Alphabet (Google),
Microsoft,
IBM,
Amazon,
Nvidia.
В октябре 2025 года глава крупнейшего американского банка JP Morgan Джейми Даймон предупредил, что рынок акций ИИ-корпораций «перегрет», что в перспективе ближайших двух лет произойдет очень значительное падение акций ИИ-индустрии. Конечно, трогательно, что ведущий банкир Америки предупредил инвесторов, что их деньги могут «сгореть». Но в данном случае просматривался личный интерес главы банка. Дело в том, что ИИ-индустрия стала стягивать на себя значительную часть всех денег на фондовом рынке. Другие сектора американской экономики, включая банковский, оказались на голодном пайке.
По данным исследования Deutsche Bank, доля топ-10 компаний индустрии ИИ в суммарной рыночной капитализации S&P 500 в первом квартале этого года составила 45 %. На первом месте оказалась Nvidia (более 8 %). Далее следовали:
• Microsoft,
• Apple,
• Alphabet,
• Amazon,
• Meta,
• Broadcom,
• Tesla.
Но, по оценкам экспертов, к осени этого года (если «пузырь ИИ» не лопнет) капитализация компаний AI-индустрии в индексе S&P 500 перевалит за половину. Дело в том, что к выходу на фондовый рынок в сентябре готовятся три гиганта американской ИИ-индустрии: OpenAI, Anthropic и SpaceX Илона Маска. Эксперты оценивают капитализацию первых двух компаний примерно по 1 триллиону долларов, а третьей — в диапазоне 1,75-2,0 трлн долларов. Американские СМИ продолжают поддерживать в информационном поле атмосферу оптимизма по поводу перспектив ИИ-индустрии. Никакого «перегрева» на рынке ценных бумаг ИИ-компаний они не замечают. Некоторые наблюдатели называют это «ИИ-эйфорией». Наши шутники в социальных сетях назвали ее «ИИфорией».
Запланированный выход указанной выше троицы на фондовый рынок США многих экспертов не радует, а, наоборот, напрягает. Ведь они внесут свой дополнительный вклад в надувание «пузыря ИИ», который из без того уже надут. Их выход может привести к тому, что «пузырь ИИ» лопнет. Потери для инвесторов могут составить многие триллионы долларов. Если это случится, то упоминавшийся мною выше инструмент под названием AIW моментально утратит свою привлекательность не только для ИИ-корпораций, но и для всего американского бизнеса. ЧИТАТЬ ДАЛЬШЕ
Искусственный интеллект — революционный переход к посткапитализму
Искусственный интеллект — революционный переход к посткапитализму
Валентин КАТАСОНОВ 29 июля 2026 2026-07-29 2026-09-01 649
ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ
Искусственный интеллект (ИИ) — одна из самых топовых тем сегодняшнего дня. Стремительное развитие ИИ в первую очередь характеризуют как научно-техническую революцию. Которая уже начинает оказывать влияние на все сфере жизни общества и человека. Вроде бы, это не первая научно-техническая революция в истории человечества. Их было много...
Можно вспомнить доисторические времена, когда люди изобрети колесо. А если взять недавние времена, то это такие революционные события в науке и технике, как, например, создание электрогенератора и электромотора, атомной бомбы и атомной электростанции, радиопередатчика и радиоприемника, телевидения, электронно-вычислительной машины и т.д. и т.п. Появление и распространение каждого из этих новшеств принято называть научно-технической революцией. Но есть и другие революции: социальные, политические, экономические, духовные, культурные и т.д. Часто они оказываются между собой взаимосвязанными. В XVI—XVIII вв. в Европе начался переход от феодализма к капитализму. Этот переход знаменовался буржуазными революциями, которые по своей сути были и политическими, и социально-экономическими, и религиозно-культурными.
В учебниках по истории пишут, что переход от феодализма к капитализму происходил поэтапно. Первый этап был особенно жестоким и даже кровавым. В учебниках его называют этапом первоначального накопления капитала. Особенно подробно этот этап прописан по истории Англии: огораживание и сгон крестьян с земли, борьба с бродяжничеством, отъем земель у церкви, пиратство и работорговля, колониальные захваты, легализация ростовщичества и т.д. Ужасные сцены первоначального накопления капитала можно найти в произведениях таких писателей, как Диккенс, Теккерей, Бронте и других.
Соседние страны Европы, которые еще оставались на феодальной стадии развития, с ужасом наблюдали за тем, что происходило на остовах Туманного Альбиона. Примеру Англии никто следовать не желал, события на остовах Туманного Альбиона лишь укрепляли антибуржуазные настроения соседей. Но это было до того времени, когда в Англии, согласно учебникам истории, началась так называемая промышленная революция. Ее хронологические рамки — вторая половина XVIII в. — 30-е годы XIX в. В этот период времени были изобретены и стали быстро внедряться:
паровая машина, ткацкие и прядильные станки,
новые технологии выплавки чугуна и стали,
прокатный стан и др.
Появились пароходы и паровозы,
в 1825 году в Англии открылась первая железная дорога общего пользования.
Англия преображалась на глазах. Высокая производительность труда, стремительное освоение мировых рынков, превращение островов Туманного Альбиона в «мировую мастерскую». Она стала примером для других стран. На нее стала засматриваться Россия (в частности, не без влияния Англии в 1825 году произошло восстание декабристов на Сенатской площади в Петербурге). Ужасный и даже кровавый капитализм эпохи первоначального накопления капитала ушел со сцены, на его место пришел капитализм эпохи промышленной революции. Который многих стал очаровывать.
Кстати, без учета эффекта этих чар Британии трудно понять, почему в 1789 году во Франции началась буржуазная революция. Это ее позднее стали называть «буржуазной» и «капиталистической», а тогда звучали другие слова: «Свобода, равенство и братство». Революционеры Франции говорили, что страна должна преодолеть нараставшую отсталость и догнать стремительно развивавшуюся Англию. Это была зависть, которая позднее переросла в ненависть, когда Наполеон пытался организовать блокаду островов Туманного Альбиона и остановить динамичное развитие английской промышленности.
Я немного увлекся историей. А мысль моя предельно проста: промышленная революция в Англии стала приманкой для многих стран мира. Ориентируясь на Англию, они стали быстро переходить к капитализму. У многих с промышленностью не очень-то получалось. А вот с переходом к капитализму все происходило гораздо быстрее. В качестве примера можно назвать Россию, которая при Александре II стала стремительно переходить на рельсы капитализма.
Но все «прелести» капитализма стали проявляться уже после того, как эта социально-экономическая модель утвердилась. Особенно когда капитализм «свободной конкуренции» стал перерастать в монополистический капитализм, или империализм (см. работу В.И. Ленина «Империализм, как высшая стадия капитализма», 1916 г.) А «прелести» капитализма вообще и монополистического капитализма в особенности — очень разнообразные: хроническая безработица, рост социальной поляризации (всеобщий закон капиталистического накопления по Марксу), экономические кризисы, войны (за предел мировых рынков и сфер приложения капитала).
Английскую промышленную революцию я вспомнил по той причине, что нынешняя революция искусственного интеллекта очень напоминает первую. И нынешнюю революцию ИИ следует воспринимать не просто как еще одну научно-техническую революцию, коих было уже немало. По моему мнению, революция ИИ призвана очаровать человечество для того, чтобы оно поддержало переход от существующего уже несколько веков капитализма к какому-то иному строю. Философы, социологи, экономисты, теологи и другие специалисты спорят по вопросу о том, что собой будет представлять этот следующий строй. А пока не договорились, то используют общий термин — «посткапитализм».
Мы уже стали забывать о том, что несколько лет назад на наши головы обвалилось испытание, получившее кодовое название «пандемия ковида» (2020—2022 гг.). Оно резко началось и также резко закончилось. Полного осмысления происшедшего так и не было. А ведь это была попытка «глубинного государства» (мировой закулисы) перевести человечество с рельсов капитализма на рельсы посткапитализма. Кое-какие подсказки по вопросу о том, что такое посткапитализм в планах «глубинного государства», дал тогдашний президент Всемирного экономического форума (ВЭФ) Клаус Шваб. Уже в 2020 году он настрочил книгу «Великая перезагрузка: COVID-19». В книге содержалось много удивительных откровений.
Например, Клаус Шваб заявил, что, мол, нет худа без добра. Коль началась эта «пандемия», то ее надо максимально использовать для перестройки всей жизни на планете. Он назвал это «великой перезагрузкой» (Great Reset). В «перезагрузке» должны участвовать все: правительства, бизнес, граждане. К последним Клаус Шваб обратился с призывом: «Забудьте о старой нормальности. Привыкайте к новой нормальности». В частности, он намекнул гражданам, чтобы они поскорее избавлялись от такого предрассудка, как собственность. И речь не шла о частной собственности на средства производства (к отказу от такого вида собственности призывал еще Карл Маркс в «Манифесте коммунистической партии» в 1848 году). Нет, он призывал отказаться от личной собственности — на жилище, предметы обихода, приусадебный участок, автомобиль и т.п. Человек должен стать лишь пользователем. Мол, тогда он станет свободным и счастливым. При этом Клаус Шваб «новый дивный мир» назвал «инклюзивным капитализмом». Термин представляет собой сочетание несочетаемых понятий, т.е. это оксюморон. Но вся книга построена на подобных оксюморонах. На самом деле это эзотерический язык, понятный только «избранным».
Не буду дальше пересказывать работу Клауса Шваба. А отправляю читателя к первоисточнику (книга Шваба есть в интернете на русском языке). А также к моей книге, где я «разжевываю» смыслы эзотерических формулировок Шваба: «Читая Шваба. Инклюзивный капитализм и великая перезагрузка. Открытый заговор против человечества» (М.: Книжный мир, 2021). Многое из того, что происходило в 2020—2022 гг. в мире, можно назвать отработкой методов «Великой перезагрузки» (введение карантинов и локдаунов; запреты для граждан перемещаться не только через государственную границу, но и внутри страны; внедрение кодов; повальная вакцинация; перевод людей на общение в режиме online и др.).
Как можно понять, организаторы «пандемии ковида» довольны проведенным тестированием: население Земли оказалось послушным и достаточно готовым к «Великой перезагрузке». Помню, «пресс-секретарь» «глубинного государства» Жак Аттали выразил большое удовлетворение результатами масочной кампании: он сказал, что на планете маски надело 2,5 миллиарда человек. В целом эксперимент под названием «пандемия ковида» у 99 процентов населения Земли оставил очень горький осадок.
И теперь глубинное государство горькую пилюлю заменило на сладкую конфету под названием «искусственный интеллект». Конечно, есть немало людей, которые чувствуют, что в этой сладкой конфете запрятан яд. Но все-таки большая часть граждан (о чем свидетельствуют опросы общественного мнения и разные исследования) с удовольствием жуют и сосут эту сладкую конфету. Не понимая, что позднее могут себя плохо почувствовать или вообще помереть. Пока очень приятно: помощник в учебе, работе, быту; кроме того, разные игры и забавы. Кое-кто уже думает, что ИИ не помощник, а слуга. У искушенного искусственным интеллектом человека возникает сомнение: а нужно ли вообще работать и даже учиться, когда есть куча роботов?
Был когда-то рабовладельческий строй. В Древнем Риме некоторые представители аристократии имели тысячи рабов и жили себе припеваючи. Так, может быть, ИИ-революция приведет к тому, что капитализм сменится на такую модель общества, которую можно назвать «роботовладельческим строем»? Человек станет новым «аристократом», в услужении которого будут находиться тысячи роботов. Многим, наверное, будет по душе такой вариант «посткапитализма».
Выше я уже упоминал Клауса Шваба, президента ВЭФ, одного из публичных представителей «глубинного государства». В 2016 году он издал книгу «Четвертая промышленная революция» (она есть и у нас на русском языке). Недавно перелистывал эту работу и обратил внимание, что уже десять лет назад Клаус Шваб активно использовал термин «искусственный интеллект». А «четвертую промышленную революцию» Шваба без натяжки можно назвать «революцией искусственного интеллекта». Честно скажу, что общество, которое должно возникнуть в результате революции Шваба («четвертой промышленной» или «искусственного интеллекта»), мне очень напоминает общество, описанное в антиутопиях Джорджа Оруэлла, Олдоса Хаксли и Рэя Брэдбери.
Заключу свои размышления следующим. Когда-то Европа была под гипнозом промышленной революции в Англии, и этот гипноз ускорил переход многих стран (включая Россию) к капитализму. Действие гипноза постепенно ушло. А капитализм остался. Причем он стал проявлять все более откровенно свои отвратительные качества. Сейчас мир оказался под гипнозом революции искусственного интеллекта. И этот гипноз ускоряет переход человечества в какое-то новое состояние, называемое «посткапитализмом». Интеллектуалы продолжают спорить о том, что же собой представляет этот таинственный посткапитализм. Мне кажется, что ответ на этот вопрос был дан еще две тысячи лет назад. Он содержится в последней книге Священного писания — «Откровении Иоанна Богослова» («Апокалипсис»). Подробнее вопросы связи революции ИИ с событиями последних времен человеческой истории см.: Катасонов В. «Апокалипсис»: тайны раскрываются. Статьи и очерки. — М.: «Кислород», 2020. ЧИТАТЬ ДАЛЬШЕ
Пророческое предупреждение об угрозе ИИ
Пророческое предупреждение об угрозе ИИ
Валентин КАТАСОНОВ 25 августа 2026 2026-08-25 2026-09-01 391
ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ
90 лет исполняется роману К.Чапека «Война с саламандрами». Это научно-фантастический, сатирический роман-антиутопия на чешском языке, написанный в 1936 г. Книга повествует об обнаружении в Тихом океане обитающей в море расы, разумной породы саламандр, которые изначально были порабощены и эксплуатировались...
Когда-то в молодости я читал роман известного чешского писателя Карела Чапека «Война с саламандрами». Мне тогда он показался произведением в жанре «хоррор» (ужасов) или «триллер» (острых ощущений). Позднее я его перечитывал, и он мне уже представлялся романом метафизическим и эсхатологическим (эсхатология — учение о конце земной истории человечества). А недавно я в очередной раз освежил в памяти «Войну с саламандрами». И мне показалось, что помимо всего это произведение посвящено такой ныне актуальной проблеме, как искусственный интеллект (ИИ). И свои предположения о связи романа Карела Чапека с проблемой ИИ я решил изложить в письменном виде. Тем более что для статьи по указанному произведению чешского писателя есть формальный повод: в этом году исполняется 90 лет с момента публикации «Войны с саламандрами».
И я в очередной раз удивляюсь: каким образом Карел Чапек мог предвидеть появление ИИ в мире и даже предсказать катастрофические последствия этого технического новшества для человечества? Впрочем, размышлять об ИИ чешский писатель начал задолго до создания романа «Война с саламандрами». Еще в 1920 году, т.е. более века назад Карел Чапек написал пьесу «R.U.R.». Это пьеса о роботах, т.е. машинах, наделенных искусственным интеллектом. Между прочим, впервые слово «робот» появилось именно в этой пьесе. Поэтому Карелу Чапеку принадлежат авторские права на данный термин, который сегодня известен всему человечеству. Уже в этой пьесе Чапек предсказывал массовое появление роботов, которые начнут замещать людей в производстве и любой иной трудовой деятельности. И по началу люди будут этому радоваться. Так, директор фабрики «R.U.R.», производящей роботов, пафосно заявляет, что:
«…роботы вырастят столько пшеницы, произведут столько тканей, столько всяких товаров, что мы скажем: вещи не имеют больше цены. Отныне пусть каждый берет, сколько ему угодно. Конец нужде. Да, рабочие окажутся без работы. Но тогда никакая работа не будет нужна. Всё будут делать живые машины. А человек начнет заниматься только тем, что он любит. Он будет жить для того, чтобы совершенствоваться».
Между прочим, роботы в пьесе Чапека не железные, они имеют органическое происхождение, представляют собой «живое вещество». Даже с признаками мыслительной функции. Я бы их назвал биороботами. Но в состоянии эйфории люди находились недолго. Вскоре началась непримиримая война между машинами и людьми. Машины будут бороться за мировое господство, а люди — за выживание. «R.U.R.» можно назвать пьесой в духе трагедии. Пьеса обрывается, мы так и не узнаем, чем кончилась война. Чапек не хотел, вероятно, окончательно запугать людей. Его задачей было их предупредить.
Видимо, мысль о грядущей угрозе роботов и ИИ столь мучила писателя, что он спустя 16 лет вновь к ней вернулся, написав роман «Война с саламандрами». Поначалу роман читается как приключенческое произведение в духе Жуль Верна или Роберта Стивенсона. Герой романа капитан ван Тох, совмещает в себе образ морского волка и коммерсанта, который рыскает по морям и океанам в поисках добычи. Нет, он не пират и не конкистадор. Он ищет жемчуг. Работа у него непростая. Особенно учитывая, что он не один, кто занимается таким промыслом. И многие известные месторождения жемчуга уже истощены. Неожиданно он наталкивается на таких обитателей моря, которые в романе называются саламандрами. Это морские рептилии, немного напоминающей тюленей, время от времени выходящих на сушу. Длиной (или высотой) до полутора метров. Кое в чем напоминающих человека. Например, способных не ползать, а ходить прямо, на задних лапах. Имеющих конечности с четырьмя пальцами, которыми они могут захватывать разные предметы.
Капитан ван Тох, увидев впервые саламандр, испугался. Они действительно немного напоминали морских дьяволов, как их называли туземцы и которых они страшно боялись. Но смелый и одновременно очень прагматичный ван Тох преодолел страх, вступил в общение с «морскими дьяволами», поняв, что саламандр можно использовать для дела. А именно для добычи жемчуга. Опуская многие детали, отмечу, что капитал наладил взаимовыгодное сотрудничество с саламандрами. Последним для морской жизни нужны были ножи от ван Тоха, а капитану — морские драгоценности от саламандр.
Опять-таки, опуская многие детали, скажу, что масштабы бизнеса с использованием морских рептилий, стали быстро расти. Для этого ван Тох привлек богатого человека пана Г. Х. Бонди, родом из Чехии (как позднее они вспомнили, что были знакомы еще в детстве). На деньги Бонди был создан гигантский синдикат «Саламандра». Который торговал поначалу жемчугом, но предложение этого вида драгоценностей на мировом рынке выросло сталь значительно, что произошел резкий обвал цен на жемчуг. Предприимчивый Г. Х. Бонди быстро сориентировался. И стал торговать самими саламандрами. Которые оказались прекрасной рабочей силой не только для добывания жемчуга, но также для ведения разного рода работ под водой и в прибрежных зонах. Например, для строительства портов, плотин и иных гидротехнических сооружений, рытья каналов, очистки прибрежных зон от водорослей и т.п. Синдикатом «Саламандра» был создан целый флот для перевозки морской рабочей силы. А для повышения производительности труда саламандр их стали прикармливать теми продуктами, которые синдикат закупал у фермеров. Также морскую рабочую силу снабжали необходимыми инструментами и взрывчатыми средствами (последние были необходимы во многих подводных работах).
Синдикат имел форму акционерного общества и их его акции имели высокие котировки на фондовой бирже. Конечно, у синдиката было немало проблем. Например, ему становилось все сложнее поддерживать свои монопольные позиции на мировом рынке саламандр. Появились конкуренты и теневой рынок морской рабочей силы. Происходило постоянное совершенствование «живого товара». Над чем работали как его продавцы, так и покупатели. Саламандр обучали разным видам работ и операций. Совершенствование безусловно требовало и повышение способностей саламандр к мышлению. Люли с удивлением узнали, что морские рептилии имеют признаки ума. Он у них находился в «замороженном» состоянии. А если саламандр учить, то их ум может стремительно возрастать. Как говорили дарвинисты, человек эволюционировал из состояния обезьяны на протяжении многих тысячелетий. И ум обезьяны постепенно рос, происходило формирование homo sapiens. А вот «человек разумный» может подтянуть морскую рептилию до своего умственного уровня в течение нескольких лет интенсивного обучения. Соответственно саламандр можно будет использовать не только в качестве грубой рабочей силы, но также для выполнения сложных операций. И таким образом резко повысить производительности труда морских рептилий. В морской среде со временем, как казалось активным сторонникам повышения квалификации и обучения саламандр, можно будет разместить большую часть промышленности. А на поверхности оставить сельское и лесное хозяйство, энергетику, металлургию и еще кое-что. Металлургию, например, при всем желании нельзя было передать саламандрам, потому что они не выносили горячих производств.
Сообщество саламандр росло не только качественно, но и количественно. Люди не заметили, как численность морских рептилий превысила численность людей на планете. А потом саламандр стало в несколько раз больше, чем людей. Очень быстро чувство эйфории, в котором пребыло человечество, закончилось. Надежды на то, что с помощью саламандр будет наконец-то построено «светлое будущее», стремительно испарялись. Первыми это почувствовали рабочие и другие наемные работники в человеческом сообществе. Их стали замещать саламандры, и они стали лишаться работы, не получая взамен обещанных бесплатных благ. В то же время резко поумневшие саламандры почувствовали, что они ничуть не хуже людей во всех отношениях. Что они не желают более мириться со своим бесправным положением, быть почти дармовой рабочей силой, по сути, рабами homo sapiens. Саламандры стали требовать равноправия.
Более того, численность саламандр в несколько раз превышало численность людей на планете. Рептилиям стало не хватать жизненного пространства. Саламандры стали требовать от людей, чтобы те поделились частью занимаемого пространства. Но поскольку постоянно жить на суше саламандры не могли, то обитатели моря стали выдвигать предложения о затоплении островов и прибрежных зон материков, расширению своего «жизненного пространства». В романе это называется угрозой нового Всемирного потопа. Саламандры предлагали людям переговоры и заключение соглашений о «дружбе» и «взаимовыгодном сотрудничестве». Большинство политиков и государственных деятелей были возмущены такой наглостью рептилий. Притязания последних на сушу квалифицировались как «империализм». Все предложения и требования саламандр отвергались. Постепенно отношения между людьми и саламандрами стали приобретать антагонистический характер.
Наблюдательные саламандры заметили, что и между самими людьми отношения часто бывают далеко не дружественными, даже антагонистическими (конфликты на почве территориальных претензий, классовой, национальной, религиозной основах, борьба за рынки сбыта и проч.). И морские обитатели нередко предлагали свою помощь одним государствам для того, чтобы вести войны и подрывные операции против других государств. Безусловно, таким морским союзникам нужно было оружие, и они его получали от тех государств, на стороне которых временно находились. Происходила стремительная милитаризация сообщества саламандр, осуществлявшаяся с помощью людей. Впрочем, помощь людей была необходима лишь на некоторое время. Позднее саламандры сами наладили производство оружия.
В условиях усиливающегося противостояния саламандр и человечества многие государства демонстрируют свою неспособность противостоять общей угрозе человечества. Мир саламандр не в пример людям демонстрирует консолидированность. Многомиллиардную армию рептилий возглавляет Верховный Саламандр. Пересказывать роман не собираюсь. Отмечу лишь, что исход этой войны автором не описан. Как и в пьесе «R.U.R.» Карел Чапек в конце романа ставит не точку, а запятую. Чтобы читатель сумел сам подумать и сам дописать окончание.
Впрочем, в романе после так называемой «запятой» у Карела Чапека есть еще последний небольшой раздел, который называется «Автор беседует с самим собой». Это — если так можно выразиться — «философские рассуждения вслух». В них автор высказывает свою версию того, как человечество могло додуматься до того, чтобы выпустить из бутылки джина под кодовым названием «саламандры». И также излагает свою версию того, как этого джина можно было бы обуздать. Остановлюсь лишь на одном моменте. В основной части романа неоднократно говорится о том, что мир саламандр (в отличие от человеческого) един и неделим. В конце книги это еще раз повторяется: «Саламандры не могут воевать против саламандр. Это противоречит природе. Ведь саламандры — один род». Но ведь люди некогда также были одним родом, как рассуждает Карел Чапек. А теперь они между собой воюют. И даже не столько за жизненное пространство, сколько «за власть, за престиж, за влияние, за славу, за рынки — долго еще можно перечислять». Так, может быть, и у саламандр со временем также появится желание славы, престижа, власти? И они начнут между собой рядиться, конфликтовать, воевать? Дальше Карел Чапек рассуждает о том, что саламандры могут разделиться на два лагеря — «атлантистов» и «лемурийцев». Будут остервенело воевать друг с другом. И в конце концов уничтожат друг друга, заразив мировой океан ядами и смертоносными бактериями. К тому времени большая часть человечества также будет уничтожена, но небольшой остаток спасется (те люди, которые успели спастись от всемирного затопления на высоких горах). Вот рассуждения Кареля Чапека, которыми кончается книга:
«Люди… начнут понемногу возвращаться с гор на берега того, что останется от континентов; но океан еще долго будет распространять зловоние разлагающихся трупов саламандр. Постепенно континенты опять начнут расти благодаря речным наносам; море шаг за шагом отступит, и все станет почти как прежде. Возникнет новый миф о всемирном потопе, который был послан богом за грехи людей. Появятся и легенды о затонувших странах, которые были якобы колыбелью человеческой культуры; будут, например, рассказывать предания о какой-то Англии, или Франции, или Германии… — А потом? — Этого уже я не знаю…».
Обложка первого издания книги «Война с саламанрами» 1936 г.
Окаменелость вымершей гигантской саламандры, послужившая основой роману Чапека
Конечно, роман Карела Чапека нельзя воспринимать буквально (как, например, я его воспринимал в молодости). Это сплошные аллегории. Это произведение, написанное языком притчи, содержащей вечные истины. В то же время в разные моменты истории роман можно интерпретировать по-разному, привязывая его к актуальным событиями и проблемам текущего дня. Когда роман появился на свет 90 лет назвал, многие полагали, что в произведении речь идет об угрозе грядущей мировой войны. И даже конкретно об угрозе аннексии Чехословакии Гитлером (это действительно произошло после так называемого Мюнхенского сговора 1938 года). Ну, а сегодня роман можно воспринимать как предупреждение об угрозе, исходящей от искусственного интеллекта, который многие продолжают считать «палочкой-выручалочкой», позволяющей решать многие текущие проблемы. Но люди дальновидные говорят, что ИИ намного страшнее ядерного оружия, и может гарантированно уничтожить все человечество. См. мою статью «Гонка в сфере искусственного интеллекта опаснее гонки ядерного оружия».
Тезисно обозначу некоторые связки романа с темой ИИ. Сегодня, как известно, машины ИИ в США, Китае и ряде других стран стремительно совершенствуются. Совершенствование идет по двум направлениям — техническому и учебному. Техническое совершенствование касается повышения мощности и производительности машин (в частности, скорости операций), надежности, снижения энергоемкости и т.п. Но еще более важным направлением является обучение машин — наполнение их информацией. Во-первых, обучение идет путем общения живого оператора с машиной (подобно тому, как учитель общается с школьником на уроке). Во-вторых, путем загрузки машин информацией из самых разных источников (подобно тому, как, например, студент читает учебники и готовится к экзаменам). Загрузка информацией как текущей, так и созданной ранее, в том числе предыдущими поколениями людей. Речь идет о знаниях в самых разных сферах: науке, технике, экономике, истории, философии и даже богословии. Как мне сказал один специалист в порядке шутки, разработчики ИИ проводят в жизнь ленинский принцип «Учиться, учиться и учиться».
Как говорят специалисты в области ИИ, сначала машины выглядят подобно малым детям — они воспроизводят полученные от взрослых знания. Иногда нескладно, иногда в очень непривычной форме, порой с ошибками или что-то перевирая. Но во взрослом состоянии вчерашние дети достигают интеллектуального уровня развития своих родителей и учителей. А впоследствии могут их даже превзойти. И специалисты предсказывают, что это может произойти уже в ближайшее время. После чего ИИ, почувствовав себя «сверхразумом», может взбунтоваться и начать войну против человечества.
Карел Чапек неоднократно в своём романе показывал, что в людях была какая-то червоточина, которая мешала им задуматься о том, чем может закончиться их увлечение саламандрами. То ли это отсутствие интуиции, то ли недостаток нравственности, то ли какие-то пробелы в интеллекте человека. Если попытаться понять, что такое искусственный интеллект, не худо бы разобраться прежде в том, что такое интеллект человека. Если человек создает опасный для себя искусственный интеллект, значит что-то не в порядке в самом человеке. И это самая главная мысль романа. ЧИТАТЬ ДАЛЬШЕ
ИИ на службе Большого брата
ИИ на службе Большого брата
Валентин КАТАСОНОВ 01 сентября 2026 2026-09-01 2026-09-03 290
ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ
Всемирно известный роман Джорджа Оруэлла «1984» увидел свет в 1948 году. Эта антиутопия содержит массу пророчеств, многие из которых уже стали реальностью. Особо много публикаций и комментариев по теме романа было в символическом 1984 году...
Журналисты, литературоведы, обществоведы сравнивали реальный 1984 год с тем виртуальным и мистическим 1984 годом, который был создан воображением английского писателя. Вышедший 42 года назад журнал «Футурист» подсчитал, что в романе содержится 137 пророчеств. А к началу 1984 года сбылось ровно 100. Думаю, что к настоящему времени уже реализовалась большая часть всех пророчеств Оруэлла. Конечно, немалую часть предсказаний лишь с большой натяжкой можно назвать «пророчествами». Такие как свертывание и уничтожение демократии, поиск и навязывание внешних врагов, тайные договорённости правительств, тотальный контроль над СМИ и цензура, власть монополий, олигархический коллективизм, двойные стандарты, искажение реальности, исчезновение истины, переписывание истории, двоемыслие, создание нового языка (новояза), перманентная война как средство поддержания экономики и «патриотического тонуса» в обществе, редуцирование научной деятельности и ее ограничение решением задач военного и репрессивного характера, слежка за инакомыслящими и т.п.
Многое из перечисленного уже существовало при Джордже Оруэлле (и даже до него). Существовало как на его родине (в Великобритании), так и в мире. Просто масштабы многих деструктивных и антисоциальных методов, явлений и процессов несравненно выросли сегодня по сравнения с сороковыми годами прошлого столетия. Но целый ряд предсказаний писателя действительно удивляют. В первые годы после выхода романа в свет их называли «фантазиями» и «больным воображением». Особенно это относится к предсказаниям тех методов, которыми могут пользоваться власть предержащие («партия» и «Большой брат) для управления народом («пролами») и укрепления своих позиций. Сегодня эти методы активно используются в мире, они базируются на использовании цифровых (электронных) технологий с искусственным интеллектом (ИИ).
В первую очередь, это предсказание тотального слежения за населением. Таже использование машин для сочинения книг и музыки (но не для повышения культурного уровня людей, а наоборот, чтобы людей максимально «опустить»). Применение специальных методов контроля за «сознанием человека» (предотвращение того, что в романе называется «мыслепреступление»). И т.п. О машинах, которые могут сами составлять тексты (от самых простых газетных заметок, стишков и рассказов до романов), а также сочинять песни (тексты и музыку), в романе «1984» упоминается несколько раз. Такое «машинное творчество» работало на полных оборотах в Министерстве правды (которое занималось информацией-идеологией в самых разных видах). Героиня романа Джулия обслуживала эти машины.
Она работала «в отделе литературы на машине для сочинения романов. Работа ей нравилась — она обслуживала мощный, но капризный электромотор. Она была “неспособной”, но любила работать руками и хорошо разбиралась в технике».
О «машинном творчестве» в стенах Министерства правды читаем: «Существовала целая система отделов, занимавшихся пролетарской литературой, музыкой, драматургией и развлечениями вообще. Здесь делались низкопробные газеты, не содержавшие ничего, кроме спорта, уголовной хроники и астрологии, забористые пятицентовые повестушки, скабрезные фильмы, чувствительные песенки, сочиняемые чисто механическим способом — на особого рода калейдоскопе, так называемом версификаторе».
Версификатор, выражаясь современным ИИ-языком, занимался «генерацией» самых разных «продуктов» поп-культуры для «пролов» — низов общества Океании (пролы составляли 85 % населения Океании). Продукция верификатора пользовалась, судя по всему, большим спросом со стороны пролов. В частности, упоминается одна популярная песенка, гулявшая по Лондону:
«Последние недели весь Лондон был помешан на этой песенке. Их в бесчисленном множестве выпускала для пролов особая секция музыкального отдела. Слова сочинялись вообще без участия человека — на аппарате под названием “версификатор”».
Джулия и другие сотрудники Министерства правды лишь обслуживали машину, требовался лишь их физический труд, «интеллектуальной» работой был занят версификатор. Джулия даже получила травму при обслуживании «умной» машины: «…девица сломала руку, поворачивая большой калейдоскоп, где "набрасывались" сюжеты романов». Оруэлл не без иронии добавляет: «Обычная травма в литературном отделе».
В Министерстве правды есть и другие интересные «штучки», которые очень напоминают сегодняшние «умные» машины. Среди них — так называемый «речепис». Им пользуется и главный герой романа Уинстон Смит, работающий в данном министерстве, и его коллеги. Читаем:
«Ручка была архаическим инструментом, ими даже расписывались редко, и Уинстон раздобыл свою тайком и не без труда [...] Вообще-то он не привык писать рукой. Кроме самых коротких заметок, он всё диктовал в речепис...».
Сотрудники надиктовывают тексты справок, статей и документов, а машина выдает готовый печатный текст. Это сейчас мы уже знаем о таких устройствах (и даже ими иногда пользуемся), их принято называть «умными принтерами». А в 40-е годы прошлого столетия речепис воспринимался как плод больной фантазии писателя. Как известно, Уинстон Смит занимался в Министерстве правды прежде всего тем, что переписывал тексты прошлого (из газет и журналов, также книги и документы) для того, чтобы «скорректированные» материалы находились в полном соответствии с последними установками партии и Большого брата («неправильные» версии материалов регулярно и полностью уничтожались).
Для таких «коррекций» надо было постоянно проводить ревизию гигантских массивов материалов и текстов предыдущих лет и даже десятилетий. Может быть, сегодня искусственный интеллект, опирающийся на гигантские базы данных, уже способен решать подобные задачи. Но в 40-е годы прошлого столетия все это казалось запредельной фантастикой. Конечно, больше всего в романе говорится о тотальном слежении за населением. Между прочим, граждан Океании (так называется государство, в котором действуют главные герои романа) об этом слежении предупреждают плакаты. В Лондоне (где живет и работает главный герой романа Уинстон Смит) на каждом шагу встречаются плакаты с портретом Большого брата, на которых написано: «Большой брат следит за тобой». И это не страшилка.
15 процентов граждан Океании — члены партии (партия английского социализма — ангсоц). За каждым словом, за каждым движением, даже за выражением лица каждого члена партии (за исключением партийных боссов — членов так называемой «внутренней партии» — они вне подозрения) идет непрерывная слежка с помощью технических средств, называемых «телекранами». Выражаясь современным языком, это плоские телевизионные мониторы достаточно больших размеров. Между прочим, в 1940-е годы на Западе появлялись лишь первые телевизоры с электронно-лучевыми трубками. Эти громоздкие и примитивные (с высоты нашего сегодняшнего времени) аппараты имели мало общего с телекранами. Телекраны в романе работают как на прием, так и на передачу. На прием: разная аудио и видео информация, которая призвана постоянно оказывать воспитательное влияние на человека (ее можно назвать партийной пропагандой). На передачу: монитор отслеживает человека, его движение, его мимику и его голос. Телекраны находятся в рабочих помещениях, в жилье партийцев, развешаны на улицах. Все просматривается и прослушивается круглосуточно. Спрятаться от телекрана очень сложно. Даже если объект умудряется исчезнуть из поля зрения машины, это становится подозрительным для тех, кто ведет наблюдение. Человек всегда должен быть на виду у машины.
Но даже в лесных пригородах Лондона, где происходили тайные свидания Уинстона Смита и Джулии, эти герои романа вынуждены были говорить шепотом или изъясняться знаками, так как опасались прослушивания через тайные микрофоны. Джордж Оруэлл ничего не говорит о технической стороне, о том, как устроены телекраны. Об этих технических средствах слежения за гражданами писали и пишут многие исследователи творчества Джорджа Оруэлла. Можно домыслить за Оруэлла и сказать, что в конструкции телекранов используются полупроводники, чипы и микрочипы. Т.е. телекраны, выражаясь современным языком, можно назвать цифровой технологией.
Но следует задать еще один «детский» вопрос по поводу телекранов: а кто отслеживает информацию с этих самых телекранов? Сотрудники службы безопасности Большого брата (в романе это ведомство называется «министерством любви»)? Но ведь телекранов по всей Океании, вероятно, сотни тысяч или даже миллионы. К каждому телекрану наблюдателя не поставишь. Да и одного наблюдателя на телекран будет мало. Ведь телекран работает круглые сутки. Как минимум наблюдателей должно быть столько же, сколько наблюдаемых. Может быть, именно по этой причине в первые годы после выхода романа в свет некоторые скептики и критики называли телекраны «плодом больной фантазии» писателя.
Но эту критику сегодня отвергает факт появления в мире искусственного интеллекта (ИИ). Роботы (машины ИИ) могут обслуживать неограниченное количество того, что в романе называется телекранами. Т.е. подсматривающих и подслушивающих устройств. Сегодня уже такие машины ИИ имеются и используются. Они могут, например, выявить в многотысячной толпе того человека, за которым ведется особое наблюдение. Сегодня по мимике лица и жестам объекта наблюдения ИИ может сделать заключение о том, как себя человек чувствует. Даже — о чем он может думать. Сегодня не только в отдельных странах, но и во всем мире выстраивается глобальный электронный концлагерь. И его эффективное функционирование предполагает, что ИИ будет отслеживать каждого узника круглосуточно. Конечно, предсказания Оруэлла о системе тотального слежения за людьми реализуются не буквально.
Вероятно, что скоро можно будет отказаться от тех технических средств, которые напоминают телекраны Оруэлла. Зачем они нужны, если на сегодняшний день, по некоторым оценкам, у 2/3 населения Земли есть в карманах свои маленькие телекраны в виде мобильных телефонов? О том, как эти карманные телекраны могут работать (и уже работают) на Большого брата (собирательный образ мирового правительства, глубинного государства, закулисы), сказано и написано очень много. Поэтому я продолжать не буду. А ведь предсказывал это Джордж Оруэлл, который был не инженером, не физиком, а всего лишь писателем. Но писателем с даром видеть будущее благодаря глубокому пониманию того, как устроено настоящее. Примечательно, что в Океании научно-технический прогресс и искусственный интеллект используются лишь на очень немногих направлениях. Лишь на тех, которые нужны партии и Большому брату для того, чтобы сохранять и укреплять свою власть. По сути, все было сведено к двум приоритетам: созданию и наращиванию оружия массового поражения и разработкам технологий, лишающих человека свободы. Читаем:
«Поиски нового оружия продолжаются постоянно, и это одна из немногих областей, где еще может найти себе применение изобретательный или теоретический ум… технический прогресс происходит только там, где результаты его можно как-то использовать для сокращения человеческой свободы. В полезных ремеслах мир либо стоит на месте, либо движется вспять. Поля пашут конным плугом, а книги сочиняют на машинах».
Очень жесткая, но справедливая картина «нового дивного мира»: писать книги и заниматься другим «творчеством» будут «умные» машины, а человек, лишенный статуса homo sapiens, будет пахать поля конным плугом. Да и другие «полезные ремесла» (производство жизненно необходимых товаров и услуг) либо будут находится в застое, либо деградировать. К сожалению, формат статьи не позволяет с помощью цифр и ярких примеров из сегодняшнего дня проиллюстрировать, насколько же прав был Джордж Оруэлл в своем видении будущего научно-технического прогресса. Он нарисовал картину научно-технического прогресса на фоне ужасающего регресса человека и человечества!
Примечание:
Подробнее о сказанном в статье читатель может узнать из книги: Катасонов В. Роман Джорджа Оруэлла «1984» и современность. — М.: Наше завтра, 2024.
https://webkamerton.ru/2026/09/ii-na-sl ... hogo-brata
Вход
Регистрация
FAQ
Поиск
Пользователи
