О существовании новой угрозы на прошлой неделе говорили в ООН
Многие уже посмотрели фильм “Оппенгеймер”. Судя по отзывам, многим фильм понравился. Благодарные зрители пишут в социальных сетях о мастерской работе режиссёра, великолепной игре актёров, завораживающей музыке, впечатляющих спецэффектах. Словом, фильм получился.
Однако главное, на мой взгляд, это его своевременность. Не сочтите за морализаторство, но вам не кажется, что за 78 лет с момента появления ядерного оружия человечество изрядно расслабилось и стало относиться к сокрушительной технологии, способной уничтожить всю планету, с непозволительной легкомысленностью?
Сегодня не так редко можно услышать рассуждения о допустимости (и даже необходимости) применения ядерного оружия. И звучат подобные рассуждения вовсе не от наивных дурачков, а от серьёзных людей.
Например, от влиятельного российского политолога, почетного председателя президиума Совета по внешней и оборонной политике, имеющего прямой доступ в Кремль, Сергея КАРАГАНОВА (консультирует по вопросам внешней политики секретаря Совета безопасности РФ Николая ПАТРУШЕВА), опубликовавшего в прошлом месяце две статьи с впечатляющими заголовками и не менее впечатляющим содержанием: “Применение ядерного оружия может уберечь человечество от глобальной катастрофы” и “Выбора не остается: России придется нанести ядерный удар по Европе”, в которых призвал к нанесению Россией превентивного удара ядерным оружием по целям в Центральной и Восточной Европе.
И ведь профессор Караганов, судя по всему, совсем не одинок и артикулирует мнение определённых групп в российском военно-политическом истеблишменте, способных воздействовать на решения высшего руководства России.
Тем временем, словно ребёнок, нашедший гранату, человечество с любопытством уже вертит в руках не менее пугающую технологию - Искусственный интеллект, симбиоз которой с ядерным оружием может привести наш мир к непоправимым последствиям с немыслимой скоростью.
О существовании новой угрозы на прошлой неделе говорили в ООН. По словам генерального секретаря организации Антониу ГУТЕРРИША, использование ИИ террористами или правительствами с пагубными намерениями может привести к “ужасающим масштабам смерти и разрушений”. Он также напомнил, что сбои в работе ИИ могут привести к хаосу, особенно - если связанные с ним технологии будут использоваться вместе с системами ядерного оружия или биотехнологиями.
В общем-то, предупреждения подобного рода от обладающих многими знаниями и умудрённых жизненным опытом людей звучат давно. Два с лишним года назад в заметке “Сценарий судного дня, или О чём предупреждают Сагдеев и Киссинджер”, ваш покорный слуга поделился опасениями, высказанными на этот счёт академиком Роальдом САГДЕЕВЫМ и экс-госсекретарём США Генри КИССИНДЖЕРОМ.
С вашего позволения, поделюсь той публикацией ещё раз. К сожалению, происходящие в мире события в очередной раз подтверждают небезосновательность озабоченности, обозначенной два года назад, когда до начала войны в Украине оставалось девять месяцев. А ведь это именно тот случай, когда хотелось бы ошибаться.
Сценарий Судного дня, или О чём предупреждают Сагдеев и Киссинджер
06 мая 2021.
В 2014 в Вашингтоне мне посчастливилось взять интервью у академика Роальда Сагдеева, физика с мировым именем, члена наблюдательного совета международного Люксембурского форума по предотвращению ядерной катастрофы, участвовавшего во времена ГОРБАЧЕВА в переговорах между СССР и США по ядерному разоружению.
В интервью, к слову, было сделано немало тревожных предсказаний, которые уже сегодня стали не очень радостной реальностью. Но сейчас внимание хотел бы обратить на следующий фрагмент:
"Вопрос: Насколько в условиях подобной риторики времен холодной войны, в ситуации, когда, возможно, дивизионы стратегических ракетных войск приведены в состояние повышенной боевой готовности, человечество может чувствовать себя спокойно?
Ответ: Это ключевой вопрос, даже если отставить в сторону вероятность реальной войны. Дело в том, что при существующей концепции ВГУ (взаимное гарантированное уничтожение) огромная роль отводится системе оповещения. Она основана на электронике: вычислительные машины, обработка данных радаров, спутниковых наблюдений и прочее. Мы знаем, что компьютерные системы могут ошибаться. Это означает, что человечество поставило себя в зависимость от какой-то малейшей ошибки. В свое время я занимался вопросами разоружения (это была моя вторая специальность), участвовал в многочисленных конференциях, встречах с американскими экспертами. И на одной из конференций в Америке обсуждался вопрос: чему или кому человечество обязано, что в течение десятилетий холодной войны смогло все-таки выжить? Приводились многочисленные примеры, говорилось, что системы разведки вовремя оповещают, превозносилась мудрость руководителей. А один из участников конференции сказал: "Вы знаете, можно философствовать бесконечно, но я думаю, что мы выжили благодаря счастливой случайности". И это не просто слова. Дело в том, что уже несколько раз человечество подходило к таким электронным ошибкам, ложным сигналам, когда и та, и другая сторона готовы были нажать на ядерную кнопку. И сейчас, когда мы погружаемся в болото новой, пусть даже не полномасштабной холодной войны, а холодного мира, снова возникает эта опасность".
Слова академика Сагдеева вспомнил не случайно. Высказанные им опасения на днях развил патриарх американской внешней политики Генри Киссинджер.
Архитектор американо-китайских и американо-советских отношений времён холодной войны, выступая неделю назад на форуме по международным делам Sedona Forum (ежегодный форум организуемый McCain Institute), характеризуя набирающий обороты кризис в отношениях с Китаем как "самую большую проблему для Америки и мира", сказал следующее:
"Мы создали технологию, которая превосходит все, что мы могли вообразить 70 лет назад. Во время советско-американской конфронтации ядерное оружие служило серьезной угрозой. Теперь к ядерной технологии добавился искусственный интеллект. Китай и США – лидеры в этой сфере. Это еще более приближает угрозу "судного дня".
Применение искусственного интеллекта означает, что человек и машина становятся партнерами, и машины могут обрести способность принимать собственные решения. "В ходе военного конфликта между высокотехнологичными державами это имеет колоссальные последствия", - предупредил Киссинджер.
Будем честными, от опасений и Роальда Сагдеева, и Генри Киссенджера, и многих других вдумчивых учёных и политиков, есть желание отмахнуться. И то верно, мир сегодня к проблеме ядерного противостояния крупных держав как-то попривык и все больше обеспокоен состоянием мировой экономики, пандемией COVID-19, глобальным изменением климата, правами трансгендеров и легализацией наркотиков.
Однако с учётом услышанных не так давно от вице-президента по развитию WEB-технологий корпорации Amazon откровений, картина будущего, если задуматься, рисуется вполне тревожной.
Во время традиционного бизнес-завтрака Технологического Совета Северной Вирджинии (Amazon давно облюбовал Вирджинию для размещения своего бизнеса) вице-президент техгиганта Тереза КАРЛСОН (курировала проект Amazon по созданию для ЦРУ облачного сервиса) поведала присутствующим, среди которых был и ваш покорный слуга, что ввиду катастрофического дефицита на рынке труда специалистов по искусственному интеллекту, Amazon был вынужден приступить к обучению искусственного интеллекта (внимание!) навыкам самообучения. "И прогресс на этом направлении просто потрясающий и восхитительный!" - по-американски жизнеутверждающе подытожила докладчица.
Таким образом, Генри Киссинджер не так далёк от истины: искусственный интеллект практически уже не нуждается в интеллекте человеческом.
Интересно, что может думать прямо сейчас созданная людьми программа о своих создателях?
На день сегодняшний крупнейшие армии мира находятся в состоянии крайнего возбуждения. Россия осуществила масштабную концентрацию своих вооружённых сил у границы с Украиной. США на Аляске, для отработки противодействия Китаю в Арктике, развернули манёвры с участием 15 тыс. солдат и офицеров, морской пехоты, сухопутных войск, ВВС, ВМС, в том числе авианосца Theodore Roosevelt. Китай ускоренными темпами наращивает боевую группировку в Южно-Китайском море, а самолёты ВВС КНР систематически вторгаются в воздушное пространство Тайваня, намеренно провоцируя ПВО острова. И всё это, судя по заявлениям политиков, только начало.
Помнится, по сценарию голливудского блокбастера "Терминатор", искусственный интеллект Скайнет, получивший контроль над ядерными ракетами Соединенных Штатов, разочаровавшись в человечестве, запустил процесс ядерной катастрофы. Этот день стал известен впоследствии как "Судный день".
Кажется, уже не слишком рано задаться вопросом: станет ли художественный вымысел нашим сценарием в реальности? С ответом, надо полагать, тянуть не стоит, не тот случай.
Источник: страница Тимура Сейтмуратова в Facebook. Публикуется с разрешения автора.
ПОДПИСЫВАЙТЕСЬ НА НАШ КАНАЛ И ЧИТАЙТЕ НАС В TELEGRAM!
