Искусственный интеллект практически уже не нуждается в интеллекте человеческом
В 2014 в Вашингтоне мне посчастливилось взять интервью у академика Роальда САГДЕЕВА, физика с мировым именем, члена наблюдательного совета международного Люксембурского форума по предотвращению ядерной катастрофы, участвовавшего во времена ГОРБАЧЕВА в переговорах между СССР и США по ядерному разоружению.
В интервью, к слову, было сделано немало тревожных предсказаний, которые уже сегодня стали не очень радостной реальностью. Но сейчас внимание хотел бы обратить на следующий фрагмент:
"Вопрос: Насколько в условиях подобной риторики времен холодной войны, в ситуации, когда, возможно, дивизионы стратегических ракетных войск приведены в состояние повышенной боевой готовности, человечество может чувствовать себя спокойно?
Ответ: Это ключевой вопрос, даже если отставить в сторону вероятность реальной войны. Дело в том, что при существующей концепции ГВУ (гарантированного взаимного уничтожения) огромная роль отводится системе оповещения. Она основана на электронике: вычислительные машины, обработка данных радаров, спутниковых наблюдений и прочее. Мы знаем, что компьютерные системы могут ошибаться. Это означает, что человечество поставило себя в зависимость от какой-то малейшей ошибки. В свое время я занимался вопросами разоружения (это была моя вторая специальность), участвовал в многочисленных конференциях, встречах с американскими экспертами. И на одной из конференций в Америке обсуждался вопрос: чему или кому человечество обязано, что в течение десятилетий холодной войны смогло все-таки выжить? Приводились многочисленные примеры, говорилось, что системы разведки вовремя оповещают, превозносилась мудрость руководителей. А один из участников конференции сказал: "Вы знаете, можно философствовать бесконечно, но я думаю, что мы выжили благодаря счастливой случайности". И это не просто слова. Дело в том, что уже несколько раз человечество подходило к таким электронным ошибкам, ложным сигналам, когда и та, и другая сторона готовы были нажать на ядерную кнопку. И сейчас, когда мы погружаемся в болото новой, пусть даже не полномасштабной холодной войны, а холодного мира, снова возникает эта опасность".
Слова академика Сагдеева вспомнил не случайно. Высказанные им опасения на днях развил патриарх американской внешней политики Генри КИССИНДЖЕР.
Архитектор американо-китайских и американо-советских отношений времён холодной войны, выступая неделю назад на форуме по международным делам Sedona Forum (ежегодный форум организуемый McCain Institute), характеризуя набирающий обороты кризис в отношениях с Китаем как "самую большую проблему для Америки и мира", сказал следующее:
"Мы создали технологию, которая превосходит все, что мы могли вообразить 70 лет назад. Во время советско-американской конфронтации ядерное оружие служило серьезной угрозой. Теперь к ядерной технологии добавился искусственный интеллект. Китай и США – лидеры в этой сфере. Это еще более приближает угрозу "судного дня".
Применение искусственного интеллекта означает, что человек и машина становятся партнерами, и машины могут обрести способность принимать собственные решения. "В ходе военного конфликта между высокотехнологичными державами это имеет колоссальные последствия", - предупредил Киссинджер.
Будем честными, от опасений и Роальда Сагдеева, и Генри Киссенджера, и многих других вдумчивых учёных и политиков, есть желание отмахнуться. И то верно, мир сегодня к проблеме ядерного противостояния крупных держав как-то попривык и все больше обеспокоен состоянием мировой экономки, пандемией COVID-19, глобальным изменением климата, правами трансгендеров и легализацией наркотиков.
Однако с учётом услышанных не так давно от вице-президента по развитию WEB-технологий корпорации Amazon откровений, картина будущего, если задуматься, рисуется вполне тревожной.
Во время традиционного бизнес-завтрака Технологического Совета Северной Вирджинии (Amazon давно облюбовал Вирджинию для размещения своего бизнеса) вице-президент техгиганта Тереза КАРЛСОН (курировала проект Amazon по созданию для ЦРУ облачного сервиса) поведала присутствующим, что ввиду катастрофического дефицита на рынке труда специалистов по искусственному интеллекту, Amazon был вынужден приступить к обучению искусственного интеллекта (внимание!) навыкам самообучения. "И прогресс на этом направлении просто потрясающий и восхитительный!" - по-американски жизнеутверждающе подытожила докладчица.
Таким образом, Генри Киссинджер не так далёк от истины: искусственный интеллект практически уже не нуждается в интеллекте человеческом.
Интересно, что может думать прямо сейчас созданная людьми машина о своих создателях?
На день сегодняшний крупнейшие армии мира находятся в состоянии крайнего возбуждения. НАТО на европейском театре проводит беспрецедентные со времён холодной войны учения Defender Europe 2021. Россия осуществила масштабную концентрацию своих вооружённых сил у границы с Украиной. США на Аляске, для отработки противодействия Китаю в Арктике, развернули манёвры с участием 15 тыс. солдат и офицеров, морской пехоты, сухопутных войск, ВВС, ВМС, в том числе авианосца Theodore Roosevelt. Китай ускоренными темпами наращивает боевую группировку в Южно-Китайском море, а самолёты ВВС КНР систематически вторгаются в воздушное пространство Тайваня, намеренно провоцируя ПВО острова. И всё это, судя по заявлениям политиков, только начало.
Помнится, по сценарию голливудского блокбастера "Терминатор", искусственный интеллект Скайнет, получивший контроль над ядерными ракетами Соединенных Штатов, разочаровавшись в человечестве, запустил процесс ядерной катастрофы. Этот день стал известен впоследствии как "Судный день".
Кажется, уже не слишком рано задаться вопросом: станет ли художественный вымысел нашим сценарием в реальности? С ответом, надо полагать, тянуть не стоит, не тот случай.
Источник: страница Тимура Сейтмуратова в Facebook. Публикуется с разрешения автора.
