12 августа 2020 года Издательский Совет Русской Православной Церкви и Переславская епархия провели в рамках работы выставки-форума «Радость Слова» в городе Переславле-Залесском (Ярославская область) конференцию «Вызовы искусственного интеллекта».

Открыл конференцию вступительным словом епископ Переславский и Угличский Феоктист. По словам архиерея, развитие высоких технологий, связанных с искусственным интеллектом (ИИ), само по себе не может быть предметом обличения или восторга — все зависит от того, у кого они в руках и как используются. С бытовой точки зрения они уже получили широкое распространение, и с ними пользователи так или иначе сталкиваются постоянно. Искусственный интеллект вовсе не является неким электронным аналогом интеллекта человеческого. Это набор алгоритмов, которые под контролем недобросовестного человека могут стать орудием для манипуляции человеческим сознанием, в том числе и в массовых масштабах.

С докладом выступил председатель Издательского Совета митрополит Калужский Боровский Климент.

«Современная Церковь каждый день сталкивается с теми или иными плодами прогресса, — отметил в своем выступлении иерарх. — Это происходит в научно-технической сфере, культурной, общественной. Образ мышления человека стремительно изменяется. В потоке этих изменений все больше временного и все меньше вечного. Не дело Церкви давать научную или политическую оценку новым явлениям жизни, возникшим под влиянием прогресса. Но Церковь обязана давать им нравственную оценку с точки зрения учения Христа, имеющего вечную ценность. В частности, особое внимание Церковь должна уделить цифровизации, роботизации, искусственному интеллекту, глубоко вошедшим в нашу жизнь. Разработка рекомендаций по этим вопросам переданы в ведение Межсоборного присутствия — ими занимается Комиссия по вопросам общественной жизни, культуры, науки и информации. Исследуя их, не следует впадать в две крайности. Прежде всего, совершенно не правильно было бы махнуть на них рукой и сказать: “Церковь этим не занимается”. Церковь занимается всем, что занимает умы и сердца многомиллионных масс людей. Кроме того, недопустимо и безоглядное ретроградство. “Мы не можем говорить: все это душевредные новинки, Церковь их осуждает!” Технические открытия — результат действия в людях дара Божьего, то есть таланта к научной работе. Они порой несут безусловную пользу обществу. А вред, который они также могут принести, связан с неразумным или прямо злонамеренным использованием. Ножом можно отрезать хлеб, ножом можно и зарезать человека. Точно так же и сложнейшие информационные технологии: способны сильно облегчить жизнь, но также способны стать орудием оскорбления, ограбления, даже убийства в преступных руках».

Далее председатель Издательского Совета обрисовал возможности Церкви в сфере реагирования на вызовы со стороны искусственного интеллекта: «Церкви подобает роль нравственного стража. Овеянная мудростью вечности, она стоит между человечеством и пропастью, и ловит в шаге от обрыва тех, кто заигрался, кто легкомысленно ставит на кон как собственное благополучие и саму жизнь, так и благополучие и жизнь ближних. Церковь ничего не тормозит и не запрещает. Но она имеет право и обязанность предостерегать от ошибок, сделанных поспешно. Прогресс останавливать не нужно, да и невозможно. Однако следует пристально вглядываться в проблему цены тех или иных изменений, происходящих в нашем обществе. В этом контексте и следует обсуждать проблемы искусственного интеллекта».

По мнению главы администрации города Переславля-Залесского и Переславского округа В.А. Астраханцева, навязывание высоких информационных технологий — далеко не всегда благо. Так, например, давние обещания «разгрузить» управленческий менеджмент от бумажного делопроизводства оказались невыполнимыми, и архивы до сих пор растут. Что же касается Церкви, то она должна встречать сложности, порожденные разработками ИИ, во всеоружии, не догонять прогресс, не реагировать на его последствия постфактум, а встречать его мудрым живым словом, не боясь публично оценивать негативные явления.

Помощник председателя Издательского Совета Д.М. Володихин, лауреат Патриаршей литературной премии, доктор исторических наук, отметил, что развитие технологий, ориентированных на искусственный интеллект, породило в обществе обоснованную тревогу по нескольким направлениям. Люди, в частности, опасаются тотальной слежки и систематизации персональных данных, что может привести к шантажу в отношении отдельных личностей и целых групп населения. Другое опасение связано с тем, что боевой технике, управляемой искусственным интеллектом, может быть дана «автономия» в вопросах применения летального оружия по «живым целям». Еще один страх связан с дистанционным управлением техникой, жилищем, транспортными средствами и даже искусственными органами в живом человеческом теле, приобретенными на определенных условиях у собственника, притом, что собственник оставляет себе возможность компьютерного контроля за всем этим со стороны. Высказывались опасения, что сращивание мозга человека с нейрочипами и нейрокомпьютерными структурами в духе трансгуманизма породит монстров с «расширившимися возможностями», но без чести, совести и нравственности. Наконец, контроль над целым каскадом технологий, связанных с искусственным интеллектом, дает финансовым корпорациям, обладающим плодами разработок, слишком большую власть над людьми, превышающую даже власть законных правительств и локальных администраций. И Церкви в этом контексте следует вести проповедь с точки зрения Христовой веры: то, что несет в себе зло, должно получать публичную оценку как зло, но без призывов «остановить технический прогресс».

Известный писатель, лауреат престижных литературных премий Э.В. Геворкян суммировал прямые угрозы, явно исходящие от разработок технологии искусственного интеллекта. Это, во-первых, попытки создания имитационного интеллекта с целью атомизации общества (замыкание коммуникации индивида на машину, вне общения с другими людьми) и быстрого решения глобальных задач с помощью самой бессовестной социальной инженерии. И, во-вторых, это строительство своего рода электронного «кумира» — подобия Бога в виде «бога из машины», т.е. идола информационного мира, иначе говоря, техногенной нечисти.

Настоятель Свято-Троицкого Данилова монастыря г. Переславля игумен Пантелеимон (Королев) подчеркнул, что компьютерное моделирование процессов мышления человека позволяет нам посмотреться в техногенное «зеркало» и еще раз задать себе вопросы, правильно ли мы понимаем тексты и их настроение. Например, если ИИ в богослужебных текстах выделяет как основные глаголы «петь», «славить» и «радоваться», то правильно ли делать доминирующим печально-покаянное звучание богослужения? И если термины «пост» и «бдение» ИИ определяет как смысловую пару, стоит ли обратить дополнительное внимание на свое бодренное состояние и на количество сна Великим постом?

Конференция прошла в рамках плановой работы Комиссии Межсоборного присутствия Русской Православной Церкви по вопросам общественных отношений, науки, культуры и информации.

Источник: Патриархия.ru