Издательский совет Русской Православной Церкви и Переславская епархия 12 августа провели в Переславле-Залесском конференцию «Вызовы искусственного интеллекта».
Вступительное слово держал епископ Переславский и Угличский Феоктист. По словам владыки Феоктиста, развитие высоких технологий, связанных с искусственным интеллектом, само по себе не может быть предметом обличения или восторга. Всё зависит от того, у кого они в руках и как используются. С бытовой точки зрения они уже получили широкое распространение, и с ними пользователь так или иначе сталкивается постоянно. Искусственный интеллект вовсе не является неким электронным аналогом интеллекта человеческого. Это набор алгоритмов, которые под контролем недобросовестного предпринимателя могут стать орудием для манипуляции человеческим сознанием, в том числе и в массовых масштабах.
С фундаментальным докладом выступил председатель Издательского совета Русской православной церкви митрополит Калужский Боровский Климент. В его выступлении сообщалось, в частности: «Современная Церковь каждый день сталкивается с теми или иными плодами прогресса. Это происходит в научно-технической сфере, культурной, общественной. Образ мышления человека стремительно изменяется. В потоке этих изменений всё больше временного и всё меньше вечного. Не дело Церкви давать научную или политическую оценку новым явлениям жизни, возникшим под влиянием прогресса. Но Церковь обязана давать им нравственную оценку с точки зрения учения Христа, имеющего вечную ценность. В частности, особое внимание Церковь должна уделить цифровизации, роботизации, искусственному интеллекту, глубоко вошедшим в нашу жизнь. Разработка рекомендаций по этим вопросам переданы в ведение Межсоборного присутствия. Ими занимается Комиссия по вопросам общественной жизни, культуры, науки и информации. Исследуя их, не следует впадать в две крайности. Прежде всего, совершенно неправильно было бы махнуть на них рукой и сказать: «Церковь этим не занимается». Церковь занимается всем, что занимает умы и сердца многомиллионных масс людей. Кроме того, недопустимо и безоглядное ретроградство. «Мы не можем говорить: всё это душевредные новинки, Церковь их осуждает!» Технические открытия – результат действия в людях дара Божьего, то есть таланта к научной работе. Они порой несут безусловную пользу обществу. А вред, который они также могут принести, связан с неразумным или прямо злонамеренным использованием. Ножом можно отрезать хлеб, ножом можно и зарезать человека. Точно так же и сложнейшие информационные технологии: способны сильно облегчить жизнь, но также способны стать орудием оскорбления, ограбления, даже убийства в преступных руках». В этом вопросе митрополит Климент выразил полную солидарность с владыкой Феоктистом. Далее митрополит Климент обрисовал возможности Церкви в сфере реагирования на вызовы со стороны искусственного интеллекта: «Церкви подобает роль нравственного Стража. Овеянная мудростью вечности, она стоит между человечеством и пропастью, и ловит в шаге от обрыва тех, кто заигрался, кто легкомысленно ставит на кон как собственное благополучие и саму жизнь, так и благополучие и жизнь ближних. Церковь ничего не тормозит и не запрещает. Но Она имеет право и обязанность предостерегать от ошибок, сделанных поспешно. Прогресс останавливать не нужно, да и невозможно. Однако следует пристально вглядываться в проблему «цены» тех или иных изменений, происходящих в нашем обществе. В этом контексте и следует обсуждать проблемы Искусственного интеллекта».
Затем выступил глава администрации города Переславля-Залесского и Переславского округа Валерий Александрович Астраханцев. По его мнению, навязывание высоких информационных технологий – далеко не всегда благо. Так, например, давние обещания «разгрузить» управленческий менеджмент от бумажного делопроизводства оказались невыполнимыми, и архивы до сих пор растут взрывообразно. Что же касается Церкви, то она должна встречать сложности, порожденные разработками искусственного интеллекта, «во всеоружии», не догонять прогресс, не реагировать на его последствия постфактум, а встречать его с мудрым «живым словом», не боясь публично оценивать негативные явления.
Помощник председателя Издательского совета митрополита Калужского и Боровского Климента, Дмитрий Михайлович Володихин, лауреат Патриаршей литературной премии, доктор исторических наук отметил в своем вступлении, что развитие технологий, ориентированных на искусственный интеллект, породило в обществе обоснованную тревогу по нескольким направлениям. Люди, в частности, опасаются тотальной слежки и систематизации персональных данных, что может привести к шантажу в отношении отдельных личностей и целых групп населения. Другое опасение состоит в том, что боевой технике, управляемой искусственным интеллектом, может быть дана «автономия» в вопросах о применении летального оружия по живым целям. Еще один страх связан с дистанционным управлением техникой, жилищем, транспортными средствами и даже искусственными органами в живом человеческом теле, приобретенными на определенных условиях у собственника, притом, что собственник оставляет себе возможность компьютерного контроля за всем этим со стороны. Высказывались опасения, что сращивание мозга человека с нейрочипами и нейрокомпьютерными структурами в духе трансгуманизма породит монстров с «расширившимися возможностями», но без чести, совести и нравственности; в них угаснет образ Божий. Наконец, контроль над целым каскадом технологий, связанных с искусственным интеллектом, дает финансовым корпорациям, обладающим плодами разработок, слишком большую власть над людьми, превышающую даже власть законных правительств и локальных администраций. И Церкви в этом контексте следует вести проповедь с точки зрения Христовой веры: то, что несет в себе зло, должно получать публичную оценку как зло, но без призывов «остановить технический прогресс».
Известный писатель, лауреат престижных литературных премий Эдуард Вачаганович Геворкян суммировал прямые угрозы, явно исходящие от разработок технологии искусственного интеллекта. Это, во-первых, попытки создания имитационного интеллекта с целью атомизации общества (замыкание коммуникации индивида на машину, вне общения с другими людьми) и быстрого решения глобальных задач с помощью самой бессовестной социальной инженерии; и, во-вторых, это строительство своего рода электронного «кумира» -- подобия Бога в виде «бога из машины», т.е. идола информационного мира, иначе говоря, техногенной нечисти.
Настоятель Свято-Троицкого Данилова монастыря Переславля игумен Пантелеимон (Королев) подчеркнул, что компьютерное моделирование процессов мышления человека позволяет нам посмотреться в техногенное «зеркало» и ещё раз задать себе вопросы, правильно ли мы понимаем тексты и их настроение. Например, если ИИ в богослужебных текстах выделяет как основные глаголы «петь», «славить» и «радоваться», то правильно ли делать доминирующим печально-покаянное звучание богослужения? И если термины «пост» и «бдение» ИИ определяет как смысловую пару, стоит ли обратить дополнительное внимание на бодренное внимание себе и на количество сна Великим постом?
Конференция прошла в рамках плановой работы Комиссии Межсоборного присутствия Русской Православной Церкви по вопросам общественных отношений, науки, культуры и информации.
