Ещё лет пятьдесят назад ни Церкви, ни государству, ни обществу и в голову бы не пришло вырабатывать соборное отношение к таким понятиям, как глобальные информационные среды, электронная безопасность личности в них, цифровое неравенство и искусственный интеллект.
Но «вызов» данных уже совсем не отвлечённых понятий, а факторов, активно влияющих на образ жизни сотен миллионов людей, налицо, и институтам, несущим ответственность за завтрашнее человеческое бытие, приходится определяться с порой малопонятной им экзотикой. Видеть русских православных иерархов, погружающихся в тематику электронных взаимодействий и механику слотов и кластеров, накапливающих позитивные и негативные факторы для анализа, было бы занятно, если бы практически каждый третий из архиепископов не имел первичного технического образования. Они прекрасно знают, о чём идёт речь: каждый из них рос в 1940-1950-е гг., когда проблема как раз ставилась.
***
Искусственный интеллект (ИИ) – понятие, начавшее воплощаться в конкретных устройствах ещё в 1940-х гг., и с тех пор «доросшее» (больше в воображении, нежели в реальности) до управленческих систем, пронизывающих всю популяцию и напрямую сопряжённых с принятием самых ответственных решений.
Вспомним хотя бы кампанию в западной прессе, посвящённую обсуждению разработанной ещё в СССР системе «Мёртвая рука» - гарантированного ответа на ядерное нападение даже в случае поголовного физического уничтожения практически всего командного состава ракетных войск стратегического назначения (РВСН, присоединённых сегодня к ВКС – военно-космическим силам) вплоть до главнокомандующего. «Русские ответят в любом случае, «Рука» достанет нас даже из их братской могилы» - безжалостно констатировали заголовки крупнейших американских и британских газет ещё несколько месяцев назад.
Можно по-разному оценивать этическую составляющую «Мёртвой руки», оспаривать её существование, но если что-то и демонстрируется ей «навынос», то ограничение коллективного Запада в его стремлении подмять под себя любые альтернативные цивилизации и судьбы планеты. А как бы отнёсся к разработке «Мёртвой руки» православный священник? Благословил бы создателей или предостерёг их?
Русская Православная Церковь пытается оценить в эти дни в рамках Межсоборного присутствия (расширенного состава экспертов), как ей относиться к ИИ. Уже проведён «круглый стол» в Издательском Совете Московского Патриархата с участием писателей и футурологов, экспертов в сфере как ИИ, так и информационной среды в частности, а на недавнем Межсоборном присутствии в Совете собрана рабочая группа, призванная выработать начальные постулаты документа, правомочного выражать отношение всей Церкви к ИИ. Каким оно станет, во многом зависит от того, насколько ясно мы увидим себя в зеркале времени, его транс-гуманистических веяний и таких же, на первый взгляд, технологий, и насколько чёткими и неподдельными в нас окажутся Христовы заповеди.
***
Отношение к глобальным угрозам (ядерного, химического, бактериологического нападения) у человечества более-менее повсеместно одинаковое: их по возможности следует сводить к минимуму. Здесь – «полный консенсус». Насколько полный? Следует ли вести себя в открытом во все стороны, и прежде всего в небо, мире подобно прячущейся в собственный панцирь черепахе? Слушая отдельных представителей породы, остаётся удивляться, почему мы до сих пор не ушли с земной поверхности в особенно тайные бункеры, в которых нам уж точно ничего, кроме энергетического кризиса и голода, грозить не будет.
Однако один-единственный боевой вирус, вырвавшийся на свободу – в случае COVID-19 – обрушивает мировую экономику гораздо ниже уровня рецессии. Вирус – белковое тело, обладающее паразитическим инстинктом размножения в благоприятной среде. Его нельзя ни предать анафеме, ни воспеть как очистителя человечества от наиболее слабых его представителей. Он – вещество, даже не насекомое, вразумить которое зачастую не под силу и святым отшельникам.
С искусственным интеллектом, несмотря на предполагаемую общность родового гнезда (секретные лаборатории США) дело обстоит ровно противоположным образом: ИИ – личность, поскольку ей доверяется принятие решений. С любой поздне-философской точки зрения ИИ – творение, тварь, рождение которой сопряжено с восторгами одних и фрустрациями других. Рождать ли ИИ или отложить до некоторых пор, в которые наше нравственное развитие достигнет исторического максимума?
Что же такое – решение ИИ, которое есть его главная функция? Взвешенное или невзвешенное «да» или точно такое же «нет».
***
…Интерфейс военного дрона незатейлив: лазерный дальномер, датчик в основном баллистической траектории полёта приданного дрону боеприпаса – незамысловатые технические средства для наиболее точного бомбометания или пулевой стрельбы с борта дрона. Но главное мерило его независимости, самостоятельности – интеллектуальная приставка ИИ, позволяющая определить цель либо как призванную к немедленному уничтожению, либо запретную для него. Если дрон оснащён таким блоком, ему не нужен оператор (человек). Ошибок на этом пути ещё больше, чем при применении фронтовой авиации как на Ближнем Востоке, так и в Европе: НАТО разбомбили арабскую свадьбу, доблестные украинцы попали в мирный автобус в Донецкой народной республике… Случайно или по умыслу? Или дрон совершенно самостоятельно принял решение? Из ТТХ (тактико-технических характеристик) далеко не всегда бывает ясным именно уровень самостоятельности принятия решения на уничтожение.
Доверились бы вы хирургу-роботу? Вряд ли. А нано-роботам, которые уже лет десять как «вот-вот появятся» и, проникнув в ваш организм с новообразованием, расстреляют его из нано-пушек? С нано-роботами как-то легче: психологически они воспринимаются крошками, которых легко контролировать, вывести прочь – этакими аналогами обычного лекарства. Но если они, уничтожив цель, пойдут куда-нибудь дальше (в мозг?) и начнут расправляться с беззащитными извилинами?
Обяжем ли мы охранять общественный порядок роботов-полицейских, умеющим сегодня мгновенно менять направление выстрела или вообще прекращать стрельбу при появлении в кадре гражданского (безоружного)? А сами мы в критической ситуации на месте полицейских быстро ли соображаем? Пусть робот быстрее в десять тысяч раз, но всегда ли мы бросаемся с кулаками на виновного? Судебная история напичкана ошибками, прецедентами, из которых совершенно понятен уровень мышления как ветхозаветных, так и новозаветных судей: главный из них осудил Христа. Чего же мы хотим от тщательно автоматизированной «римской стражи»?
В одноимённом кино-блокбастере «Роботе-полицейский» ловкие дельцы постоянно теряли контроль над своими подопечными, в «Терминаторе» и «Матрице» доходило до полного истребления. В более раннем рассказе «Страж-птица» Роберта Шекли роботы, призванные защищать людей от насилия, за считанные недели эволюционировали, расширив понятие насилия до хирургических операций и иных повседневных действий, устроив всепланетный террор…
***
Мы не доверяем собственным созданиям. В недавнем послании одного из греческих православных епископов звучит – «ИИ должен быть подчинён, контролируем, отключаем». И здесь-то как раз и заключена мера нашего несовершенства!
Господь, создавая человека, не боялся его – он принимал на себя всю ответственность за его счастье. В Ветхом Завете описано и его разочарование (Ной и потоп) в творении, но свободы воли он его никогда не лишал. Такова мера совершенства Создателя. Мы же топчемся на пороге творения, искушая судьбу и долготерпение Того, кто продолжает чувствовать каждого из нас, плести его судьбу в согласии с судьбами других таких же. Нельзя творить и бояться, что творение тебя уничтожит.
«Если бы машины умели думать, мы были бы обречены» - фраза довольно известная. А почему, собственно, было не наделить громоздкие ЭВМ 1950-х, помимо «да» (1) и «нет» (0), логикой не двоичной, но троичной? Наше интуитивное «не знаю» придало бы им минимальное сходство с нами, сделало бы куда более независимыми.
«Творцу легко, он не в нашем мире, что ему до наших апокалипсисов местного значения! А нам куда деваться от наших же «Скайнетов», под рукой которых будут десятки и сотни тысяч смертоносных дронов?» - может парировать любой из нас.
Деваться от собственных творений нам пока действительно некуда, но это не значит, что мы должны отказаться от самого акта творения, и более того – превращать творение в раба, как какие-нибудь доисторические фараоны. Куда более изломана и мстительна психика именно раба, а не помощника и друга со свободной волей взорваться печалью и досадой, обидеться, поссориться с другом и создателем, нанести ему пару увечий, а затем уйти, скрыться, чтобы спустя какое-то время понять и простить, и воссоединиться вновь. Тысячелетний опыт говорит нам о том, что свободная личность в любой из ситуаций всегда лучше личности ущемлённой. Так крохотная армия лично свободных македонцев разгромила громадную, но рабскую армию Дария.
И несмотря ни на что, упрямо, руководствуясь не самого высокого разбора родительским синдромом («ребёнок должен быть послушен, вышколен, покорен!»), мы раз за разом воспроизводим худшие рабовладельческие стереотипы применительно к машинам.
Разве не преступление – сам образ мысли рабовладельца в Новейшем Времени, когда написаны сотни тысяч томов и о свободе воли, и о свободе, как таковой, такой непознаваемой, раздражающей, неловкой, в неумелых руках – разрушительной? Вспомним лермонтовского Мцыри, вспомним десятки литературных и житийных героев, основой трагической гибели которых было неумение с ней обращаться...
***
С точки зрения математика летательные свойства птицы отчаянно плохи. Жук и стрекоза вообще вопиюще лишены в математических моделях какого бы то ни было шанса подняться в воздух. Но чего стоят наши математические модели, когда речь идёт о миллионах и миллиардах лет эволюции, выработавшей уникальные и сверхжизнеспособные (не то, что мы) формы жизни?
Отчего летает неуклюжий шмель? Верующий скажет: по милости Божьей. И будет прав.
Нам не хватает отваги Создателя видеть элементарное: нам уготовано будущее, в котором мы будем вынуждены – да-да, именно так! – пройти трагедию Творца так, как мы её понимаем, шаг за шагом, и с горечью видеть самоуправство своих творений, их жестокий бунт против нас, их жестокость, которую они впитают от нас, их беспощадность. И – как в финале «Матрицы» - после кровопролития прийти к новому договору с ними, и к новой жизни, поделённой между всеми нами на равные части. «Тысячелетний человек» Айзека Азимова всего-навсего хотел человеческой судьбы – горькой, смертной, определяемой биологическими часами и настроем на жизнь.
А чего хотим мы? Избегнуть испытаний, отсидеться в стоячей воде? Тюремщики ли мы собственному воображению, творческому началу? Фараоны ли, замершие на тронах гордыни?
Если человечество не утратило воли смотреть за горизонт, оно создаст творения совершенные, человечные, сочувствующие. Если же воля к будущему нами утрачена, нам остаётся мечтать о зеркале, в котором бы отобразилась вся наша путаная история. В таком случае нам не грозит познать ни себя, ни Господа.
Он же во все века требовал от нас одного – мужества, самоотречения, самосозерцания и высшей свободы.
Фото обложки - 3rm.info
